量化后gguf格式的模型调用方法

Modelfile.rar




https://github.com/ymcui/Chinese-LLaMA-Alpaca-3/wiki/ollama_zh

https://github.com/ymcui/Chinese-LLaMA-Alpaca-3?tab=readme-ov-file






ollama create llama3-chinese-inst -f Modelfile