标签: Ollama

用 Ollama 在本地跑大模型

Ollama 是什么 Ollama 是由一家旧金山创业公司开发的本地 LLM 运行工具。它把模型下载、量化、推理封装成一条命令。 和直接跑 Hugging Face Transformers 相比：不需要写 Python、不需要管理 CUD...