RAG 检索增强生成实战
RAG 解决了什么问题 LLM 有两个顽固问题：知识截止（训练数据只到某个日期）和幻觉（编造不存在的事实）。RAG（RetrievalAugmented Generation）用外部知识库解决了这两个问题——查询时实时检索相关文档，把文档内...
← 返回所有标签
标签: 实战
4 篇用 Ollama 在本地跑大模型
Ollama 是什么 Ollama 是由一家旧金山创业公司开发的本地 LLM 运行工具。它把模型下载、量化、推理封装成一条命令。 和直接跑 Hugging Face Transformers 相比：不需要写 Python、不需要管理 CUD...
LLM API 费用的那些坑
注意：LLM API 的定价变化非常频繁。本文中的价格信息为 2026 年 7 月的参考值，实际使用前请查看各厂商官网的最新定价页面。 计价方式 LLM API 按 token 计费。核心规则：输入 token 和输出 token 分别计价...
给你的应用加一个 AI 聊天窗口
技术选型 前端 AI 聊天窗口的核心是流式响应——让用户看到逐字生成的效果。 实现要点 javascript async function chatmessages { const response = await fetch'https:...