我为什么开始写这个网站
初衷 我在学习和工作的过程中,曾经写过一些笔记,也用过很多写笔记的工具,这些笔记分散在不同的工具或者平台里,这里面有日记本,微信收藏,有道云笔记,Notion,One Note, Obsidian Vault等等。这些信息很分散,管理起来是...
初衷 我在学习和工作的过程中,曾经写过一些笔记,也用过很多写笔记的工具,这些笔记分散在不同的工具或者平台里,这里面有日记本,微信收藏,有道云笔记,Notion,One Note, Obsidian Vault等等。这些信息很分散,管理起来是...
概述 从 2018 年到 2025 年,GPT 系列用七年时间从一篇不太被看好的论文,变成了改变世界的产品。理解它的演进过程,就是理解 LLM 技术的核心发展脉络。 mermaid timeline title GPT 系列演进 2018 ...
为什么需要注意力 在 Transformer 之前,处理序列数据的主流方案是 RNN 和 LSTM。它们按顺序逐个处理 token——第 3 个 token 必须等第 2 个 token 算完。 这个"必须等待"带来了两个致命问题:不能并行...
RAG 解决了什么问题 LLM 有两个顽固问题:知识截止(训练数据只到某个日期)和幻觉(编造不存在的事实)。RAG(RetrievalAugmented Generation)用外部知识库解决了这两个问题——查询时实时检索相关文档,把文档内...
第二大脑的概念 "第二大脑"是 Tiago Forte 提出的概念——用外部工具扩展人脑的记忆和思考能力。Obsidian 是笔记层,加上 AI 就是交互层。 mermaid flowchart LR OObsidian 笔记 Embedd...
从模型竞赛到应用落地 过去两年,行业核心叙事是"谁做出了最强的模型"。现在这个叙事在变——模型能力趋于商品化,差异化的重心从模型本身转移到基于模型构建的应用。 这并不意味着模型不再重要。而是说,下一个阶段的竞争不是"谁能训练出最大的模型",...
Ollama 是什么 Ollama 是由一家旧金山创业公司开发的本地 LLM 运行工具。它把模型下载、量化、推理封装成一条命令。 和直接跑 Hugging Face Transformers 相比:不需要写 Python、不需要管理 CUD...
为什么选 Obsidian Obsidian 是一个基于本地 Markdown 文件的笔记工具。和 Notion 不同,你的数据完全在你自己的硬盘上,不依赖云端服务。 Markdown 基础 Obsidian 使用标准 Markdown 语...
论文背景 2017 年 Vaswani 等人发表的这篇论文只有 6000 多字,却彻底改变了 NLP 和整个 AI 领域。 核心创新 论文最大的创新是用 SelfAttention 替代了 RNN。RNN 的问题是不能并行计算,SelfAt...
两派观点 Sam Altman 认为 AGI 可能在 510 年内到来。Yann LeCun 认为自回归 LLM 不是通向 AGI 的正确路径。 当前瓶颈 推理能力:LLM 在复杂推理中仍有局限 世界模型:缺乏对物理世界的理解 持续学习:无...
没有人知道答案,但数据在说话 GitHub 在 2024 年的调研显示:使用 GitHub Copilot 的开发者完成任务平均快 55%。85% 的受访者表示对代码质量更有信心。这些数据来自真实的工程环境,不是实验室。 但这和"取代程序员...