「RAG」大模型的 RAG 主要用来解决什么问题? RAG 解决的三大问题(知识时效性、私有知识覆盖、幻觉);三者的共同根源是「知识被固化在模型参数里」;RAG 如何同时解决这三个问题(知识外置、实时检索注入、答案可溯源);知识管理与模型能力解耦的设计核心。 2026-08-12 追逐繁星 > RAG #AI #大模型 #LLM #RAG
「RAG」什么是 RAG?详细描述一个完整 RAG 系统的详细工作流程? RAG 的定义与「知识冻结」困境;RAG 与微调的本质区别;一个完整 RAG 系统的离线(文档加载 → Chunking → Embedding → 入库)与在线(Query 改写 → 向量检索粗排 → Rerank 精排 → 生成)两阶段流程;RAG 的核心价值(知识可热更新、答案可溯源)。 2026-08-12 追逐繁星 > RAG #AI #大模型 #LLM #RAG
「AI Agent」如何赋予 LLM 规划能力:CoT、ToT、GoT 与 Plan-and-Execute 规划能力是把 LLM 隐式的推理过程显式化;为什么需要规划(普通问答一口气生成答案、next-token 机制在多步任务上误差累积);CoT 思维链(最简单、Zero-shot/Few-shot 两种触发、写下的推理会成为后续依据、单条路径走错无法纠偏);ToT 思维树(生成→评估→剪枝循环、选优继续深入、成本是 CoT 的 3-5 倍甚至更高);GoT 思维图(树→图、中间结论可合并复用、适合多 2026-08-10 追逐繁星 > AI Agent #AI #Agent #大模型 #LLM
「AI Agent」Agent 的反思机制:评估闭环、两个粒度与防死循环 反思机制的本质是「生成 → 评估 → 改进」的有结构闭环,而非随机重试;为什么需要反思(LLM 一次性生成带来的四类毛病);评估 prompt 两个关键设计(明确检查维度、PASS 出口);改进 prompt 三要素输入;步骤级 vs 任务级两个粒度;多 Agent 互评比自我检查更好(自洽偏见);进阶方案 Reflexion(经验记忆)与 LATS(MCTS+反思);工程权衡与防死循环(2-3 2026-08-10 追逐繁星 > AI Agent #AI #Agent #大模型 #LLM
「AI Agent」Agent 记忆压缩:四种方法与 Prompt Caching 互补 记忆压缩要解决「空间有限、成本有压力」两件事;四种方法——滑动窗口(硬截断、金鱼记忆)、摘要压缩(丢前先提炼、层级式摘要)、重要性过滤(按价值打分、观察遮蔽)、结构化抽取(换载体、信息密度最高);三种维度(截 / 挑 / 换载体)可组合使用;Prompt Caching 是「计算层」优化,与「信息层」压缩互补而非替代;工程决策参考;Claude Code Auto-Compact 与 Cursor 2026-08-08 追逐繁星 > AI Agent #AI #Agent #大模型 #LLM
「AI Agent」Single-Agent 与 Multi-Agent 怎么选:选型标准与中心化编排 选型的判断标准——任务清晰/不长/无需分工就用 Single-Agent,context 撑爆、需要专业分工、有可并行子任务才上 Multi-Agent;Single-Agent 的本质与「链路可控」优势;中心化 Orchestrator 的职责与三种变体(静态路由 / 动态规划 / 自适应编排);去中心化在工程上不可用的四大问题;「两个问题」做选型决策 + 渐进式演进策略;A2A 跨框架协议趋势 2026-08-08 追逐繁星 > AI Agent #AI #Agent #大模型 #LLM
「AI Agent」什么是 Multi-Agent:两大驱动因素与三种协作模式 Multi-Agent 的两大驱动因素(context window 硬上限、单点专业度不足);三种协作模式(顺序流水线 / 并行扇出 / 辩论评审);「工作台干净」的案例对比(需求分析师 → 程序员 → 测试工程师);并行执行的双重收益(速度提升 + context 隔离);生产级框架选型(CrewAI / LangGraph / 微软 MAF);组织方式中心化 vs 去中心化。 2026-08-08 追逐繁星 > AI Agent #AI #Agent #大模型 #LLM
「AI Agent」Agent 的记忆机制:四层记忆分类与记忆模块设计 Agent 记忆的四种类型(感知/短期/长期/实体)与长期记忆的三种子类型(情节/语义/程序);设计记忆模块的三个核心问题:存什么、怎么存(向量库 + 关系库混合存储)、什么时候取(主动检索 + 按需检索);Context Window 管理的三种策略;知识图谱与记忆整合(去重/冲突消解/抽象提炼);「读-用-写」三阶段闭环。 2026-08-08 追逐繁星 > AI Agent #AI #Agent #大模型 #LLM
「AI Agent」复杂任务怎么拆:静态拆分、动态拆分与并行优化 为什么任务要拆分(context window 有限、「桌面太乱」);静态拆分与动态拆分的适用场景;依赖分析与 DAG 并行执行(端到端延迟可降 40%-60%);拆分粒度与「原子操作」标准;自适应拆分与 Replan 机制;拆分结果完备性/独立性/可验证性三大验证标准。 2026-08-07 追逐繁星 > AI Agent #AI #Agent #大模型 #LLM
「AI Agent」Agent 的三大范式:ReAct、Plan-and-Execute 与 Reflection Agent 的三种主流设计范式:ReAct「边想边干」、Plan-and-Execute「先规划再执行」、Reflection「质量增强 buff」;设计范式与推理模式的区别;动态 Replan 与 Reflexion 进阶机制;三种范式的 token 消耗对比与选型指南。 2026-08-07 追逐繁星 > AI Agent #AI #Agent #大模型 #LLM