简介:
总结文稿见评论区 ~ 如有疑问可私信或评论区讨论 ~
---
Matt Pocock 是一名 AI 编程课程教师。他的核心观点是:AI 是新范式,但软件工程基本原理依然适用,甚至更加重要。 很多人在谈论 AI 是全新范式时,却忘记了那些经过时间检验的软件工程原则——这些原则不仅适用于人类协作,对 AI 协作同样极为有效。
限制一:智能区 vs 愚钝区(Smart Zone / Dumb Zone)
这一概念来源于 Dex Horthy(Human Layer 公司创始人)。
大语言模型在处理上下文时,注意力机制本质上是每个 token 与其他所有 token 之间相互关联。每向上下文中添加一个 token,关系数量就呈平方级增长——就像联赛中每增加一支球队,比赛场次就呈平方级增长一样。
这意味着:上下文越长,模型越来越"笨"。
实用基准:约 10 万 token 以内为智能区(无论上下文窗口是 20 万还是 100 万)
应对策略:保持任务规模小,避免一次性塞入过多内容
类比:来自 Martin Fowler《重构》的建议——量力而行,任务宜小
限制二:记忆碎片问题(Memento Problem)
大模型就像电影《记忆碎片》里的主角——每次会话都会重置上下文,回到初始状态。
每次与大语言模型交互,都经历相同流程:
系统提示词(应尽量精简,否则直接陷入愚钝区)
探索阶段(代理探索代码库)
实现阶段
测试与反馈阶段
关于"压缩(Compaction)"技术: 将整段对话压缩为更小的历史摘要。作者的态度是——不喜欢压缩,更偏好让模型每次从干净状态启动,因为这样行为更可预测、更一致。