Percy 开门见山定了基调:今天是数据部分的第二天。上一讲(Lecture 13)回答的问题是数据从哪来——互联网上是一堆活着的服务,数据要么被定期 dump、要么被爬,然后还有一堆法律与协议层面的问题(terms of service、版权、许可或 fair use)。
Percy 用一句话定了这一讲的调子:data is the most important thing to get right in language models。他给出的第一条证据不是技术论证,而是一个观察:去看公司实际披露了什么。
CS336 讲到第十七讲,主题一直是语言模型:输入 text,输出 text。但 Percy 开场的第一张图就把问题摊开了——真实世界是多模态的,文本只是其中一格。
Tatsu 开场先交代了一点课程事务(这一讲的 slides 上传晚了,现在已经在课程网站和 GitHub 上),然后把这节课在整个课程中的位置摆清楚:上一讲讲的是基础 Transformer,以及如何微调它的各个部件得到一个现代语言模型;这一讲要讲的是他认为"复杂得多、也高级得…
深度解读Contextual AI团队2026年预印本论文《Reflective Context Learning》,详解上下文空间优化与传统参数优化的同构性,以及RCL框架五大核心优化原语,为Agent无需参数更新即可持续自演进提供理论与实践指导。
Reflective Context Learning 组会报告演讲稿,8分钟汇报论文核心思想与五大优化原语。
在当前 AI Agent 技术快速发展的背景下,很多开发者都在探索如何构建高效可靠的 Agent 应用。本文整理了一场来自一线开发者的技术分享,聚焦于 Agent 实践中的真实经验、技术思考与设计哲学,希望能为正在探索 Agent 开发的同学提供参考。
大模型智能体工程化经历了三个阶段:提示词工程通过优化输入提升模型输出质量;上下文工程引入外部知识库解决记忆限制;最终形成部署生产级智能体的完整工程体系。
这篇博客是一份面向AI编程(Vibe-Coding)实践者的系统性Web开发入门指南。作者发现自己用AI快速生成应用时,对背后的技术原理和架构不了解,导致难以精细调整和维护代码,于是决定从零开始系统梳理Web开发知识,让自己能更好地“指挥”AI、理解并优化AI生成的代码。
Function Calling通过有监督微调让LLM学会将用户意图映射为结构化JSON输出,再借助推理时的约束解码确保JSON语法正确,最终由外部代理执行工具调用并返回结果,形成完整的意图-动作闭环。
Skill(技能)是Agent能力的模块化封装,通过定义明确的输入输出和执行逻辑,使Agent能够完成特定领域的复杂任务。本文详解Skill的设计起源、核心原理、实现范式(包括渐进式披露)及实际应用,结合OpenAI、Anthropic等大厂的技术实践。
深入解析LLM Agent三大经典范式:ReAct、Plan-and-Execute与Reflection。从设计思想到代码实现,理解边想边做、谋定而后动、三省吾身三种思维方式在AI系统中的应用。
个人认为,Agent是以大模型为核心驱动的下一代操作系统,通过代理层管理状态、扩展功能,实现从简单对话到复杂系统的进化。
NLP技术从传统统计方法演进至神经网络,Transformer凭借自注意力机制实现突破,成为里程碑,并催生了BERT、GPT等变革性模型。
RAG技术通过构建知识库和智能检索机制,为AI模型精准提供外部信息,解决知识过时和幻觉问题。它避免了昂贵的模型重训练,克服了直接输入长文本的低效性,是实现高效、准确AI应用的关键。