首页/如何看待观点:AI 的关键点不是prompt,而是Context Engineering?/
共1个回答0条评论

如何看待观点:AI 的关键点不是prompt,而是Context Engineering?

小胡小胡
排序方式:被封时间
时间排序由新到旧
  • 228 个点赞 👍

    prompting其实从来都不是AI 的关键点,尤其是在这两年,LLM的文本生成能力很强,即使你写不好prompt,市面上也有很多AI工具可以帮你做prompt enhancement。

    随着人们对Agent的能力要求越来越高,仅仅靠prompt也无法满足人们对AI的期待了,人们期待AI能「有记忆,懂用户」。因此,Context Engineering(上下文工程)就开始被关注到。

    context engineering,是指通过系统性构建、管理和优化 AI 模型的输入上下文,以提升模型在复杂任务中的理解与输出能力。

    其中包括几部分:

    第一是历史交互数据。例如多轮对话记录(用户与模型的历史对话内容),交互行为数据,(如用户操作日志,如电商推荐中用户多次浏览但未购买的商品类型)。

    第二,是context的总结。对话可以一直延续,但模型的上下文窗口有限,怎么记住之前的对话?当然是压缩,例如把最近5条对话的内容原封保留,再之前的内容总结一下。

    但更重要的,是领域知识与背景信息。

    AI的能力来源于两个方面 in-weights memory(训练集里学到的) 和 in-context memory(参考资料里学到的)。 in-weights memory基本上是很难修改的,但in-context memory 更容易修改和更新,你只要提供新的资料,正确的资料,模型就能有「新知」。

    下面有请

    出来挨夸。昨天知乎直答更新了一个功能:知识库支持公开分享了。

    这意味着啥?意味着,你现在使用直答问问题,模型参考的资料,是行业专家里帮你筛选出来的资料库,而不是search agent自己到处搜的资料。用过各种deep research的小伙伴会发现,模型有时候参考的搜索结果真的不靠谱。例如我搜索「桔了个仔」,search agent可能会返回「果园桔子大丰收」这样的结果给模型参考。

    而指定知识库后,我就可以只把这部分内容feed进in-context memory,这样,整个context会更纯净。例如我用

    创建的《【知识库】人工智能报告集》,就可以得到业内准确的关于AI Agent的研究总结。这就是clean context的好处。

    啊,我又不小心免费给知乎直答打广告了。(

    速速打盐粒给我!

    另外一个context Engineering的应用是Cursor rule,它能够整合多维度上下文信息,加速上下文检索,减少用户手动提供上下文的负担。Cursor rule 是用户为 Cursor 编写的一组指导说明,以配置文件形式存在,可用于定义上下文边界、设置相关性层次、控制访问模式等,能让 AI 更好地理解和处理代码库。有github网友提供了一些不错的cursor rule案例

    中午

    吐槽Cursor用不习惯,我的建议就是来点rule,其实也是context engineering一下。期待 的反馈。

    但是,context engineer看起来容易碰到上限,AI能力的发展方向,what is next?

    我认为是长上下文。这是大力出奇迹的方法。虽然目前很多长上下文模型表现并不好,但可能未来通过工程方法,新型架构的突破,长上下文模型会有质的飞跃。

    查看全文>>

    桔了个仔

1

  • 1
  • 跳至
Copyright © 2022 GreatFire.org