新闻 · arXiv cs.AI
LLM智能体还需要被告知如何自我改进吗?
LLM智能体正日益自主驱动自身学习。自我改进方法将模型优化的各个组成部分交由模型自身完成。随着模型能力增强,这引出一个基本问题:这些能力越来越强的模型是否仍需要我们规定它们应如何自我改进?本文研究一种自主范式:在给定基本原语、资源和自我改进的总体目标后,智能体自行构建用于基于上下文优化的自学习算法。我们以游戏场景作为测试平台,给一个冻结的LLM智能体分配计算预算以及收集经验和更新文本文档的工具,并允许其自由实验,不施加外部循环,也不访问真实世界数据。我们发现,能力足够强的模型在这些条件下确实能够自我改进,并展现出与自我调节学习的经典认知框架以及机器学习中的构念相一致的策略。
en
