OpenAI首席研究官豪言AGI即将到来，模型自我研究背后挑战几何？

【导语OpenAI首席研究官Mark Chen宣称通用人工智能AGI即将到来认为模型能自主提出创新、进行自我维持的研究。但通往AGI之路并非坦途存在评测危机、持续学习等难题。】AGI前夜模型自我研究曙光初现Mark Chen表示我们正越来越接近模型能够自主提出更多创新、进行自我维持研究的世界。从2016年AlphaGo的“神之一手”到如今几乎每个领域都能看到AI的出色表现“模型自己做研究”不再是科幻桥段而是从已发生的“神之一手”自然外推的下一步。Scaling信念突破唱衰论调的底气面对“预训练已死”“语言模型到不了AGI”的唱衰论调Mark Chen相当激烈地反对。他认为Scaling曲线还没到头过去每次所谓的瓶颈都被OpenAI用新工程技巧或研究新洞见突破。OpenAI曾赌推理范式最终o1出世引爆行业这也是他坚信“模型自我维持研究不远了”的底气。Vibe Researcher人类工作被极限压缩Mark提出“Vibe Researcher”概念认为未来顶级研究员是“拿捏感觉”的人人负责出主意模型负责实现、执行、调度。OpenAI三年路线图目标是让模型做端到端研究但人类工作将被压缩到提出真正问题和判断答案是否有“灵魂”。AGI之路评测与持续学习的大坑Mark指出通往AGI之路存在诸多坑。评测方面出现“Benchmaxxing”刷榜现象公认金标准benchmark数量少经典测试对模型饱和公开的评测易失效。应对策略是分离评估与模型优化团队、大规模部署模型观察失败模式。持续学习方面模型能解决高难度问题却搞不定琐事关键在于“上下文”和持续学习能力这是全行业死磕的硬骨头。汤的隐喻AGI后人类的稀缺资源Mark Chen在被问到AGI实现后的愿望时表示想去开个面馆。这背后的深意是当AI能完成所有自我维持的科研人类最稀缺的资源将是“体验”机器无法赋予事物“温度”和“故事”。编辑观点AGI到来虽有曙光但挑战重重。评测和持续学习等问题需攻克人类在AGI时代也需重新定位自身价值发挥体验和品味等独特优势。