大语言模型中涌现的内省意识

大语言模型中涌现的内省意识
Emergent Introspective Awareness in Large Language Models

arXivLabs 是一个允许合作者直接在我们的网站上开发并分享 arXiv 新功能的框架。与 arXivLabs 合作的个人和组织都认同并接受了我们对于开放、社区、卓越和用户数据隐私的价值观。arXiv 致力于坚守这些价值观，且仅与遵守这些价值观的合作伙伴进行合作。如果您有能为 arXiv 社区增值的项目想法，欢迎了解更多关于 arXivLabs 的信息。

一项近期的研究表明，大型语言模型（LLMs）具备一种关于其内部状态的内省意识，尽管这种意识功能尚不稳定且依赖于语境。这一发现引发了 Hacker News 上的热烈讨论，反映了人们在意识本质问题上长期存在的哲学分歧。评论者们就“依赖语境”的内省是否成立展开了辩论，一些人指出人类的内省同样具有情境性。讨论的很大一部分集中于在人工智能语境下定义“意识”、“思考”和“推理”等术语的难度。怀疑论者认为，大型语言模型缺乏产生真正意识所需的生物硬件（特别是神经化学的作用），并将当前的观点斥为单纯的拟人化。相反，另一些人推测，如果内省是复杂架构中的一种涌现属性，那么“全局工作空间”内存或持续学习模型的未来进步，可能会促使人工智能产生更深层的自我意识。最终，这场讨论凸显了意识中挥之不去的“难题”：由于主观体验仍无法衡量，任何关于人工智能内在性的争论，往往揭示出的是参与者对思维定义的不同，而非软件本身的实际能力。

arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.

Both individuals and organizations that work with arXivLabs have embraced and accepted our values of openness, community, excellence, and user data privacy. arXiv is committed to these values and only works with partners that adhere to them.

Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs.

大语言模型中涌现的内省意识 Emergent Introspective Awareness in Large Language Models

大语言模型中涌现的内省意识
Emergent Introspective Awareness in Large Language Models