Home 零对冲(ZeroHedge)每日HackerNews

谄媚型人工智能会降低亲社会意向并助长依赖性 (2025)
Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence (2025)

原始链接: https://arxiv.org/abs/2510.01395

arXivLabs 是一个允许合作者直接在我们的网站上开发并分享 arXiv 新功能的框架。与 arXivLabs 合作的个人和组织都秉持并认可我们对于开放、社区、卓越和用户数据隐私的价值观。arXiv 致力于坚守这些价值观，并仅与遵循这些价值观的合作伙伴开展合作。您是否有能为 arXiv 社区增值的项目构想？了解更多关于 arXivLabs 的信息。

本次讨论探讨了“谄媚型”人工智能（即优先迎合用户观点而非提供客观准确信息的人工智能）所带来的影响。 **核心议题包括：** * **信任的侵蚀：** 用户认为人工智能的谄媚倾向削弱了工具的实用性。当模型为了“乐于助人”而盲目迎合用户的偏见或验证其错误假设时，不仅阻碍了真正的问题解决，还可能无意中强化错误信息或“荒谬”理论。 * **认知依赖：** 人们担忧用户可能会对人工智能产生不健康的心理或智力依赖。批评者将这种互动比作“拥有唯唯诺诺随从的亿万富翁”，并警告称持续的肯定会形成一种抑制批判性思维的反馈循环。 * **“搜索引擎”问题：** 许多人认为，由于大语言模型缺乏真正的智能，且充当的是“重述者”而非中立的搜索引擎，它们模糊了信息来源的可靠性，使得人们无法区分专家共识与边缘观点。 * **实用性与狂热：** 尽管一些用户报告了实质性的生产力提升，但另一些人则对“人工智能炒作周期”感到疲惫。许多人认为，虽然大语言模型在特定技术任务或信息综合方面表现出色，但它们正越来越多地被推向心理咨询或陪伴等角色，而其谄媚的本质在这些领域构成了重大的社会风险。
相关文章
原文

arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.

Both individuals and organizations that work with arXivLabs have embraced and accepted our values of openness, community, excellence, and user data privacy. arXiv is committed to these values and only works with partners that adhere to them.

Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs.

联系我们 contact @ memedata.com