一项发表在 OpenReview 上的最新研究表明，即使在人口统计学特征完全相同的情况下，大型语言模型（LLM）也可能自发产生社会偏见。 研究人员让大型语言模型进行了一项涉及四个虚构群体（Tufa、Aima、Reku 和 Weki）的多轮招聘模拟。尽管这四个群体的成功率完全相同，但这些模型却像以往研究中的人类参与者一样，倾向于过度依赖早期随机产生的结果。这些模型非但没有保持中立，反而“利用”了这些早期的成功，迅速形成了刻板的偏好，并导致了分层化的招聘模式。 研究结果凸显了人工智能对齐过程中的一个重大挑战：由于大型语言模型依赖于统计模式匹配，它们对“情境暗示”高度敏感。早期交互中微小的、随意的成功可能会让模型将这些结果视为事实依据，从而导致突发性且毫无根据的偏见。批评人士和研究人员指出，这一现象表明仅仅通过“训练”来消除偏见可能是不够的；问题的核心在于大型语言模型如何根据累积的、不完整的或含噪声的信息来更新其行为。该研究警告称，随着大型语言模型被整合进现实世界的决策框架中，这种将早期随机数据视为准则的倾向可能会在无意中使系统性不平等自动化。