2021年,研究人员Emily M. Bender、Timnit Gebru、Margaret Mitchell和Angelina McMillan-Major发表了极具影响力的论文《论随机鹦鹉的危险性》(On the Dangers of Stochastic Parrots)。作者认为,大型语言模型(LLM)的运作方式是统计预测词序,而非真正具备理解力,并将其比作重复模式的鹦鹉。 在最近的一次采访中,Bender澄清说,这个比喻专门用于描述LLM,而非所有人工智能,其目的并非侮辱,而是一种描述性工具,旨在说明这些系统是“合成文本生成的机器”。她指出,当LLM的输出看起来很智能时,往往是因为人类将意义投射到了这些内容上。 Bender还批评“人工智能”这一术语是一个被过度炒作的笼统概念,它掩盖了从聊天机器人到蛋白质折叠模型等各种技术的本质。回顾过去,她认为自己最初的论文未能充分探讨如今被公认为现代人工智能基础的剥削性劳动实践和大规模知识产权盗窃问题。最终,Bender强调,社会必须清醒地认识到这些模型的技术局限性,才能对其监管和使用做出明智的决策。