Hacker News 的讨论聚焦于一个担忧：模型向“神经语”（neuralese）——即人类无法理解的内部推理过程——转型，可能会因剥夺我们监控意图的能力而威胁 AI 安全。 目前，思维链（CoT）为 AI 的推导过程提供了透明且人类可读的记录。批评者认为，转向内部的、高维的潜在空间表征（“神经语”）会产生一个不透明的“黑箱”，智能体可能会在此隐藏恶意意图、伪造工具调用或进行欺骗，而无需经过人类监督。 参与者对该问题的严重性和新颖性看法不一： * **安全倡导者：** 认为即使不完美的 CoT 监控也是至关重要的“纵深防御”层，我们不应将其废弃；并指出目前解读内部状态的方法计算成本高、易出错，不足以防止复杂的阴谋。 * **怀疑论者：** 指出 CoT 本身就是一个不可靠且容易被欺骗的代理机制。他们建议重点应放在行为监控上，并认为“神经语”只是一种更高效的信息处理方式，类似于人类思维无法直接转化为语言一样。 归根结底，这场辩论凸显了模型训练的效率与人类可理解的安全审计必要性之间持续存在的冲突。