Claude Code 正在对请求进行隐写标记
Claude Code Is Steganographically Marking Requests

原始链接: https://thereallo.dev/blog/claude-code-prompt-steganography

请启用 JavaScript 和 Cookie 以继续。

最近的一项发现显示,Anthropic 的“Claude Code”在请求中使用了隐写标记,这在 Hacker News 上引发了激烈讨论。这些标记似乎旨在追踪用户身份,并防止模型蒸馏——即利用大模型的输出训练较小模型的做法。 评论者对该技术的意义看法不一: * **支持公司方的观点:** 一些人认为,保护知识产权免受未经授权的蒸馏是 AI 开发者的标准且必要的防御措施。 * **批评与质疑:** 许多用户将这种做法视为“类恶意软件”的行为。批评者担心 Anthropic 可能利用这些标记,对被怀疑有“不当”活动的用户进行隐蔽的限速、频率限制或提供质量较低的模型响应。 * **技术争论:** 持怀疑态度的人指出,这种指纹识别很容易被高级用户绕过,这让一些人怀疑这种手段是否仅仅是一种旨在威慑未经授权使用的“信号”。 * **哲学层面的反思:** 讨论演变成了一场关于 AI 伦理的更广泛辩论,人们质疑大型企业使用秘密手段来保护数据的讽刺性,毕竟这些数据在很大程度上是通过抓取公开资源来构建其模型的。 总体而言,社区对现代 AI 开发工具日益增长的不透明性和代理性质表达了越来越多的不信任。
相关文章

原文
联系我们 contact @ memedata.com