“Maple-Preview” 是一款能在 iPhone 上达到每秒 120 token 的 Ternary 20B MoE 模型。该模型的发布在 Hacker News 上引发了关于小型大语言模型（LLM）定位的热烈讨论。 尽管许多用户对本地运行模型的高速度和便捷性感到印象深刻，但评论者也指出存在显著的“知识”缺口。由于小型量化模型依赖有损压缩，它们极易产生看似一本正经的幻觉。批评者认为，这些模型不应被视为通用知识库；相反，它们应侧重于强化逻辑推理和无缝调用外部工具（如本地网络搜索或数据库查询），以获取准确信息。 目前普遍的共识是，端侧人工智能的未来不在于将人类的所有经验塞入有限的参数中，而在于构建足够“聪明”的模型，使其能够判断何时将任务委托给确定性代码或外部工具。归根结底，用户将这些超紧凑模型视为与数据交互的专用接口，而非大型、高性能前沿模型的替代品。