On-device LLM inference — optimized for Apple silicon.
In Production · SDK · Website
Onde powers live App Store apps with fully on-device chat — no server, no latency, no data leaving the device.
© 2026 Onde Inference
原文
苹果芯片的推理引擎
Inference Engine for Apple Silicon
原始链接: https://github.com/ondeinference/onde
在设备LLM推理——针对苹果芯片优化。已投入生产 · SDK · 网站。Onde为App Store中的实时应用程序提供完全在设备上的聊天功能——无需服务器，无延迟，数据不会离开设备。© 2026 Onde 推理
黑客新闻 新的 | 过去的 | 评论 | 提问 | 展示 | 工作 | 提交 登录
Apple Silicon推理引擎 (github.com/ondeinference)
2小时前 kampak212 发布，9点赞 | 隐藏 | 过去的 | 收藏 | 2条评论 帮助
robot_jesus 23分钟前 | 下一个 [–]
那么… 你具体是做什么的？
自述文件只有一句话。网站也没有更多信息。App Store的链接似乎指向同一开发者的“欧盟科技工作”应用。据称，它更私密、延迟更低、成本更低，并且可以离线工作… 但如何做到？
脉冲仪表盘似乎暗示着世界各地都有节点… 这是否是运行在Apple Silicon上的分布式推理引擎？回复
ryancnelson 26分钟前 | 上一个 [–]
很棒的工具。能写README文件吗？回复
指南 | 常见问题 | 列表 | API | 安全 | 法律 | 申请YC | 联系
搜索：
相关文章