Show HN: Maple-Preview – ternary 20B MoE running at 120 tok/s on a iPhone

Maple-Preview来了！这次AI模型跑进了你的手机里。它是个“专家团队”式的大模型，但厉害的是，在iPhone上就能以每秒120个字的流畅速度运行，反应快得就像手机自带的功能一样。 过去，强大的AI大多住在云端，需要联网才能用，速度还受网速限制。这个新模型则走“本地”路线，直接把大脑塞进手机。它采用“稀疏专家”结构，就像一家公司里有很多部门，收到任务只叫相关小组干活，所以既聪明又省电。在最新款手机上，启动快、不发热，和小型全能AI助手差不多。 对你我来说，最直接的变化就是：以后在飞机、地铁甚至地下车库里，AI都能随叫随到，断网也不怕。而且，所有对话都在手机里完成，隐私安全性大幅提升，不用担心聊天记录被上传到云端。对于开发者，这意味着可以做出更智能的手机应用，比如实时翻译、离线语音助手都能以更低成本实现。或许用不了多久，你的手机就会真正变成比你更懂你的智能伙伴。