iPhone 17 Pro 跑 80 億參數 AI 記憶體僅需 1.15GB

日本科技媒體《GIGAZINE》今日報導，由 AI 開發公司 PrismML 於今年 3 月 31 日發表的 80 億參數 AI 模型「1-bit Bonsai 8B」，已成功在 iPhone 17 Pro 上本地運行，且記憶體佔用量僅為 1.15GB，此舉展現智慧型手機在運行大型 AI 模型方面的潛力。

報導指出，這款模型透過免費應用程式「Locally AI」在 iPhone 17 Pro 上進行實測。測試者依照程序安裝後，發現該模型不僅啟動迅速，其記憶體需求更遠低於預期。根據官方數據，此模型雖然具備 80 億個參數，但實際運作時卻只消耗 1.15GB 記憶體，相較於其他同等或更高效能的模型，其記憶體使用效率高出 14 倍。

實測中，測試者向「1-bit Bonsai 8B」發出「Hello」指令，模型隨即進行自我介紹。當被問及「我該為我的 iPhone 貼螢幕保護貼嗎？」時，模型給出出人意料的建議，表示：「只要保持 iPhone 螢幕清潔，例如用手指輕輕滑過或擦拭螢幕即可。」甚至還提出「PC 磁碟保護」等非主流建議。

然而，該模型在數學運算方面表現出較高準確性。當測試者輸入「製作 1 杯番茄汁需要 5 顆番茄。那麼製作 6 杯番茄汁需要多少顆番茄？」時，「1-bit Bonsai 8B」正確回答 30 顆，並清楚解釋運算過程為「6 杯 x 5 顆番茄 = 30 顆番茄」。