輝達發表開發者套件 生成式AI推論效能增1.7倍

人工智慧（AI）晶片大廠輝達（NVIDIA）推出新款NVIDIA Jetson Orin Nano Super開發者套件，僅手掌大小，運行生成式AI的推論效能提高1.7倍，價格從499美元（約新台幣1.62萬元）降至249美元。

輝達今天發布新聞稿表示，新款開發者套件包含一個Jetson Orin Nano 8GB系統模組（SoM）與一個參考設計載板，提供開發邊緣AI應用原型的平台。

輝達指出，與前一代產品相比，今天上市的Jetson Orin Nano Super開發者套件能夠將生成式AI的推論效能提高1.7倍，記憶體頻寬加大50%至每秒102 GB，可用於使用檢索增強生成技術來建立大型語言模型（LLM）聊天機器人、建立視覺AI代理，以及部署AI機器人。