NVIDIA生成式AI軟體商APMIC 推OpenAI支援企業方案
企業自主AI解決方案領導品牌APMIC(Accelerate Private Machine Intelligence Company)20日宣布,旗下「PrivModel」企業級微調與蒸餾方案已全面支援OpenAI gpt-oss系列模型,在特定應用場景中可將準確率提升約40%,並降低90%推論成本。
企業自主AI解決方案領導品牌APMIC(Accelerate Private Machine Intelligence Company)20日宣布,旗下「PrivModel」企業級微調與蒸餾方案已全面支援OpenAI gpt-oss系列模型,在特定應用場景中可將準確率提升約40%,並降低90%推論成本。
此外,APMIC今日亦宣布任命具二十餘年產業經驗的資深GPU與AI晶片專家陳尹鈞(Ian Chen)出任美國總經理,負責北美市場與策略夥伴拓展,結合技術升級與在地化團隊,加速全球企業私有AI的安全落地與商業價值轉化。
延伸閱讀:
gpt-oss搭配「PrivModel服務方案」如虎添翼
APMIC針對OpenAI近期推出的gpt-oss系列模型,含gpt-oss-120b與gpt-oss-20b,採用自研、原名為「S1 Distillation」正式升級為「PrivModel」將企業級提升到多模態模型微調方案。根據APMIC內部測試,在特定企業應用場景中,蒸餾後的模型可在維持FP4精度的情況下,將gpt-oss準確率提升約40%,同時降低約90%推論成本。同時,蒸餾後的模型可在RTX Pro 6000平台高效推論,並支援繁體中文思維鏈(CoT)推理,協助企業在符合法規與合規要求下實現推理式AI(Reasoning AI)私有化部署。
APMIC內部測試進一步顯示,OpenAI的模型有很強的模型保護機制,採用傳統的QLoRA的量化微調方法在學習專業知識上有所侷限,必須同時採用CPT、SFT、RL等方式,才能將模型微調完成,在TMMLU+(繁體中文台灣在地知識驗證集)測試中,gpt-oss全數取得80分以上(2023年gpt-3不足60分);健康醫療領域比o4 mini高出約13分;數學邏輯運算則僅差約2分。在此基礎上,「PrivModel」解決方案更是加強了gpt-oss原先沒有的視覺能力,可協助企業高效、安全地打造專屬、輕量、並具商業價值的私有AI模型。
APMIC創辦人暨執行長吳柏翰(Jerry Wu)表示:「OpenAI的gpt-oss為企業導入AI帶來全新的動能。在研究團隊的協助下,經『PrivModel』微調與蒸餾後的模型搭載『PrivStation』架構可支援媲美o4-mini等級的模型,同時也具備視覺能力,讓臺灣企業在鎖住自身知識資產的同時,以節省九成成本的方式達成高效能推論。這不只是性能提升,更是從資料保護到實際應用的全方位落地。APMIC與推論算力租賃廠商CKmates、GMI Cloud、Glows AI、Ubilink等訓練算力夥伴,以及硬體廠商Dell、HPE、NVIDIA等夥伴密切合作,並透過CyCraft的安全防護,確保蒸餾後模型能在Blackwell架構全系列設備上安全運行,真正實現『從模型到決策』的企業級AI導入路徑。」
資深GPU專家領軍北美市場 加速全球佈局
APMIC今日亦宣布任命陳尹鈞(Ian Chen)為美國辦公室總經理,憑藉其在GPU加速運算及AI晶片的專業,陳尹鈞將專注推動北美市場與策略夥伴發展,推進「PrivModel」企業級微調與蒸餾方案及「PrivStation」一站式落地應用,與GPU雲服務商、OEM、設計製造相關軟體公司進行策略合作,並拓展AI在金融、製造等需要合規AI產業的場景實施。
陳尹鈞積累了超過二十年的產業實務與管理經驗,2002年於美國矽谷加入NVIDIA擔任繪圖晶片應用工程師,之後先後在NVIDIA香港與台灣分公司擔任工程與業務管理職務,長年負責高階繪圖卡與資料中心GPU相關業務。陳尹鈞擁有史丹佛大學電機碩士以及聖塔克拉拉大學商業分析碩士學位。
這篇文章 NVIDIA生成式AI軟體商APMIC 推OpenAI支援企業方案 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。
最新科技新聞
-
-
2025 SEMICON Taiwan 旭曜創新展出低碳膠材永續解決方案
(1 小時前) -
東盟人工智慧商業高峰會2025 孫大千受邀擔任開幕式主講嘉賓
(1 小時前) -
美國FTC鎖定AI巨頭 深度調查聊天機器人對青少年的潛在危害
(1 小時前) -
東盟人工智慧商業高峰會2025登場 孫大千開幕主講分享AI未來
(2 小時前)