2023-11-10 | 中央社
耐能:3趨勢驅動NPU取代GPU 生成式AI更多元
人工智慧(AI)新創業者耐能智慧(Kneron)董事長劉峻誠今天表示,包括淨零減排、隱私與安全性、人才適用等3大趨勢,將帶動神經處理單元(NPU)取代繪圖處理器(GPU),讓生成式AI應用更多元化,邊緣AI(Edge AI)在終端應用更普及。
第三屆成電論壇今天在成功大學自強校區電機系館舉辦,劉峻誠以校友身分受邀演講,分享個人化GPT未來在終端發展。
劉峻誠在現場先即時展示離線狀態的個人GPT生成式AI文字互動、語音翻譯、和圖像轉換等應用。
他指出,生成式AI大語言模型和GPU架構仍有效能和成本的侷限,預期未來能源消耗、隱私與安全性、人才適應需求等3大趨勢,將讓支援Transformer神經網路架構的NPU,取代GPU架構。
劉峻誠引述台積電內部資料指出,若以目前的AI伺服器進行人工智慧訓練,每年需要消耗5億度電;而下一代AI伺服器將消耗2倍至10倍的能源,加上電動車應用,到2030年,除非增加更多的電廠,沒有任何國家可以應付這麼大量的能耗。
他認為,NPU具備節能及安全的技術,可接入圖像、影片、聲音和毫米波等各種數位訊號,支持各種產業多元化的人工智慧應用開發。
耐能在9月下旬B輪融資由維港投資,光寶科、威剛科技、鴻海集團及和順興基金等多家公司參與投資。透過此次資金,耐能加速部署先進人工智慧,鎖定汽車領域輕量級AI生成式預先訓練轉換器(GPT)解決方案。
耐能2015年創立於美國聖地亞哥,目前已獲得超過1.9億美元融資,投資者包括李嘉誠旗下的維港投資、高通(Qualcomm)、紅杉資本、鴻海集團、和順興基金、光寶、華邦、旺宏、台達集團等。
第三屆成電論壇今天在成功大學自強校區電機系館舉辦,劉峻誠以校友身分受邀演講,分享個人化GPT未來在終端發展。
劉峻誠在現場先即時展示離線狀態的個人GPT生成式AI文字互動、語音翻譯、和圖像轉換等應用。
他指出,生成式AI大語言模型和GPU架構仍有效能和成本的侷限,預期未來能源消耗、隱私與安全性、人才適應需求等3大趨勢,將讓支援Transformer神經網路架構的NPU,取代GPU架構。
劉峻誠引述台積電內部資料指出,若以目前的AI伺服器進行人工智慧訓練,每年需要消耗5億度電;而下一代AI伺服器將消耗2倍至10倍的能源,加上電動車應用,到2030年,除非增加更多的電廠,沒有任何國家可以應付這麼大量的能耗。
他認為,NPU具備節能及安全的技術,可接入圖像、影片、聲音和毫米波等各種數位訊號,支持各種產業多元化的人工智慧應用開發。
耐能在9月下旬B輪融資由維港投資,光寶科、威剛科技、鴻海集團及和順興基金等多家公司參與投資。透過此次資金,耐能加速部署先進人工智慧,鎖定汽車領域輕量級AI生成式預先訓練轉換器(GPT)解決方案。
耐能2015年創立於美國聖地亞哥,目前已獲得超過1.9億美元融資,投資者包括李嘉誠旗下的維港投資、高通(Qualcomm)、紅杉資本、鴻海集團、和順興基金、光寶、華邦、旺宏、台達集團等。
最新生活新聞
-
張慰慈書寫「我的冤家我的親」 找到讓心回家的路
(18 分鐘前) -
搜救犬「木蘭」5歲癌逝 領犬員淚崩:何其有幸與你相遇
(35 分鐘前) -
要求百年後才能繼承 丹麥富豪直系孫終取得23.4億遺產
(40 分鐘前) -
求職陷阱大揭密!中彰投分署助青年安心就業
(51 分鐘前) -
ACE王牌交易所詐騙案「5人續押9人交保」 知名律師王晨桓當庭認罪!
(54 分鐘前)