串聯台日Edge AI跨業合作 推動全球百工百業AI 2.0應用落地商機 2024 Taiwan Edge AI Day研討會 日本Edge Tech+展會風光登場

因應全球人工智慧（AI）科技快速發展，生成式AI與大型語言模型（LLM）所帶來的百工百業數位轉型商機無可限量。台北市電腦公會（TCA）表示，國際數據資訊（IDC）研究報告顯示，全球邊緣運算（Edge Computing）支出2028年上看3,780億美元，2023到2028年複合成長率（CAGR）達到兩位數，由於AI的重點從訓練轉向推論，使得Edge AI成為重要趨勢之一。

2024 Taiwan Edge AI Day研討會暢談AI 2.0時代趨勢 日本橫濱Edge Tech+ 2024展會風光登場

TCA指出，當AI 1.0聚焦雲端高效能運算（HPC）與訓練大參數量AI模型，在資安與AI運算效率的考量下，使用者在地端以AI設備搭配客製化AI模型進行推論與訓練，便成為Edge AI運算主流，也就是將資料控制權交還給實際使用者，進入「雲、地、端」整合式AI運算的AI 2.0時代。

為以在地化方式推動台日Edge AI廠商跨業合作，並與台日半導體與資通訊產業一起迎接Edge AI普惠時代到來，在亞洲．矽谷計畫執行中心（ASVDA）、亞洲．矽谷物聯網產業大聯盟、ICTGC（IC TAIWAN GRAND CHALLENGE）競賽、AI大聯盟（Taiwan AI Alliance）等單位協助下，TCA東京事務所於11月21日在日本橫濱Edge Tech+ 2024展會，辦理2024 Taiwan Edge AI Day研討會，邀請耐能智慧創辦人兼CEO劉峻誠、群聯電子創辦人兼CEO潘健成、國際技術ジャーナリスト/ News & Chips編集長津田建二等多位半導體與AI產業專家進行專題演講，分享最新半導體與Edge AI趨勢，吸引200位日本產官學研等專業人士報名參與，其中涵蓋多家日本重量級科技大廠高階主管與研發人員。

楊櫻姿：台灣積極推動AI與半導體產業發展 歡迎台日企業合作AI數位與淨零雙轉型商機

台北市電腦公會副總幹事楊櫻姿開場致詞時表示，隨著生成式AI從雲端走向Edge AI，用戶可以享受回應速度更快且更個人化的AI體驗，這也為下一代AI技術帶來了新變革。由於日本政府正在積極重振半導體產業，並全力推動AI應用，而台灣和日本之間有著深厚的互信基礎，因此今天論壇以 Edge AI和半導體為主題，希望藉由這次的交流，能為台日企業創造更多合作機會，一起拓展更大的百工百業AI落地應用商機。

楊櫻姿指出，台灣政府一直積極推動AI和半導體產業發展，並透過跨部會的合作來落實。舉例來說，亞洲．矽谷計劃是在2016年由國發會、經濟部和國科會等部會聯手推動，今年進入「亞洲．矽谷3.0」，目標是加速台灣產業數位及淨零雙轉型，這也跟日本產業的需求不謀而合，未來將會有更多合作空間。

為擴大台灣半導體產業優勢，台灣政府2024年3月開始推動「晶創台灣方案」，其中由國科會主辦的IC Taiwan Grand Challenge，目標是利用台灣作為矽島的優勢，吸引全球頂尖的新創公司和創投來台灣。目前這個競賽正進入第二階段徵件，歡迎日本的新創團隊參加！

此外，由TCA營運的AI大聯盟（Taiwan AI Alliance），積極鏈結AI算力、軟硬體和資安等各領域廠商，共同推動台灣AI技術和應用的發展，目前聯盟有45家會員廠商，也歡迎日本廠商與AI大聯盟廠商進行跨國合作。

劉峻誠：內建NPU技術的Edge AI單晶片可加速推出邊緣AI運算設備 並降低AI運算所需能耗

耐能智慧創辦人兼CEO劉峻誠在專題演講時表示，隨著AI運算已經成為各大企業相關必備功能，也讓企業在導入AI應用當中，面臨到AI運算回應速度慢、AI伺服器電力耗用高與企業核心數據資安問題。由於半導體製程封測技術與AI模型持續進步，因此產業開始推動Edge AI成為新一代AI運算主流，也就是在Edge端進行AI運算與資料處理，而不需要送到雲端，減少資安意外發生機會。

劉峻誠指出，耐能有NPU加速器（Neural Processing Unit）、AI晶片、AI演算法等關鍵技術與研發團隊，因此開發出不同規格的Edge AI單晶片專用處理器，並以「AI晶片+邊緣運算+AI演算法」為核心，搭配KNEO共享開發平臺，廠商可以快速開發各類在智慧安防（Security）、智慧物聯（AIoT）、車用（Automotive）、邊緣運算伺服器（Edge Server）等領域的Edge AI應用，並且AI晶片可以進行堆疊，以提升AI運算效率。已有多家國際知名大廠與耐能合作，推出各類Edge AI運算產品。此外，耐能針對企業用GPT運算需求推出KNEO-300、KNEO-330解決方案，也就是可以在基於NPU技術的Edge AI伺服器上開發具有機敏性的企業內部GPT應用，不用擔心資料外洩問題，而且耗電量比傳統AI伺服器要低很多。

潘健成：群聯aiDAPTIV+解決方案可讓普通工作站具備訓練大型LLM的可行性 解決建置AI伺服器成本過高痛點

群聯電子創辦人兼CEO潘健成專題演講時表示，群聯在SSD領域可說是技術領先，並且應用到許多領域，包括最早推出世界第一款4TB的SSD；推出通過NASA認證的SSD，即將登陸月球。其實早在2020年，群聯的SSD就已經搭載在NASA火星探測車「毅力號（Perseverance）」，並且成功在火星環境中正常運作。群聯以NAND儲存解決方案供應商自居，供應客戶涵蓋伺服器、電動車、手機、工業用/商業用機器人、航空、無人機、遊戲機、監視系統、個人電腦等領域。

潘健成指出，企業透過導入AI技術，不僅可以提升各個部門的運作效率，也能夠廣泛用在生產製造環境當中。但由於現階段AI伺服器建置成本相當高，因此群聯透過自家開發aiDAPTIV+解決方案，利用快閃記憶體的成本優勢，大幅提升使用普通工作站訓練大型LLM的可行性。群聯aiDAPTIV+ Pro Suite大型語言模型訓練專家平台，能進行大型語言模型管理，包括後端模型管理功能、LLM 私有模型內部訓練，並且提供免程式碼操作介面，更能夠讓員工開始使用企業用生成式AI工具，包括會話互動、網頁搜尋、程式代碼生成、語音服務、資料分析等AI應用。aiDAPTIVGuru則可以協助企業讀取相關文件，產生並處理數據資料，以便進行LLM模型訓練，可節省 90%預先處理模型訓練資料所需的時間。

針對近年來熱門的AI PC趨勢，潘健成建議可以導入aiDAPTIV+解決方案，將AI PC升級為AITPC（AI Training PC），如此一來就可以加速在教育環境的AI運算環境普及，進而實現一人一台AITPC的理想AI教育訓練場景。

津田建二：AI應用已經滲透到各行各業日本企業可向NVIDIA學習如何透過AI進行企業再造

國際技術ジャーナリスト / News & Chips 編集長津田建二專題演講時表示，AI應用快速成長，市調機構Precedence Research研究報告指出，2030年全球AI市場上看1.6兆美元，2021 - 2030年複合成長率高達38.1%，整個市場規模成長將近20倍。今年諾貝爾物理獎頒發給美國科學家霍普菲爾德（John J. Hopfield）和有「AI教父」之稱的加拿大科學家辛頓（Geoffrey E. Hinton），他們因為對類神經網路的奠基性發現與發明，使機器學習獲得巨大進展而獲獎，再度證明AI是不可逆的趨勢。並且AI應用到各個領域，包括自動駕駛、5G/6G電信通訊最佳化、銀行防詐、基因分析、藥物開發、鐵軌檢驗、EDA設計工具、曝光機光源參數等等。而Edge AI的導入持續快速成長，包括AI手機、AI PC、電腦視覺等，Intel、AMD、Qualcomm、STMicroelectronics、Tenstorrent也都推出Edge AI運算用單晶片與相關產品。

津田建二指出，在最近推出的「NVIDIA 是什麼？」這本書當中，不僅是從企業文化與管理風格來介紹NVIDIA，更介紹NVIDIA的AI強項，包括：GPU架構優勢、平行運算軟體CUDA、支援完整AI程式庫（PyTorch、TensorFlow）、針對特定應用開發的AI模組（NIM、NeMo），完整說明NVIDIA如何透過整體實力贏得AI市場優勢。津田建二認為，日本企業可向NVIDIA學習如何透過AI進行企業再造，包括製造業、旅遊業、農業等領域的AI應用，將會是日本如何在全球AI趨勢下獲得優勢的可行方向。

TCA將在12月13日於日本東京辦理AI & Semiconductor Forum 深入探討台日半導體合作契機

TCA表示，為讓日本半導體產業更加深入了解台日半導體產業合作契機，將在12月13日，規劃於日本東京辦理「AI & Semiconductor Forum」，將邀請到多位半導體產業專家擔任講師，而該場論壇也是SEMICON Japan的官方論壇之一，歡迎大家到時候來聽論壇順道參觀展會。

■2024 Taiwan Edge AI Day研討會活動時間：2024/11/21(四) 14:00-16:00活動地點：PACIFICO YOKOHAMA ANNEX 201會議室@Edge Tech+ 2024主辦單位：亞洲·矽谷計畫執行中心（ASVDA）、亞洲．矽谷物聯網產業大聯盟、ICTGC（IC TAIWAN GRAND CHALLENGE）競賽、AI大聯盟（Taiwan AI Alliance）、台北市電腦公會（TCA）協辦單位：台灣無線平台策進會（GloRa）、台灣物聯網產業技術協會（TwIoTA）、台灣先進車用技術發展協會（TADA）、

■《關於COMPUTEX TAIPEI》COMPUTEX TAIPEI是台北市電腦公會施振榮理事長任內開辦及命名，1985年邀請外貿協會共同主辦。InnoVEX是兩會2016年開辦的新創展會。