助產業掌握AI與未來商機 工研院研討會聚焦生成式AI應用四大議題

▲工研院619日起，連續兩天舉行「生成式AI驅動科技產業創新與機遇系列研討會」，第一場邀請群聯電子技術長林緯(左1)、工研院產科國際所經理石立康(左2) 、台灣智慧雲端趙逢毅(右2)、工研院資通所組長李青憲(右1)等專家共同參與，協助產業掌握AI科技產業趨勢與未來商機。(圖／工研院提供)

【勁報記者羅蔚舟/新竹報導】
為協助產業掌握AI科技產業趨勢與未來商機，工研院謹訂於今（6/19）日起，連續兩天舉行「生成式AI驅動科技產業創新與機遇系列研討會」， 由工研院產業分析師團隊深入剖析生成式AI科技應用四大關鍵議題、生成式AI引爆電子零組件新商機、生成式AI潮流下半導體之趨勢與商機等主題；同時也邀請工研院資通所、工研院電光所專家、以及台灣智慧雲端、群聯電子、芯鼎科技等業界AI指標廠商共同參與，希望提供多元思路，助力產業的發展趨勢和市場脈動，研討會線上與線下近五百人參與，展現了產學研各界對生成式AI產業前景的高度關注。

6/19日上午登場的是「生成式AI科技應用四大關鍵議題」場次。本場次從生成式整體市場切入，聚焦於現已成形的AI伺服器供應鏈及今年初登市場的各式AI PC產品，分析相關硬體發展方向與其他後續市場商機所在；也將分析產業GenAI應用模式，區隔出適合本土的相關技術，提出發展GenAI專屬領域應用的四項策略及應用落地作法。此外，也特別邀請產業專家中的專家與會；由台灣智慧雲端總工程師趙逢毅分享當前開源模型最新進展，說明開源模型能力已與閉源相當，已開發一系列FFM家族模型可適合各類不同應用，而規模化AI Foundry Service(AFS)可成為本土企業迅速導入GenAI的最佳平台；群聯電子技術長林緯則分享近期研發的革命性技術，找到GenAI市場特定需求，推出aiDAPTIV方案並發展新的AI Workstation產品概念，讓中小企業也可負擔合理硬體投資來執行大型語言模型相關工作。

█生成式AI市場全貌、供應鏈及未來商機探索/石立康研究經理
工研院產科國際所研究經理石立康進行「生成式AI市場全貌、供應鏈及未來商機探索」專題演講，指出生成式AI技術開啟「白領賦能」的新頁，對教育程度越高者，未來在工作自動化提升程度越高；同時也從語言逐漸走向多模態發展。台灣具無與倫比的生態系，為垂直應發展用的堅實基礎。AI雲端晶片由輝達獨領風騷，該公司也正與台灣生態系合作，從關鍵元件提供商變成高速運算系統的主要供應商。台灣已成AI伺服器的供應鏈中心，電源供應、液體冷卻等次系統，未來還有很大發展空間，全球也因「主權AI」，亦即各國應掌握自有專屬的大語言模型，作為核心科技的趨勢下，讓需求不斷成長。在PC產業應用面向上，PC產業希望將換機潮自2025提前到2024發生，目前看來相當成功，唯ODM廠須注意零組件的存貨管理。

█生成式AI的開源繁中模型最佳化與導入指引/台灣智慧雲端總工程師趙逢毅
台灣智慧雲端總工程師趙逢毅進行「生成式AI的開源繁中模型最佳化與導入指引」專題演講，指出開源模型已進入GPT-4時代。GPT-4的語言理解和生成能力達到新高度，並具有處理多種數據形式的多模態能力，提升了在複雜推理和邏輯推斷方面的表現。新的訓練技術使GPT-4能更高效地學習，提升了模型的效率和效果。同時介紹FFM家族模型，包括：FFM-LLAMA 3 70B和8B模型在多種自然語言處理任務中表現出色，特別是繁體中文應用；FFM-Mixtral 8x7B和FFM-Mistral 7B針對特定應用場景進行了優化，最新的FFM-LLAMA 2 v2 70B、13B和7B模型進一步提升了準確性和效率。此外語言模基的 Function Call功能使模型能直接調用各種API，實現靈活的應用集成和業務擴展，顯著提升業務效率和準確性。

為了能提高企業擁抱可信任的生成式 AI 落地應用，台智雲（TWSC）與華碩合作推出的企業級落地方案 AI Foundry Service（AFS）服務，藉由一個端到端的AI服務為企業提供從模型訓練到部署的一站式解決方案。此外，AFS 提供專業技術支持和諮詢服務，並具備高效的資源管理系統，基於Kubernetes和Docker的雲原生基礎設施，支持多租戶和高安全性需求。此服務目前已經受到國內外高科技及製造業龍頭的青睞，並快速導入到現有企業流程以加快各項生成式 AI 落地應用。開源模型進入多模態時代帶來了新機遇和挑戰，FFM家族模型在繁體中文處理方面表現出色，AI Foundry Service提供全面AI解決方案，助力企業數字化轉型。

█生成式AI的產業應用機會與落地推動作法 /工研院資通所組長李青憲
工研院資通所組長李青憲以「生成式AI的產業應用機會與落地推動作法」為主題進行專題演講。他指出，生成式AI浪潮下，工研院正積極協助國內產業應用與落地；首先與外部產學研單位構建本地生態系，瞭解業界需求。除聚焦在地端專屬領域，也以生成式AI升級現有應用。從目前主要五大類生成內容出發，將與超過10種以上產業廠商合作並推行技術擴散，建立典範案例如製程配方、3D模型建構、報告產製、監管合規等。工研院未來也將對齊新政府AI政策，價值定位在「產業自動化」與「企業決策」兩類應用，敏捷整合最新國際模型/工具/技術之框架，以AI發展AI，滾動規劃調整以期最終協助國內百工百業導入成功。

█打破生成式AI落地障礙的關鍵技術：Phison aiDAPTIV+/群聯電子技術長林緯
群聯電子技術長林緯深入探討aiDAPTIV+方案的技術細節和相關生態系統的發展。他認為，生成式AI技術普及面臨著重大挑戰：高昂的部署成本。這一挑戰不僅限制了技術的廣泛應用，也成為了許多組織採用這類先進技術的障礙。對此，群聯推出了aiDAPTIV+方案，旨在通過利用NAND Flash技術擴充高帶寬記憶體（HBM），從根本上降低成本。這一策略不僅能夠提升系統性能，也使得生成式AI的部署成本大幅下降，推動技術的更廣泛應用。通過具體案例，展示了如何有效解決成本和可擴展性的挑戰，從而實現生成式AI技術的普及。