繁中守護者1／「不會做才更要做！」解密蔡明介督軍 聯發科為台灣訓練LLM輝達也相挺

[周刊王CTWANT] 「不會做，才更要做！」台灣晶片一哥聯發科技4月9日發表繁體中文語言模型MR BreeXe，以450億參數超越中文版ChatGPT3.5，奪下世界最強的繁體中文大語言模型(LLM)。儘管外界看熱鬧，也有酸民說贏了ChatGPT3.5沒什麼好驕傲，但台灣科技圈人士深知，聯發科努力「緩解了一場迫切危機！」

近年全球爭相砸錢啟動的AI及LLM軍備競賽中，以歐美思維為主流，英語稱霸，中文則以中國大陸簡體中文的語意邏輯掛帥，繁體中文相對弱勢，直到聯發科的MR BreeXe出現，緩解了被「邊緣化」的危機。

CTWANT記者採訪多位關鍵人士，得知了這場艱辛的技術研發過程，其實是一場文化保衛戰，連輝達聞訊後也上門，將去年底新推的AI超級電腦Taipei -1，交與聯發科訓練模型。

業內人士表示，聯發科在1997年從聯華電子多媒體部門分出來後，「拿到的牌都是最差的那一種」，要人沒人、要錢沒錢，主攻的產業都是世界上最競爭最難的，然而蔡明介一路走來的經營理念，就是有一個頂級的公司，才能把人才留在台灣。

聯發科從光碟機晶片組開始，一路做到全球行動通訊晶片第二大廠，蔡明介引領技術創新之際，也觀察到AI科技將扭轉局勢，2019年他親自拍板、督軍，成立聯發創新基地，負責AI的前瞻研究，「比很多業者都早發現AI的重要性，將會形成『革命性的轉變，就像一種新的電力。』」聯發科技協理葉家順表示。

「AI最重要的基礎就是大語言模型，聯發科是以技術力為主的公司，要做、就做對世界有影響的技術。」業內人士表示，聯發創新基地最初研究的是自然語言處理(NLP)，是一種人工智慧的分支，可讓電腦理解、產生及處理人工語言，「最一開始的AI研究真是萬事起頭難，常改到死。」

2022年6月蔡明介下令基地放棄舊研究，改成全力押寶生成式人工智能GenAI，並啟動首個開源繁中大語言模型，跟一級主管這樣說，「沒有人做，所以我們要做！」

聯發科員工跟CTWANT記者說，當時董事長下軍令，但大家都面面相覷，OpenAI當時還默默無名，ChatGPT更是在2022年11月30日才發布，等於沒有任何前例可循，更何況是要做台灣為主的繁體中文系統，幾乎是從零開始。

「聽到這個消息，我們的合作夥伴都很關切，頻頻問我們，怎麼做、你會嗎？當然不會呀！」聯發科員工表示，因為大家都知道做大語言模型的難度大、門檻高，一般單位是做不來的，聯發科在研究過程中也「踩了不少坑、撞得頭破血流」，但在其他陣營開發速度陸續放緩後，「這件事反而成了『社會對我們的期望』，得到很多夥伴的協助。」

「最難的就是一開始，找不到適合的人才」聯發創新基地負責人許大山是加州柏克萊大學電機博士，曾任台大副教授，被學生廣為流傳的「年年書卷獎的台大電機學霸」。他跟CTWANT記者說，當時聯發科在AI頂級科學家圈內是沒有名氣的，花了很大力氣才能招募到人才，有了成果、上了幾篇國際級的論文，學者們認識我們，後續才比較順利。目前聯發創新基地在台大、劍橋、倫敦都有據點，「成員就像是個小的聯合國。」業內人士說。

聯發科「MR BreeXe」是以法國AI業者推出的Mixtral 8x7B開源模型為基礎去開發，繼承Mixtral多專家模型特有的節省運算資源、提升速度優勢，再加上聯發創新基地的訓練，在繁體中文測試項目（TMMLU+、MT Bench TW）超越GPT-3.5，並優化台灣常見之地端應用，提升產業界檢索增強生成（RAG）的體驗，還能一口氣處理4萬字的長篇資料，而Mixtral只能四千字。

AI龍頭輝達得知聯發科在做繁體中文大語言模型，特別拿出他們去年底才推出最新的AI超級電腦Taipei -1，讓聯發科第一個跑數據、做訓練。截至4月初MR BreeXe正式發表，450億參數，比OpenAI兩年前發表的中文版ChatGPT3.5模型參數規模270億，遠超出一大截。

「其實聯發科以繁體中文切入做大語言模型，是『緩解了一個非常迫切的危機』，」成功大學資工系教授黃敬群跟CTWANT記者解釋，以網路搜索來說，使用者14億人、源自中國的簡體資料在世界上的點擊量絕對高過台灣的，像是Google台灣就花了百人團隊去「平衡」，才讓台灣人看到的網頁搜尋符合需求，但到了AI時代，這些人工干預就失靈了。

延伸閱讀

• 繁中守護者2／母湯是一種清湯？專家測試8萬字資料Breeze運算跑第一「OpenAI不友善」
• 審判災難1／國民法官判16案卻推拖年度評估 檢辯資源不對等被批欺負社會弱勢
• 野生吳慷仁現身香港機場 獨自排隊展現公德心