攜手HPE、NVIDIA及AMD 東海大學打造全台首創LLM校園平台

生成式AI為教育模式迎來改革浪潮，東海大學攜手HPE、NVIDIA及AMD打造全台首創「從晶片到應用」的全棧式（full-stack） LLM校園學習平台，讓學生能實際建置AI Agent、微調大型語言模型（LLM），創造具商業價值的AI應用，以克服AI教育斷層。記者李琦瑋／台北報導

生成式AI為教育模式迎來改革浪潮，東海大學攜手HPE、NVIDIA及AMD打造全台首創「從晶片到應用」的全棧式（full-stack） LLM校園學習平台，讓學生能實際建置AI Agent、微調大型語言模型（LLM），創造具商業價值的AI應用，以克服AI教育斷層。

[caption id="attachment_166871" align="alignnone" width="1600"]

東海大學攜手HPE、NVIDIA及AMD，打造全台首創LLM校園平台，克服3大AI教育斷層。（圖／東海大學提供）[/caption]

隨著AI技術掀起全球教育革命，東海大學借助HPE等科技巨頭的頂尖技術團隊，結合敦新科技的系統整合專業，導入高效能AI伺服器及AI深度學習解決方案，不僅於校園內提供產業級算力資源，更建構跨領域教學與實作場景，6日於東海圖書館集思區正式舉行平台啟用儀式。

延伸閱讀：遠傳攜手東海大學前進台中工業區 生成式AI賦能打造綠色供應鏈

東海大學校長張國恩表示，東海大學多年前在大渡山學會理事長鄭清和的支持下成立AI中心，積極推動AI產官學合作、AI課程，奠定東海在AI教育研究上的基礎。而今再度創新突破，平台試運半年來，已誕生2組具商業價值的作品，包含應用於本地端AI護理師助理系統（PrivNurse AI）與整合「檢索增強生成」（Retrieval-Augmented Generation, RAG）架構的課程學習助教，這些成果充分展現東海團隊與學生的實力以及LLM學習平台的潛力。

張國恩說，這次和HPE一同打造LLM學習平台，不只是技術的革新，更是學習模式的變革，未來也會進一步優化系統，將基於LLM的聊天機器人開放校外使用，讓社會大眾共同體驗先進的AI科技，善盡大學的社會責任和影響力。

台中市副市長鄭照新表示，東海大學致力推動成為AI大學，已建置AI NB教室，以及和資策會及產業進行密切合作，並與台中市政府共同爭取NVIDIA到台中設立研發中心等，都說明東海大學作為台中市推動智慧城市的重要夥伴。看到東海大學攜手HPE、NVIDIA及AMD等三大巨頭，共同打造全台第一個「從晶片到應用」的全棧式LLM校園學習平台，很肯定東海大學作為AI教育的領導者，將攜手將台中市打造為全台最佳的人文數位城市。

HPE臺灣暨香港董事長王嘉昇表示，目前HPE正積極將AI技術融入教育與研究流程，擴展在智慧校園、教學資源管理等領域的應用，期望加速教育科技的數位轉型，培養更多具備AI能力的人才。

東海大學圖資長楊朝棟提及成立平台的契機，在推動AI技術引入教育體系的過程中，發現一般生成式AI教學存在著應用層次、算力資源及實作場景等三大斷層，為解決此困境，東海建置全棧式LLM校園學習平台，採用混合雲架構並搭配於2024年領先全國導入CPU+NPU且內含先進GPU運算設備的「玉釵AI NB教室」進行教學，幫助東海學生在較短的時間內完成複雜的運算任務。

楊朝棟說，此外也將教學環境從「工具使用」升級到「模型創造」，並從產業面導入邊緣運算方案，將產業問題整合為領域知識微調模型，建立跨領域資料庫及部署架構；並進一步為資訊與非資訊專業科系學生增設相對應的課程，未來學生可以自行建立更多LLM應用，幫助自身學習甚至助力產業發展。

※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台

這篇文章 攜手HPE、NVIDIA及AMD 東海大學打造全台首創LLM校園平台 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。