報告與AMD合作的研究進度,及運用AMD捐贈設備的教學狀況
亞大校長蔡進發(左)向AMD資深副總裁王啟尚(David Wang)(右2)等人介紹亞大AI團隊成員及研究量能。
亞洲大學校長蔡進發6月3日帶領亞大AI團隊參訪台北國際電腦展(COMPUTEX 2024)美商超微半導體AMD的展示中心。AMD 董事長暨執行長蘇姿丰,宣布攜手台灣在地合作夥伴,突破 AI 與高效能運算領域的極限。AMD於2023年捐贈亞大「AMD邏輯及運算實驗室」,協助培育人工智慧人才和研究計畫,未來雙方在教學及研究上,展開多方面的合作及推廣。
亞大團隊包含蔡進發校長、黃光彩榮譽講座教授、資電學院張文鐘副院長、產學長王昭能、資工系老師柯賢儒、蔡志仁、商品系主任龍希文、生醫系老師詹雯玲等人參觀,參觀 AMD本次COMPUTEX設立的展示中心。同時,亞大團隊將近期的相關研究進行簡報。AMD的與會人員包含資深副總裁王啟尚(David Wang)、軟體部門協理兼大學計畫負責人Hugo Andrade及台灣辦公室的資深業務副總林建誠、資深業務協理黃偉喬及資深技術顧問張歐佑豪。
AMD的專員向亞大介紹三大主打項目。第一個是最新的MI Instinct 300系列的AI 加速卡,主要的用途是放在資料中心做數據處理及AI 模型訓練。第二個是AI PC notebook系列,AMD跟HP、Lenovo、ASUS等多家公司合作,推出包含有NPU的筆電,配合跟微軟合作的Window作業系統,搭載Copilot AI 軟體,使筆電可以運行有限度的AI 推理及圖片處理。第三個是具備圖型處理能力及AI 推理能力,高達50 TOPS的筆記型電腦,這款電腦使用AMD最新型的Ryzen AI CPU。AMD 說明它們的AI 運算的處理方式是從雲端伺服器到地端桌上型電腦以及方便行動的AI筆電等一系列的產品,全盤考量CPU、GPU、NPU的有效結合。
亞大與AMD雙方就研究中心及大學計畫進行討論。
在研究方面,亞大蔡校長介紹中國醫大、亞大兄弟系統學校「中亞聯大」在研究中心及醫學相關領域的量能,隨著「中亞聯大」附屬醫院的成長,持續投注研發能量在生命科學領域。亞大團隊也分享近期研究,蔡志仁教授的研究中使用超聲波成像,利用本地多模態大型語言模型(MLLM)的微調來改善良性和惡性腎腫瘤的檢測。學校團隊與亞洲大學醫院合作,使用了880張圖像的數據集在裝有AMD MI210 GPU的Supermicro服務器上訓練模型。初步結果顯示出高靈敏度和特異性率,未來研究計劃升級到AMD GPU MI300系列,以獲得更好的解析度和更快的訓練速度。
柯賢儒副教授在AMD簡報會議中提出一種基於最新提出的人工智慧大語言模型的架構MAMBA的改良演算法,該架構被AI研究社群認為是一種具有取代目前大語言模型Transformer潛力的全新架構。亞大蔡進發校長與負責本項研究的柯老師曾對該架構的核心,狀態空間模型(state space model, SSM),於2020年在訊號處理領域的頂級期刊IEEE Transactions on Signal Processing發表過一種同時具備高度運算效率及高強健性 (robustness)的SSM模型,使得MAMBA可以在低精度的情形下,也能達到高性能的輸出結果,並同時可大量降低記憶體的使用量,目前團隊成員將與AMD持續合作,進一步將研發成果應用於大健康產業的項目中。
詹雯玲副教授為了揭示支撐中醫學處方在臨床上有效性的分子、細胞和有機機制,提出「整合中醫學與多體學以增強疾病的診斷與治療」,並以肝癌為例,透過轉錄體學及基因體學結合臨床預後,找出致病機轉,再採取「老藥新用(Drug Repurposing)」策略,探索可能的中草藥。未來,將利用 AMD GPU 高速運算能力應用到其他疾病。
AMD的專員在展示中心向亞大校長蔡進發(左)介紹AMD本次COMPUTEX三大主打項目。
產學長王昭能運用AMD Instinct系列加速精準醫療知識圖譜推理,研究運用幾何深度學習與大語言模型於精準醫療知識圖譜,應用AMD Instinct™ MI200 進行知識圖譜推理速度以及大語言模型的預訓練數。提升幾何深度學習與知識圖譜推理的速度,未來將整合AlphaFold 3 進行推理所得到的蛋白質進行結構預測,可望加速藥物設計與基因相關研究。
黃光彩教授分享三個應用整合計劃:(1) 全球生命科學與工程平台:與哈佛大學教授合作,提供精準醫療的研發合作。(2) 利用AI技術加速開發整合先進材料石墨烯、鑽石薄膜及雙相均熱板技術的冷卻解決方案,協助AI Sever 的晶片及資安中心的散熱問題。(3) 與義美/池安合作,利用AMD FPGA U280 技術,執行美國NIST 五月剛公佈的Post Quantum Cryptography (PQC)標準,並優化後量子密碼安全與保護技術,透過量子安全遷移服務,轉換成提升資料應用與傳輸安全強度,協助各醫療資訊資料中心強化AI資料安全/隱私/竄改的保護;期待於AMD FPGA的平台上,開發更多資料中心,為量子時代來臨將造成的資安威脅預作準備。
龍希文主任運用深度學習判斷MRI影像的神經組織區域,研究阿茲海默症的海馬迴的體積萎縮的程度,並以醫療商品設計提供適當的輔具,可精準有效協助病人增進生活品質。
在教學方面,AMD已於2023年在亞大成立「AMD邏輯及運算實驗室」,並同時捐贈多項教學及研究設備。目前亞大也已將這批設備投入到相關的教學及研究項目中,例如邏輯設計、數位系統設計、嵌入式系統、生成式AI、以及學生的畢業專題製作等學習與訓練項目中。未來亞大將與AMD持續合作,除了繼續強化原有的科目外,未來亦會充分利用這些設備訓練學生在人工智慧領域相關學科的理論與實作。
亞大蔡校長提到,雙方研擬在智慧醫療領域合作,運用AI開發對人類有幫助的醫療研發,強化學術與產業的結合。
亞大校長蔡進發(中)與AMD軟體部門協理兼大學計畫負責人Hugo Andrade(右5)、資深業務協理黃偉喬(左5)及雙方人員合照。