創鑫智慧公司為清華大學執行科技部半導體射月計畫之AI公司,專研推薦系統之演算法、類神經網路與軟硬體設計,獲有多項台美專利,是完成高難度7奈米晶片開發成功走向國際的新創公司,董事長暨執行長林永隆教授7月4日應竹科管理局之邀,於記者會上介紹公司及產品。
創鑫智慧由清華大學林永隆教授及一群IC設計工程師於2019年創立於清大育成中心,2021年底進獲准遷入園區標準廠房,並於板橋設置台北辦公室。目前有員工38人,其中30人為研發人員,公司資本額1,046,486,153元,主要投資人包括鼎創有限公司、凌陽創業投資股份有限公司、力晶科技股份有限公司、及台灣集富一號創業投資有限合夥(Jafco Taiwan I Venture Capital Limited Partnership)等。
創鑫智慧執行長林永隆博士於會中介紹該公司甫獲EE Times 專文報導之RecAccel™-ASIC,產品代號為N3000的資料中心推薦系統用AI加速晶片。該晶片內含160,000個乘加器(MAC)及150MB記憶體(SRAM)。只需20Watt每秒便可進行兩千萬次DLRM推論,目前正以7奈米製程生產中,今年第四季完整系統將展示全球最領先的每推論只需耗1微焦耳(microjoule)之能效。
創鑫智慧深耕AI運算軟硬體技術,研發人員經畢業於主要大學研究所並有多年設計經驗。目前為止獲得8項美國專利與12項台灣專利,另有30項審查中,林董事長表示,公司目前持續招募系統軟體工程師、系統軟體應用工程師、技術專案經理、AI工程師、軟體工程師等。
會場中展示創鑫智慧在AI奧運會MLPerf Benchmarking中參加評比的RecAccel™-FPGA,也是RecAccel™ -ASIC的產品雛形,自2020年參與MLPerf至今不斷地完善軟硬體整合、效能提升。RecAccel™-ASIC的整體運算能力更為RecAccel™-FPGA的55倍。該產品搭載專利高能效的運算引擎及創新專利8位元浮點數格式,預計能大幅降低雲端資料中心在推薦系統上的能耗,協助資料中心取得最大化的能源效率,進而達到永續性的資料中心。
節能減碳是全球關注的重要議題,雲端服務大廠資料中心也不例外,環境永續發展(Sustainability)已是不可逆的趨勢,多項報告顯示推薦推論 (Recommendation Inference) 已成為資料中心佔用最多資源的AI運算。而適用於訓練(training)的一般用途圖形處理器(GPGPU)系統並不適於推論(inference),因此須要專為推薦系統設計的硬體加速器。創鑫智慧極大化推薦系統的商務價值同時,更協助資料中心追求環境永續發展,建立台灣在AI資料中心及半導體設計的另一個成功典範。