課程資訊與媒體訪談

課程資訊與媒體訪談

2024下半年研訓院課程來囉! 詳見: https://www.tabf.org.tw/CourseSearch.aspx?t=%e6%9c%b1%e5%b2%b3%e4%b8%ad&w=3#results 1. 國際財經趨勢分析研習班(第33期) 上課時間:20...

2023年5月24日星期三

英特爾宣布Aurora genAI模型 參數規模是ChatGPT的5倍

評析:口說無憑,丟出來給大家測試,便知真假。

英特爾宣布Aurora genAI模型 參數規模是ChatGPT的5倍
鉅亨網新聞中心2023/05/24 21:00

在 ChatGPT 的推動下,愈來愈多公司開始參與生成式 AI 的開發,英特爾 (INTC-US) 成為最新參與的科技巨頭,並在近日公布一個名為 Aurora genAI 的產品,它是一個主要用於科學領域的生成式 AI 模型。

英特爾 Aurora genAI 模型以 Megatron 和 DeepSpeed 為基礎,其規模達到了 1 兆個參數。相較之下,ChatGPT 的規模為 1750 億參數,Aurora genAI 在參數規模上增長了約 570%。

據指出,Aurora 超算共有 10624 個節點,每個節點 2 組 CPU 及 6 組 GPU,CPU 是 Sapphire Rapids-SP 架構的,總計 21248 個,GPU 是 Intel 最強的 Ponte Vecchio,總計 63744 個。

此外,還有 10.9PB 的 DDR5 記憶體,1.36PB 的 HBM CPU 記憶體,8.16PB 的 HBM GPU 記憶體,峰值頻寬分別可達 5.95PB/s、30.5PB/s、208.9PB/s。儲存系統則為 230PB 容量,30TB/s 頻寬。

Aurora genAI 模型將在通用文本、科學文本、科學數據和與該領域相關的代碼上進行訓練。它主要用於科學計算領域,包括生物學、癌症、大氣科學、天文學、高分子化學等領域。

沒有留言:

發佈留言