512顆GPU！阿里達摩院發(fā)布全球最大AI預訓練模型
11月8日，阿里巴巴達摩院公布了多模態(tài)大模型“M6”的最新進展，其參數(shù)已從萬億躍遷至10萬億，成為全球最大的AI預訓練模型。
作為通用性AI大模型，M6擁有多模態(tài)、多任務能力，尤其擅長設計、寫作、問答，在電商、制造業(yè)、文學藝術、科學研究等領域有廣泛應用前景。
10月，M6再次突破業(yè)界極限， 使用512顆GPU，在10天內(nèi)就訓練出了具有可用水平的10萬億模型，相比去年發(fā)布的大模型GPT-3，M6實現(xiàn)了同等參數(shù)規(guī)模，能耗卻只有1％。
另一方面，AI大模型擴展到千億及以上參數(shù)的超大規(guī)模時，很難放在一臺機器上，為此達摩院 在阿里云PAI自研Whale框架上搭建了MoE模型，并通過更細粒度的CPU offload技術，最終實現(xiàn)將10萬億參數(shù)放進512張GPU：
M6設計的飛行汽車
目前，達摩院聯(lián)合阿里云已推出 M6服務化平臺 ，為大模型訓練及應用提供完備工具，首次讓大模型實現(xiàn)“開箱即用”，算法人員及普通用戶均可方便地使用平臺。
【來源：快科技】【作者：上方文Q】
專訪Thinkware崔振鎬法人長：探尋豪華品牌背后的故事
2022-01-14 15:29:00
拼多多砍一刀終于被棄！真當消費者都是傻子呢？
2022-01-14 15:28:51
MIUI13開發(fā)版公測第一批機型今日推送
2022-01-14 15:27:32
Redmi K50影像系統(tǒng)曝光 搭載IMX766傳感器
2022-01-14 15:26:40
財報暗示《GTA6》將于2024年3月前發(fā)售
2022-01-14 15:26:22
Redmi Note 11S渲染圖曝光 將在印度推出
2022-01-14 15:24:45
絕了！Edge 30 Ultra 官方皮套+手寫筆曝光！
2022-01-14 15:24:06
谷歌瘋了斥資10億美元買樓！在倫敦建新總部！
2022-01-14 15:23:39
最高法：扶持中小微企業(yè)嚴懲大平臺2選1
2022-01-14 15:23:30
有沒有你的手機！MIUI 13開發(fā)版公測首批今晚推送 覆蓋近30款機型
2022-01-14 15:23:20
包括20多款機型 MIUI 13開發(fā)版公測今晚來啦
2022-01-14 15:23:07
王者榮耀授權(quán) 鴻星爾克推出虎年限定版“皮膚鞋”
2022-01-14 15:22:27
曝真我GT2 Pro春節(jié)前上市 20日舉行預溝通會
2022-01-14 15:21:57
人生得意須盡歡，準備發(fā)年終獎，送自己和家人一臺萬元按摩椅，不過分吧？
2022-01-14 14:57:33 某券商發(fā)文防員工炫富：工作環(huán)境下禁開百萬豪車戴高檔手表
2022-01-14 14:15:54
哥斯達黎加一廢棄水電站為加密貨幣挖礦而重新啟動
2022-01-14 14:15:47
白宮邀請?zhí)O果、亞馬遜、IBM討論開源軟件安全問題
2022-01-14 14:15:35
騰訊投資易思匯 展現(xiàn)增強跨境支付的野心
2022-01-14 14:15:15
盡管有COVID-19疫情籠罩 但世界上最大的iPhone工廠仍能保持運轉(zhuǎn)
2022-01-14 14:15:02
三星與特斯拉合作發(fā)布23個補丁 FSD開始適用主線Linux內(nèi)核
2022-01-14 14:14:54
微信紅包引入異形封面 朋友圈搖一搖就能領
2022-01-14 14:14:44
隔離也能“躺賺”？保費9塊9的新冠隔離險真值得買嗎？
2022-01-14 14:14:33
阿斯利康：最新數(shù)據(jù)顯示Vaxzevria加強針可提高對Omicron抗體水平
2022-01-14 14:14:16
北京冬奧會火炬將在三個賽區(qū)傳遞 能抗10級大風
2022-01-14 14:13:56
性能暴漲40％ Intel Arc顯卡冒出來20個版本
2022-01-14 14:12:29
研究顯示：新冠病毒在空氣中暴露20分鐘即失去大部分感染能力
2022-01-14 14:12:18
RMDS 計劃推出全球首家科技IP NFT 交易市場
2022-01-14 13:39:02
等老了改名嗎？小紅書成功注冊老紅書商標
2022-01-14 13:38:52
2021年我國5G手機出貨量達2.66億部
2022-01-14 13:38:42
京東家電專賣店人氣爆棚 超15000家線下門店年貨節(jié)銷售火爆
2022-01-14 13:38:32
曝真我GT2 Pro春節(jié)前上市 20日舉行預溝通會
2022-01-14 13:38:06
Minisforum發(fā)布UM350入門迷你PC：搭載銳龍R5-3550H APU
2022-01-14 13:24:40
受服務器維護與穩(wěn)定性問題拖累 廣告過濾DNS服務Adhole宣布關停
2022-01-14 13:24:31
3ISP+第7代AI引擎 新一代旗艦手機背后的驍龍8
2022-01-14 13:24:20
啟用4臺機器人餐廳老板談感想 還是無法全部取代人類
2022-01-14 13:24:15
明起，12306手機App可開具電子臨時乘車身份證明
2022-01-14 13:24:07
分析師預測：《GTA6》將在2024年3月前發(fā)售
2022-01-14 13:24:00
官方廣告最為致命 微信上線新年早春限量異形紅包封面
2022-01-14 12:41:31
配置讓PC汗顏！紅魔7入網(wǎng)：驍龍8+18G內(nèi)存
2022-01-14 12:41:18
最低只需36元 現(xiàn)在入手國行Switch享受專屬虎年新春福利
2022-01-14 12:41:08
點份小米外賣！小米生態(tài)鏈開通美團外賣店
2022-01-14 12:40:57
【必買】輕松觸發(fā)!微星VIGOR GK71 SONIC機械鍵盤配雙層透明鍵帽
2022-01-14 12:40:48
BD光盤過時了？酷睿12放棄SGX支持
2022-01-14 12:40:29
美運營商成功測試全球首個家用萬兆調(diào)制解調(diào)器
2022-01-14 12:38:36
【必買】打工人用這個才夠勁!雷神銀翼 Lite mini LED顯示器配4K+144Hz面板
2022-01-14 12:36:49
新品來啦！雷神上線MiniLED顯示器到手4999元
2022-01-14 12:36:36
曝真我GT2 Pro春節(jié)前上市 20日舉行預溝通會
2022-01-14 12:34:33
創(chuàng)業(yè)加盟連鎖代理開店服務好平臺推薦
2022-01-14 11:59:24 三星新專利：帶折疊屏幕的可拆卸筆記本
2022-01-14 11:43:19
[圖]摩托羅拉Edge 30 Ultra手寫筆和保護套曝光
2022-01-14 11:43:10
拼多多“砍一刀”項目失寵：內(nèi)部績效打分被評為最低檔
2022-01-14 11:42:44
炒鞋炒玩偶 警惕被“割韭菜”
2022-01-14 11:42:31
Logan Paul斥資350萬美元購買寶可夢卡牌后透露自己被騙
2022-01-14 11:42:18
Bing與Yandex率先采納IndexNow協(xié)議 可分享即時URL更新
2022-01-14 11:42:03
Gap攜手Brandon Sines推出NFT捆綁連帽衫 售約415美元
2022-01-14 11:41:52
最高法：依法嚴懲強制“二選一”、強制搭售等不正當競爭行為
2022-01-14 11:41:45
聚劃算，用「臨期貨品」重新定義年輕
2022-01-14 11:18:24 
HDD硬盤Q4出貨約6400萬部！同比下降約10%
2022-01-14 10:58:20 
Android 13首個重大功能揭曉：有望支持 LC3編碼器
2022-01-14 10:57:05 
屏占比史上最高！iPhone 14有望采用打孔屏并完全抹除劉海區(qū)域
2022-01-14 10:55:01 
Intel 11代、12代酷睿放棄SGX支持：用戶將無法播放UHD BD藍光視頻
2022-01-14 10:53:02 搜狗無障礙輸入法上線 用腳就能打字
2022-01-14 10:41:40
小米12 Pro限量禮盒首銷:不加價 手慢無
2022-01-14 10:41:31
蘋果強迫用戶升級iOS 15 關閉所有老版本更新 BUG不修復
2022-01-14 10:41:22
僅59元 蘋果官方認證供應商推出天價擦鏡布平替款
2022-01-14 10:41:13
蘋果iOS 15.3即將推送 鐵打的BUG 流水的iOS
2022-01-14 10:41:05
對標蘋果成功？小米12 Pro登上京東高端熱銷榜TOP3
2022-01-14 10:40:56
酷比魔方iWork GT平板開售 頂配i5處理器 起售價2999元
2022-01-14 10:40:48
QQ音樂推出超級會員 348元一年你覺得貴嗎？
2022-01-14 10:40:37
68000元 德味十足！徠卡M11正式發(fā)布：最高6000萬像素
2022-01-14 10:40:27
冬奧會火炬設計曝光 設計師竟然是錘子前員工
2022-01-14 10:40:19
拍照拉胯？Redmi K50電競版工程機曝光：沒有2K屏 配側(cè)邊指紋
2022-01-14 10:40:09
狩獵不止貓車不斷 《怪物獵人：崛起》正式上線Steam
2022-01-14 10:40:00
小米12Pro登高端熱銷榜TOP3：僅次于蘋果
2022-01-14 10:39:51
數(shù)據(jù)為證！英特爾處理器可靠性近三年完勝AMD
2022-01-14 10:39:41
1億像素主攝！Redmi Note 11S外形曝光 造型意外
2022-01-14 10:39:31
4折平替體驗 邦克仕推出超纖雙層拋光布
2022-01-14 10:39:21
【手慢無】羅技G102鼠標119元熱銷
2022-01-14 10:39:08
三款3080 12GB顯卡售價9299元起步！顏值都挺能打
2022-01-14 10:38:54
Intel Arc顯卡又要跳票！但是性能增加至少20%
2022-01-14 10:38:45
曝小米Redmi K50將采用側(cè)邊指紋方案 Redmi Note系列正在測試
2022-01-14 10:38:33
這也太酷了 三星可拆卸折疊屏筆記本專利曝光
2022-01-14 10:38:21
曝真我GT2 Pro春節(jié)前上市 20日舉行預溝通會
2022-01-14 10:38:14
新型兒童健康+教育綜合體，在粵港澳大灣區(qū)掀開
2022-01-14 10:18:11 
曝蘋果iPhone 13供應基本滿足需求！MacBook Pro產(chǎn)量依然供不應求
2022-01-14 08:42:05 
蘋果iPhone 14Pro有望使用升級版4800萬像素攝像頭：可支持8K視頻錄制
2022-01-14 08:39:31 
只能選擇IOS15？蘋果終止iOS 14更新倒逼升級！
2022-01-14 08:37:17 
中國市場智能手機銷量榜單出爐：蘋果iPhone 13系列已連續(xù)六周第一
2022-01-14 08:33:51 
AMD的銳龍7 5800X3D處理器供不應求！最多可提升40%游戲性能
2022-01-14 08:32:39 
2GB內(nèi)存的樹莓派4就能跑Ubuntu22.04？網(wǎng)友：Zswap永遠的神
2022-01-14 08:30:58 
大屏版Android 12L放出Beta2：全新UI界面充分適配大屏效果
2022-01-14 08:29:40 
火狐官方回應新版瀏覽器無法訪問網(wǎng)頁：服務器觸發(fā)異常導致，目前已修復
2022-01-14 08:28:38 
微信異形紅包封面來了：入手只需搖一搖
2022-01-14 08:27:12 
微軟終改設計Windows11獲新音量指示器：包括新的圖標、字體和UI界面
2022-01-14 08:23:24 高端電動SUV銷量榜：理想第一 特斯拉賣的最好卻沒上榜
2022-01-13 18:43:06
PC畫質(zhì)略好一點 戰(zhàn)神PC PS5畫質(zhì)對比
2022-01-13 18:42:51
顯卡短缺將緩解 RTX 3050 1899元大批量供貨
2022-01-13 18:42:37
2799元起！酷比魔方iWork GT平板1月15日開售
2022-01-13 18:42:24
Redmi K50電競版真機曝光：6.67英寸屏幕 驍龍8 Gen 1
2022-01-13 18:42:06
199元3A品質(zhì)！國產(chǎn)游戲《軒轅劍柒》PlayStation國行版上架
2022-01-13 18:41:55
營業(yè)執(zhí)照公示信息
相關新聞