欧美99视频_日本一级淫片观看_国产精品久久久久网站_国产成人视屏

首頁 > 汽車資訊 > 汽車資訊 > 微軟將推出自研 5000 億個參數的大模型:MAI-1

微軟將推出自研 5000 億個參數的大模型:MAI-1

發布時間:2024-05-07 22:57:48

2024 年 5 月 7 日,《The Information》報道,微軟正在開發一個擁有大約 5000 億個參數的大語言模型(LLM)。

 

這標志著微軟自從往 OpenAI 投資逾 100 億美元,以便可以重復使用這家初創公司的 AI 模型以來,首次自行開發這等規模的 AI 模型。

該 LLM 在微軟內部被稱為 MAI-1,預計最早將于本月首次亮相。

OpenAI 在 2020 年年中推出 GPT-3 時,詳細說明該模型的初始版本有 1750 億個參數。該公司透露,GPT-4 更龐大,擁有更多的參數,但尚未透露具體數字。

一些報道顯示,OpenAI 的旗艦 LLM 擁有 1.76 萬億個參數,而谷歌的 Gemini Ultra 據稱擁有 1.6 萬億個參數,性能與 GPT-4 旗鼓相當。

微軟的 MAI-1 擁有 5000 億個參數,這表明它可能被定位為介于 GPT-3 和 GPT-4 之間的某種中檔模型。這樣的配置將允許模型提供高響應準確度,但耗用的功率比 OpenAI 的旗艦 LLM 低得多。言外之意,這將為微軟帶來更低的推理成本。

開發 MAI-1 的工作由 LLM 開發商 Inflection AI Inc.的創始人 Mustafa Suleyman 監管。

 

Mustafa Suleyman

 

今年 3 月,通過一筆價值 6.25 億美元的交易,Suleyman 和這家初創公司的大多數員工一起加入了微軟。這位高管早些時候與他人共同創立了谷歌的DeepMind AI 研究部門。

微軟可能使用 Inflection AI 的訓練數據及另外某些資產來驅動 MAI-1。

據稱,該模型的訓練數據集還包含多種類型的信息,包括 GPT-4 和互聯網內容生成的文本。

為《The Information》提供信源的知情人士表示,微軟尚未決定它將如何使用 MAI-1。如果這個模型確實擁有 5000 億個參數,那么它太過復雜了,無法在消費級設備上運行。這意味著微軟很可能會將 MAI-1 部署在其數據中心,那樣 LLM 可以集成到必應和 Azure 之類的服務中。

據信,微軟可能會在 5 月 16 日召開的 Build 開發者大會上展示MAI-1,如果到時候該模型的表現足夠令人滿意的話。這暗示該公司預計會在幾周內推出該模型的工作原型(如果目前還沒有工作原型的話)。

就在不到兩周前,微軟剛剛開源了一種名為 Pi-3 Mini 的語言模型。據微軟聲稱,這種模型僅擁有 38 億個參數,但性能卻比參數多 10 倍的 LLM 更勝一籌。Pi-3 是一個 AI 系列的一部分,該系列還包括另外兩個更龐大的、性能略勝一籌的神經網絡。

開發 MAI-1表明微軟內部對 AI采取了雙管齊下的做法,既關注面向移動設備的本地運行的小型語言模型,也關注由云支持的大型先進模型。據報道,蘋果也在探索類似的做法。這也凸顯了微軟不依賴OpenAI 探索 AI 開發的意愿,OpenAI的技術目前支持微軟最雄心勃勃的生成式 AI 功能,包括嵌入到 Windows 中的聊天機器人。

汽車資訊更多>>

2024年舟山市定海區衛生健康系統招聘編外人員公告 2024年寧波鄞州區錢湖醫院招聘編外人員公告 2024年貴陽清鎮市第一人民醫院醫共體暗流分院招聘合同制專業技術人員簡章 2024 年南海區第七人民醫院招聘事業單位 聘用制(編制)工作人員公告(第二批)(16人) A+級市場變天,AION RT A+王者現身! 悅達起亞銷量飆升,1-7月累計達13.2萬輛,增長66.5% 帥出新高度!猛士917高地雄獅版與M800星際成都車展驚艷亮相! 直降至高2.3萬元!2025款起亞K5增配上市,13.98萬元起售! 上汽俞經民:講MG一定要講英語,MG5是A級轎跑課代表 16.58萬元起,2025款漢開啟全面進化,加速沖擊合資燃油車 13.98萬元起售,配置增加,2025款起亞K5還香嗎? 重磅新品齊發,華為在線上演“王者歸來” 2024年亳州譙城區大學生鄉村醫生專項計劃招聘公告 2024年亳州市蒙城縣大學生鄉村醫生專項計劃招聘公告 2024年馬鞍山花山區“鄉編村用”招聘事業編制人員公告 2024年馬鞍山和縣“鄉編村用”專項招聘事業單位人員公告 2024年馬鞍山博望區“鄉編村用”招聘鄉鎮事業編制人員公告 2024年合肥市志遠教育集團校園招聘公告 2024年蕪湖徽文中學2025屆校園招聘簡章 2024年皖西學院藝朝藝夕教育科技集團2025屆校園招聘公告 2024年亳州市風華高級中學有限公司招聘簡章 預售20.98萬起/比亞迪唐DM同級,星途瑤光 C-DM四驅版9月26日上市 售26.88萬,座椅2+2+2布局,2.0T+8AT+四驅,第五代勝達香不香? 800V快充+高階智駕,0息0首付,限時17.99萬元起,小鵬G6 售價19.99萬起,車長超5米,配2.0T+7DCT,這款中型車帶勁不? 車長超5米,220馬力+7DCT,惠后22.39萬,這款合資B級車帶勁不? 配雙層隔音玻璃,油耗6.41L,限時12.78萬元,這款中型車適合家用 252馬力+四驅,配L2級輔助駕駛,惠后20.48萬,家用看這款中型SUV 2.0T+8AT+適時四驅,惠后16.88萬,家用可以看這款中型SUV 10萬級側滑門SUV,軸距2820mm,配置豐富,續航500km,適合家用