AMD 推出自家首款小語(yǔ)言模型“Llama-135m”

發(fā)布日期：2024-09-30

333 次

9 月 29 日消息，AMD 在 Huggingface 平臺(tái)公布了自家首款 " 小語(yǔ)言模型 "AMD-Llama-135m，該模型具有推測(cè)解碼功能，擁有 6700 億個(gè) token，采用 Apache 2.0 開(kāi)源許可，附模型地址如下。

據(jù)介紹，這款模型主打 " 推測(cè)解碼 " 能力，其基本原理是使用小型草稿模型生成一組候選 token，然后由更大的目標(biāo)模型進(jìn)行驗(yàn)證。這種方法允許每次前向傳遞生成多個(gè) token，而不會(huì)影響性能，從而顯著減少 RAM 占用，實(shí)現(xiàn)效率提升。

AMD 表示，這款模型在四個(gè) AMD Instinct MI250 節(jié)點(diǎn)訓(xùn)練了六天，其 " 編程專用版本 " 變體 AMD-Llama-135m-code 則額外耗費(fèi)了四天時(shí)間進(jìn)行微調(diào)。

版權(quán)聲明：本站內(nèi)容除特別聲明的原創(chuàng)文章之外，轉(zhuǎn)載內(nèi)容只為傳遞更多信息，并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問(wèn)題，請(qǐng)及時(shí)通過(guò)電子郵件或電話通知我們，以便迅速采取適當(dāng)措施，避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話：020-2204 2442,郵箱：[email protected]。

上一篇: 美國(guó)加州州長(zhǎng)否決人工智能安全法案SB1047
下一篇: AI大師本ThinkPad P1 AI 2024 AI元啟版加速專業(yè)領(lǐng)域內(nèi)容創(chuàng)作通過(guò)ISV認(rèn)證

為您精選

AMD發(fā)布新一代AI PC芯片

美東時(shí)間周二，美國(guó)芯片設(shè)計(jì)公司AMD推出了新的處理器，用于驅(qū)動(dòng)AI PC，試圖在與英偉達(dá)和英特爾的競(jìng)爭(zhēng)中取得領(lǐng)先地位。美股盤···

更新日期：2024-04-17 505 次
AMD MI388X中國(guó)特供加速卡仍被禁賣

AMD的新一代GPU加速卡MI300A、MI300X具備了挑戰(zhàn)NVIDIA的能強(qiáng)大力，當(dāng)然沒(méi)法賣給中國(guó)，為此AMD也打造了中國(guó)特供版，名字叫做M···

更新日期：2024-04-09 439 次
馬斯克旗下人工智能公司 xAI 近日在官方博客中宣布，正式推出 Grok-1.5 大···

馬斯克旗下人工智能公司xAI近日在官方博客中宣布，正式推出Grok-1.5大語(yǔ)言模型。Grok-1.5 具有改進(jìn)的推理能力和 128k 的上下···

更新日期：2024-04-01 500 次
ChatGPT爆火一年后成CES汽車展臺(tái)“C位”

ChatGPT在去年的 " 爆火 "，瞬間蓋過(guò)了元宇宙的風(fēng)頭，業(yè)界隨即開(kāi)始探討其與汽車產(chǎn)業(yè)會(huì)碰撞出怎樣的火花。2024 年C···

更新日期：2024-01-10 526 次
2009年以來(lái)半導(dǎo)體行業(yè)迎來(lái)了最大的漲幅，其中英偉達(dá)和AMD扮演了重要角色

在2023年，英偉達(dá)成為全球首家跨入"萬(wàn)億美元"俱樂(lè)部的芯片制造商，這一里程碑式的成就得益于全球范圍內(nèi)人工智能趨勢(shì)所催生的···

更新日期：2024-01-05 465 次

熱門標(biāo)簽

關(guān)于綠測(cè)

廣州綠測(cè)電子科技有限公司（簡(jiǎn)稱：綠測(cè)科技）成立于2015年11月，是一家專注于耕耘測(cè)試與測(cè)量行業(yè)的技術(shù)開(kāi)發(fā)公司。綠測(cè)科技以“工程師的測(cè)試管家”的理念向廣大客戶提供專業(yè)的管家服務(wù)。綠測(cè)科技的研發(fā)部及工廠設(shè)立于廣州番禺區(qū)，隨著公司業(yè)務(wù)的發(fā)展，先后在廣西南寧、深圳、廣州南沙、香港等地設(shè)立了機(jī)構(gòu)。綠測(cè)科技經(jīng)過(guò)深耕測(cè)試與測(cè)量領(lǐng)域多年，組建了一支經(jīng)驗(yàn)豐富的團(tuán)隊(duì)，可為廣大客戶提供品質(zhì)過(guò)硬的產(chǎn)品及測(cè)試技術(shù)服務(wù)等支持。

查看詳情

應(yīng)用解決方案

產(chǎn)品與服務(wù)

新聞資訊

綠測(cè)工場(chǎng)服務(wù)號(hào)

綠測(cè)科技訂閱號(hào)

020-2204 2442

亚洲性爱在线影院_国产又爽又色又刺激视频_欧美日韩一区日本道_一本大道香蕉视频在线观看_中文字幕无码人妻系列按摩_亚洲中文精品免费看_国产成人亚洲欧综合_伦理大片在线观看_91香蕉黄色视频_国产精品一区二区不卡中文

新聞資訊

行業(yè)資訊

AMD 推出自家首款小語(yǔ)言模型“Llama-135m”

為您精選

熱門文章

我國(guó)成功搭建國(guó)際首個(gè)通信與智能融···

OTDR光纜綜合測(cè)試儀的功能及應(yīng)用范···

實(shí)現(xiàn)智能工廠：不可或缺的工業(yè)以太···

采用創(chuàng)新的FPGA 器件來(lái)實(shí)現(xiàn)更經(jīng)濟(jì)且···

貿(mào)澤電子開(kāi)售英特爾新成立的獨(dú)立運(yùn)···

電動(dòng)汽車快速充電系統(tǒng)隔離式 DC/DC···

什么是功率器件雙脈沖測(cè)試？

寧德時(shí)代與特斯拉合作開(kāi)發(fā)快充電池

最新文章

北京：適時(shí)探索 6G 應(yīng)用發(fā)展方向到 2027 年底全面實(shí)現(xiàn) 5G 規(guī)?；瘧?yīng)用···

重磅！2025中國(guó)邊緣計(jì)算20強(qiáng)發(fā)布

三張PPT看懂6G：3GPP定義的路徑、動(dòng)因與目標(biāo),黃仁勛沒(méi)辦法高興或遭中···

Spectrum數(shù)字化儀卡將海豚聲吶點(diǎn)擊轉(zhuǎn)為鼠標(biāo)點(diǎn)擊,海豚將通過(guò)移動(dòng)水下屏···

宜人智科“智語(yǔ)大模型”正式通過(guò)備案開(kāi)啟AI科技新征程

熱門標(biāo)簽

在線客服

微信在線咨詢

聯(lián)系電話

咨詢熱線

公眾號(hào)

微信掃一掃

回到頂部