2 月 29 日消息,英偉達(dá)近日聯(lián)合 Hugging Face 和 ServiceNow,發(fā)布了名為 StarCoder2 的 LLMs 系列模型,希望成為代碼生成領(lǐng)域的新標(biāo)準(zhǔn),具備性能、透明度和成本效益等諸多優(yōu)勢(shì)。
該系列模型包括一個(gè)由 ServiceNow 訓(xùn)練的 30 億參數(shù)模型、一個(gè)由 Hugging Face 訓(xùn)練的 70 億參數(shù)模型和一個(gè)由英偉達(dá)訓(xùn)練的 150 億參數(shù)模型。
這是通過(guò)使用名為 Stack v2 的新代碼數(shù)據(jù)集實(shí)現(xiàn)的,該數(shù)據(jù)集比 Stack v1 大七倍;新的訓(xùn)練技術(shù)也意味著該模型可以更好地理解 COBOL 等低資源編程語(yǔ)言、數(shù)學(xué)和程序源代碼討論。
StarCoder2 經(jīng)過(guò) 619 門編程語(yǔ)言培訓(xùn),可以執(zhí)行源代碼生成、工作流生成、文本摘要等專業(yè)任務(wù)。英偉達(dá)表示,開(kāi)發(fā)人員可以利用它進(jìn)行代碼補(bǔ)全、高級(jí)代碼總結(jié)、代碼片段檢索等,從而提高工作效率。
英偉達(dá)表示相比較初版 StarCoder LLMs,新的 30 億參數(shù)模型進(jìn)一步精簡(jiǎn)和篩選了優(yōu)質(zhì)參數(shù),其性能相當(dāng)于 150 億參數(shù)模型的初版 StarCoder。
StarCoder2 采用 BigCode Open RAIL-M 許可證,允許免版稅訪問(wèn)和使用。注:感興趣的用戶可從 BigCode 項(xiàng)目的 GitHub 頁(yè)面獲取源代碼,可從 Hugging Face 下載模型。
【版權(quán)及免責(zé)聲明】凡注明"轉(zhuǎn)載來(lái)源"的作品,均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多的信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)。財(cái)經(jīng)股市網(wǎng)倡導(dǎo)尊重與保護(hù)知識(shí)產(chǎn)權(quán),如發(fā)現(xiàn)本站文章存在內(nèi)容、版權(quán)或其它問(wèn)題,煩請(qǐng)聯(lián)系。 聯(lián)系方式:QQ:2261036103,我們將及時(shí)溝通與處理。