應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

李開復(fù)旗下 AI 公司零一萬(wàn)物宣布開源 Yi-9B 模型,號(hào)稱同系列代碼、數(shù)學(xué)能力最強(qiáng)

2024-03-07 09:07 IT之家
關(guān)鍵詞:AI開源Yi-9B模型

導(dǎo)讀:“零一萬(wàn)物 01AI”官方公眾號(hào)發(fā)文宣布開源 Yi-9B 模型,官方稱其為 Yi 系列模型中的“理科狀元”——Yi-9B 是目前 Yi 系列模型中代碼和數(shù)學(xué)能力最強(qiáng)的模型

  3 月 6 日消息,“零一萬(wàn)物 01AI”官方公眾號(hào)發(fā)文宣布開源 Yi-9B 模型,官方稱其為 Yi 系列模型中的“理科狀元”——Yi-9B 是目前 Yi 系列模型中代碼和數(shù)學(xué)能力最強(qiáng)的模型,實(shí)際參數(shù)為 8.8B,默認(rèn)上下文長(zhǎng)度為 4K tokens。

image.png

  該模型是在 Yi-6B (使用了 3.1T tokens 訓(xùn)練)的基礎(chǔ)上,使用了 0.8T tokens 進(jìn)行繼續(xù)訓(xùn)練,數(shù)據(jù)截至 2023 年 6 月。

  據(jù)介紹,在綜合能力方面(Mean-All),Yi-9B 的性能“在尺寸相近的開源模型中最好”,超越了DeepSeek-Coder、DeepSeek-Math、Mistral-7B、SOLAR-10.7B 和 Gemma-7B。

  代碼能力方面(Mean-Code),Yi-9B 的性能僅次于 DeepSeek-Coder-7B,超越了Yi-34B、SOLAR-10.7B、Mistral-7B 和 Gemma-7B。

  在數(shù)學(xué)能力方面(Mean-Math),Yi-9B 的性能僅次于 DeepSeek-Math-7B,超越了SOLAR-10.7B、Mistral-7B 和 Gemma-7B。

  在常識(shí)和推理能力方面(Mean-Text),Yi-9B 的性能與 Mistral-7B、SOLAR-10.7B 和 Gemma-7B不相上下。

  官方更稱,Yi-9B(BF 16) 和其量化版 Yi-9B(Int8)都能在消費(fèi)級(jí)顯卡上輕松部署,使用成本較低,開發(fā)者友好。

image.png

  據(jù)IT之家此前報(bào)道,該公司由李開復(fù)創(chuàng)新工場(chǎng)董事長(zhǎng)兼CEO帶隊(duì)創(chuàng)辦,此前已已推出Yi-34B和Yi-6B兩個(gè)開源大模型,號(hào)稱對(duì)學(xué)術(shù)研究完全開放,同步開放免費(fèi)商用申請(qǐng)。

image.png