飛象網(wǎng)訊 3月14日,零一萬物正式發(fā)布 Yi 大模型 API 開放平臺,為開發(fā)者提供通用 Chat、200k 超長上下文、多模態(tài)交互等模型。
同時,零一萬物表示,近期零一萬物將為開發(fā)者提供更多更強模型和 AI 開發(fā)框架。主要亮點包括:
• 推出一系列的模型 API,覆蓋更大的參數(shù)量、更強的多模態(tài),更專業(yè)的代碼/數(shù)學(xué)推理模型等。
• 突破更長的上下文,目標(biāo) 100萬 tokens;支持更快的推理速度,顯著降低推理成本。
• 基于超長上下文能力,構(gòu)建向量數(shù)據(jù)庫、RAG、Agent 架構(gòu)在內(nèi)的全新開發(fā)者 AI 框架。旨在提供更加豐富和靈活的開發(fā)工具,以適應(yīng)多樣化的應(yīng)用場景。
Yi 系列模型 API
此次 API 開放平臺提供以下新版模型:
• ✅ Yi-34B-Chat-0205:支持通用聊天、問答、對話、寫作、翻譯等功能。
• ✅ Yi-34B-Chat-200K:200K 上下文,多文檔閱讀理解、超長知識庫構(gòu)建小能手。
• ✅ Yi-VL-Plus: 多模態(tài)模型,支持文本、視覺多模態(tài)輸入,中文圖表體驗超過 GPT-4V。
API 相關(guān)亮點介紹
• 200k 模型支持輸入 30 萬漢字
○ 加速大模型應(yīng)用進入“長文本時代”。200K 支持處理約 30 萬個中英文字符,可以輕松處理整本《哈利•波特與魔法石》小說。適合用于多篇文檔內(nèi)容理解、海量數(shù)據(jù)分析挖掘和跨領(lǐng)域知識融合等,為各行各業(yè)提供了極大的便利。例如,金融分析師可以用它快速閱讀報告并預(yù)測市場趨勢、律師可以用它精準解讀法律條文、科研人員可以用它高效提取論文要點、文學(xué)愛好者可以用它快速掌握作品精髓等,應(yīng)用場景非常廣泛。
○ 大海撈針評測升至99.8%。“大海撈針”測試的設(shè)計是:將一個目標(biāo)句子(針)放進一個隨機文檔語料庫(大海),然后提出一個只能使用“針”(目標(biāo)句子)中的信息才能回答的問題來測試模型的回憶能力。在“大海撈針”測試中,Yi-34B-Chat-200K的性能提高了10.5%,從89.3%提升到99.8%。
• Yi-VL-Plus 多模態(tài)模型
零一萬物開發(fā)的多模態(tài)模型 Yi-VL-Plus,可支持文本、視覺多模態(tài)輸入,面向?qū)嶋H應(yīng)用場景大幅增強:
○ 增強Charts, Table, Inforgraphics, Screenshot 識別能力,支持復(fù)雜圖表理解、信息提取、問答以及推理。中文圖表體驗超過GPT4V。
○ 在 Yi-VL 基礎(chǔ)上進一步提高了圖片分辨率,模型支持 1024*1024 分辨率輸入,顯著提高生產(chǎn)力場景中的文字、數(shù)字 OCR 的準確性。
○ 保持了 LLM 通用語言、知識、推理、指令跟隨等能力。
圖說:在中文圖表識別功能評測中,Yi-VL-Plus模型能準確識別圖表對應(yīng)數(shù)據(jù),而 GPT-4V則識別錯3處數(shù)據(jù)。
👆圖說:Yi-VL-Plus模型在一些中文圖表理解場景,比GPT-4V準確率更高
• 推理速度快
○ 為了提升 API 性能,我們在 API 側(cè)進行了推理優(yōu)化,因此 Yi-34B-Chat 系列 API 具備較快的推理速度,這不僅縮短了處理時間,同時也保持了出色的模型效果。此外,優(yōu)化的 API 接口顯著降低了模型回復(fù)的延遲,進一步提高了用戶體驗的流暢性和響應(yīng)速度。
• 兼容 OpenAI API
○ Yi 大模型 API 與 OpenAI API 完全兼容,你只需修改少量代碼,可以平滑遷移,即刻享受 Yi 大模型的超凡魅力。
200k + 多模態(tài)模型例子
○ Yi-34B-Chat 200K + 多模態(tài)模型解讀 Yi-tech-report 論文
• Yi-34B-Chat-200K 對經(jīng)典文學(xué)作品《呼嘯山莊》進行復(fù)雜角色和角色關(guān)系的歸納總結(jié)。
○ 該小說篇幅龐大(中文字數(shù)約 30 萬字),且人物關(guān)系錯綜復(fù)雜,但它仍能精準地梳理和總結(jié)出人物之間的關(guān)系,展示了它在處理超長上下文時出色的復(fù)雜內(nèi)容理解和分析能力。
零一萬物大模型開放平臺發(fā)布,新用戶免費贈送60元
• ✅ 在全球多項權(quán)威評測榜單中,Yi 大模型表現(xiàn)優(yōu)異,性能直追 GPT-4。此前,Yi 大模型 API 小范圍開放內(nèi)測,全球已有不少開發(fā)者申請使用,并普遍反饋效果超出預(yù)期,且對 Yi-34B-Chat-200K API 有強烈需求。Yi-VL-Plus 多模態(tài)模型中文效果超過 GPT-4V。因此,我們也不斷加大研發(fā)力度,終于在今天推出了大家期待已久的 API!✌️
• ✅ 目前,Yi 大模型 API 名額限量開放中,新用戶贈送60元。 🎉
零一萬物希望與有創(chuàng)造力的你并肩作戰(zhàn),助力你加速開發(fā) AI 2.0 應(yīng)用生態(tài),一同探索 LLM 的廣闊應(yīng)用場景。
API 邀測公號文章
• 零一萬物API可以適用于哪些2B/2C場景
○ 【2C】使用Yi Chat模型構(gòu)建智能對話助手(類似ChatGPT)
○ 【2C】使用Yi多模態(tài)模型,識別圖片中存在的表格,文字,并進行深層次的問答。(此次3.14發(fā)布版本新增加的模型)
○ 【2B】將Yi系列模型整合到現(xiàn)有產(chǎn)品,實現(xiàn)類Copilot工具
○ 【2B】使用Yi超長上下文模型構(gòu)建知識庫問答,用于客服、培訓(xùn)等特定知識的問答場景