站長(zhǎng)之家（ChinaZ.com）4月28日 消息:Facebook 母公司 Meta 的人工智能研究人員推出了一種新的語言模型Toolformer，旨在處理自然語言處理用例中多個(gè) API的調(diào)用。

(資料圖片僅供參考)

Toolformer 基于 GPT-J，后者是一種67億參數(shù)的開源語言模型。Meta 的研究人員為該模型配備了一系列工具，它可以自主使用這些工具來完成任務(wù)，例如預(yù)測(cè)文本或回答數(shù)學(xué)問題。

Toolformer 可以訪問的工具包括一個(gè)計(jì)算器、一個(gè)問答系統(tǒng)、兩個(gè)不同的搜索引擎、一個(gè)機(jī)器翻譯系統(tǒng)和一個(gè)日歷。

其中，使用的機(jī)器翻譯系統(tǒng)是其NLLB模型的6億參數(shù)版本，適用于200種語言。Toolformer 使用日歷 API，在查詢時(shí)無需任何輸入即可返回當(dāng)前日期?；卮饐栴}系統(tǒng)使用的是 Meta 的Atlas模型。

值得注意的是，其搜索引擎之一是維基百科搜索，它會(huì)在出現(xiàn)提示時(shí)返回來自維基百科的短文本片段。

上面的示例展示了 Toolformer 的功能。該模型自主決定調(diào)用不同的 API 來獲取對(duì)完成一段文本有用的信息。Meta論文中的這個(gè)例子看到該模型利用了一個(gè)問答系統(tǒng)、一個(gè)計(jì)算器、一個(gè)機(jī)器翻譯系統(tǒng)和一個(gè)維基百科搜索引擎。

盡管底層模型基于 GPT-2模型，但 Meta 發(fā)現(xiàn) Toolformer 在少數(shù)零樣本 NLP 任務(wù)上可以勝過 GPT-3模型。雖然 GPT-3在問答方面表現(xiàn)更好，但 Toolformer 在大多數(shù)其他測(cè)試中擊敗了 OpenAI 模型，包括數(shù)學(xué)推理和機(jī)器翻譯。

Toolformer 類似于 OpenAI 的ChatGPT，用戶輸入自然語言提示，系統(tǒng)生成響應(yīng)。Toolformer 的不同之處在于，它的各種工具可用于通過搜索引擎功能等工具根據(jù)最近發(fā)生的事件生成響應(yīng)。ChatGPT 和其他人是使用的是截止某個(gè)時(shí)間點(diǎn)數(shù)據(jù)集構(gòu)建的，這意味著它們無法響應(yīng)用戶對(duì)最近事件的查詢。

Meta 的研究人員在他們的論文中承認(rèn)，Toolformer 比其同時(shí)代的 ChatGPT 更不完整，其目前在使用上仍存在局限性”。

關(guān)于Toolformer論文介紹網(wǎng)址:https://arxiv.org/abs/2302.04761

（舉報(bào)）

關(guān)鍵詞：