網(wǎng)絡(luò)消費(fèi)網(wǎng) >  科技 > > 正文
環(huán)球訊息:谷歌的又一波反擊!開(kāi)放大語(yǔ)言模型PaLM API
時(shí)間:2023-03-15 07:07:43

機(jī)器之心報(bào)道

編輯:小洲


(資料圖片)

事到如今,OpenAI 的 ChatGPT 在 AI 社區(qū)的統(tǒng)治地位已經(jīng)無(wú)需多言。特別是 OpenAI 開(kāi)放 ChatGPT 的 API 之后,在開(kāi)發(fā)者社區(qū)掌握了極大的話語(yǔ)權(quán)。

反觀谷歌那邊,在第一波發(fā)布 Bard 失利之后,一直處于沉默狀態(tài)。

但在今日,谷歌組織了第二波反擊:開(kāi)放自家的大語(yǔ)言模型 API 「PaLM API」,此外今天谷歌還發(fā)布了一款幫助開(kāi)發(fā)者快速構(gòu)建 AI 程序的工具 MakerSuite。谷歌表示,此舉是為了幫助開(kāi)發(fā)者們快速構(gòu)建生成式 AI 應(yīng)用。

但略為遺憾的是,谷歌目前是向選定的開(kāi)發(fā)人員提供這些工具,而非全面開(kāi)放。

基于 PaLM 模型的 API

毫無(wú)疑問(wèn),PaLM API 是今天谷歌發(fā)布的公告的核心。

谷歌介紹稱(chēng),PaLM API 是 Google 大型語(yǔ)言模型的入口,可用于各種應(yīng)用程序。它將為開(kāi)發(fā)者提供面向?qū)喗换ザ鴥?yōu)化的模型,如內(nèi)容生成與對(duì)話。它也能為開(kāi)發(fā)者提供摘要、分類(lèi)等多種任務(wù)的通用模型。

從名字可以開(kāi)出,此次開(kāi)放的大語(yǔ)言模型 API 是基于谷歌去年發(fā)布的 PaLM。這是谷歌基于 Pathways 系統(tǒng)訓(xùn)練的一個(gè) 5400 億參數(shù)的大型語(yǔ)言模型。

為了訓(xùn)練這個(gè)模型,谷歌動(dòng)用了 6144 塊 TPU,讓 Pathways 在兩個(gè) Cloud TPU v4 Pods 上訓(xùn)練 PaLM。

強(qiáng)大的系統(tǒng)和算力投入帶來(lái)了驚艷的結(jié)果。谷歌在數(shù)百個(gè)語(yǔ)言理解和生成任務(wù)上評(píng)估了 PaLM,發(fā)現(xiàn)它在大多數(shù)任務(wù)上實(shí)現(xiàn)了 SOTA 少樣本學(xué)習(xí)性能,可以出色地完成笑話解讀、bug 修復(fù)、從表情符號(hào)中猜電影等語(yǔ)言、代碼任務(wù)。

隨著規(guī)模的增加,模型在處理多個(gè)任務(wù)時(shí)的性能逐漸提高,而且還在不斷解鎖新的能力

關(guān)于 PaLM,讀者們可以查看論文《PaLM: Scaling Language Modeling with Pathways》。

此外,谷歌公告稱(chēng),后續(xù)會(huì)開(kāi)放更多規(guī)模與功能不同的模型。PaLM 是谷歌選擇的第一個(gè)版本,所以后續(xù)我們也可以期待下 LaMDA API 等。

MakerSuite 工具

在過(guò)去的幾年里,谷歌一直在構(gòu)建和部署大型語(yǔ)言模型 —— 從將 MUM 引入搜索到在 AI Test Kitchen 中使用 LaMDA 構(gòu)建 APP。谷歌表示,開(kāi)發(fā)人員必須使用不同的工具來(lái)完成任務(wù),例如制作和迭代 prompt、生成合成數(shù)據(jù)以及精調(diào)自定義模型。

MakerSuite 是一種簡(jiǎn)化此工作流程的工具,讓用戶(hù)將能夠根據(jù) prompt 進(jìn)行迭代,使用合成數(shù)據(jù)擴(kuò)充數(shù)據(jù)集,并輕松調(diào)整自定義模型。當(dāng)你準(zhǔn)備好編程時(shí),MakerSuite 允許將 prompt 導(dǎo)出為你最喜歡的語(yǔ)言和框架(如 Python 和 Node.js)的代碼。

谷歌表示,借助 MakerSuite,你能夠直接在瀏覽器中快速測(cè)試和迭代調(diào)整后的模型。

最后補(bǔ)充一句我們觀察到的結(jié)果:谷歌今日的兩篇博客發(fā)布后,似乎已經(jīng)引起了一些人的不滿(mǎn):并非全面開(kāi)放、也沒(méi)有定價(jià)。也許,可以說(shuō)相比之前 ChatGPT API 的開(kāi)放,谷歌這一波反擊,也略顯失敗。

關(guān)鍵詞:

版權(quán)聲明:
    凡注明來(lái)網(wǎng)絡(luò)消費(fèi)網(wǎng)的作品,版權(quán)均屬網(wǎng)絡(luò)消費(fèi)網(wǎng)所有,未經(jīng)授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的,應(yīng)在授權(quán)范圍內(nèi)使用,并注明"來(lái)源:網(wǎng)絡(luò)消費(fèi)網(wǎng)"。違反上述聲明者,本網(wǎng)將追究其相關(guān)法律責(zé)任。
    除來(lái)源署名為網(wǎng)絡(luò)消費(fèi)網(wǎng)稿件外,其他所轉(zhuǎn)載內(nèi)容之原創(chuàng)性、真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾,請(qǐng)讀者僅作參考并自行核實(shí)。
熱文

網(wǎng)站首頁(yè) |網(wǎng)站簡(jiǎn)介 | 關(guān)于我們 | 廣告業(yè)務(wù) | 投稿信箱
 

Copyright © 2000-2020 www.netfop.cn All Rights Reserved.
 

中國(guó)網(wǎng)絡(luò)消費(fèi)網(wǎng) 版權(quán)所有 未經(jīng)書(shū)面授權(quán) 不得復(fù)制或建立鏡像
 

聯(lián)系郵箱:920 891 263@qq.com

備案號(hào):京ICP備2022016840號(hào)-15

營(yíng)業(yè)執(zhí)照公示信息