網(wǎng)絡(luò)消費網(wǎng) >  科技 > > 正文
環(huán)球訊息:谷歌的又一波反擊!開放大語言模型PaLM API
時間:2023-03-15 07:07:43

機器之心報道

編輯:小洲


(資料圖片)

事到如今,OpenAI 的 ChatGPT 在 AI 社區(qū)的統(tǒng)治地位已經(jīng)無需多言。特別是 OpenAI 開放 ChatGPT 的 API 之后,在開發(fā)者社區(qū)掌握了極大的話語權(quán)。

反觀谷歌那邊,在第一波發(fā)布 Bard 失利之后,一直處于沉默狀態(tài)。

但在今日,谷歌組織了第二波反擊:開放自家的大語言模型 API 「PaLM API」,此外今天谷歌還發(fā)布了一款幫助開發(fā)者快速構(gòu)建 AI 程序的工具 MakerSuite。谷歌表示,此舉是為了幫助開發(fā)者們快速構(gòu)建生成式 AI 應(yīng)用。

但略為遺憾的是,谷歌目前是向選定的開發(fā)人員提供這些工具,而非全面開放。

基于 PaLM 模型的 API

毫無疑問,PaLM API 是今天谷歌發(fā)布的公告的核心。

谷歌介紹稱,PaLM API 是 Google 大型語言模型的入口,可用于各種應(yīng)用程序。它將為開發(fā)者提供面向?qū)喗换ザ鴥?yōu)化的模型,如內(nèi)容生成與對話。它也能為開發(fā)者提供摘要、分類等多種任務(wù)的通用模型。

從名字可以開出,此次開放的大語言模型 API 是基于谷歌去年發(fā)布的 PaLM。這是谷歌基于 Pathways 系統(tǒng)訓(xùn)練的一個 5400 億參數(shù)的大型語言模型。

為了訓(xùn)練這個模型,谷歌動用了 6144 塊 TPU,讓 Pathways 在兩個 Cloud TPU v4 Pods 上訓(xùn)練 PaLM。

強大的系統(tǒng)和算力投入帶來了驚艷的結(jié)果。谷歌在數(shù)百個語言理解和生成任務(wù)上評估了 PaLM,發(fā)現(xiàn)它在大多數(shù)任務(wù)上實現(xiàn)了 SOTA 少樣本學(xué)習(xí)性能,可以出色地完成笑話解讀、bug 修復(fù)、從表情符號中猜電影等語言、代碼任務(wù)。

隨著規(guī)模的增加,模型在處理多個任務(wù)時的性能逐漸提高,而且還在不斷解鎖新的能力

關(guān)于 PaLM,讀者們可以查看論文《PaLM: Scaling Language Modeling with Pathways》。

此外,谷歌公告稱,后續(xù)會開放更多規(guī)模與功能不同的模型。PaLM 是谷歌選擇的第一個版本,所以后續(xù)我們也可以期待下 LaMDA API 等。

MakerSuite 工具

在過去的幾年里,谷歌一直在構(gòu)建和部署大型語言模型 —— 從將 MUM 引入搜索到在 AI Test Kitchen 中使用 LaMDA 構(gòu)建 APP。谷歌表示,開發(fā)人員必須使用不同的工具來完成任務(wù),例如制作和迭代 prompt、生成合成數(shù)據(jù)以及精調(diào)自定義模型。

MakerSuite 是一種簡化此工作流程的工具,讓用戶將能夠根據(jù) prompt 進行迭代,使用合成數(shù)據(jù)擴充數(shù)據(jù)集,并輕松調(diào)整自定義模型。當(dāng)你準備好編程時,MakerSuite 允許將 prompt 導(dǎo)出為你最喜歡的語言和框架(如 Python 和 Node.js)的代碼。

谷歌表示,借助 MakerSuite,你能夠直接在瀏覽器中快速測試和迭代調(diào)整后的模型。

最后補充一句我們觀察到的結(jié)果:谷歌今日的兩篇博客發(fā)布后,似乎已經(jīng)引起了一些人的不滿:并非全面開放、也沒有定價。也許,可以說相比之前 ChatGPT API 的開放,谷歌這一波反擊,也略顯失敗。

關(guān)鍵詞:

版權(quán)聲明:
    凡注明來網(wǎng)絡(luò)消費網(wǎng)的作品,版權(quán)均屬網(wǎng)絡(luò)消費網(wǎng)所有,未經(jīng)授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的,應(yīng)在授權(quán)范圍內(nèi)使用,并注明"來源:網(wǎng)絡(luò)消費網(wǎng)"。違反上述聲明者,本網(wǎng)將追究其相關(guān)法律責(zé)任。
    除來源署名為網(wǎng)絡(luò)消費網(wǎng)稿件外,其他所轉(zhuǎn)載內(nèi)容之原創(chuàng)性、真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考并自行核實。
熱文

網(wǎng)站首頁 |網(wǎng)站簡介 | 關(guān)于我們 | 廣告業(yè)務(wù) | 投稿信箱
 

Copyright © 2000-2020 m.netfop.cn All Rights Reserved.
 

中國網(wǎng)絡(luò)消費網(wǎng) 版權(quán)所有 未經(jīng)書面授權(quán) 不得復(fù)制或建立鏡像
 

聯(lián)系郵箱:920 891 263@qq.com

備案號:京ICP備2022016840號-15

營業(yè)執(zhí)照公示信息