作者 | Farhad Manjoo

ChatGPT給人留下的第一印象十分迷人。它幽默感驚人，模仿能力絕佳，在押韻方面也相當(dāng)有一手。它的觀點還非常合理。要是ChatGPT沒能通過圖靈測試，那大概率是因為它什么事情都不發(fā)表自己的意見。上一次有人在互聯(lián)網(wǎng)上拒絕談?wù)撟约旱恼鎸嵪敕ǎ鞘裁磿r候？

(資料圖片僅供參考)

幾周前，當(dāng)人工智能公司OpenAI推出了ChatGPT這款機器人，作為其大型語言模型工作的“研究預(yù)覽”（research preview）時，我開始跟它聊天。語言模型是一種人工智能系統(tǒng)，通過大量的文本學(xué)習(xí)來捕捉詞匯之間可能存在的聯(lián)系。ChatGPT是一種經(jīng)過優(yōu)化的語言模型，其目標就是為了探索AI技術(shù)領(lǐng)域長期的“圣杯”——一臺能與人類對話的計算機。

ChatGPT確實做到了這一點。我一生中跟許多計算機聊過天（我知道這很奇怪），但ChatGPT是我遇到的第一個堪稱有趣的聊天對象。起初，我只是說一些瑣事，但沒過多久，我們就展開了深入的對話，比如：美聯(lián)儲在美國經(jīng)濟中的作用；意識的本質(zhì)；“woke”（編注：原為非裔美國人的俚語，后來用于指“對種族歧視和偏見保持警覺”）和“Karen”（編注：一個姓名梗，指歧視有色人種的中年白人女性）之類的新詞；養(yǎng)育子女的道德困境；怎么為罷工同事提供支持；氣候變化、墮胎和疫苗安全；熱狗算不算三明治，等等。

說到這里，也許我應(yīng)該告訴你們——我對ChatGPT抱有一種敬畏或害怕的心態(tài)，因為它將會徹底改變或毀滅我們的世界。但是，盡管我認為ChatGPT揭示了AI的一些危險性，我拒絕對它給予強烈的贊揚或是譴責(zé)。

就像大多數(shù)雞尾酒會上的閑聊一樣，它的潛在利弊，至少就目前而言，都是相當(dāng)有限的。我毫不懷疑像ChatGPT這樣的東西可能會被濫用。它有可能會導(dǎo)致一些貌似科學(xué)的錯誤信息的病毒性傳播，可能會降低學(xué)生論文作弊的難度。

但OpenAI似乎正在解決這些問題。在一次采訪中，OpenAI的首席技術(shù)官米拉·穆拉蒂（Mira Murati）表示，該公司正在仔細監(jiān)控人們在如何使用和濫用它，迅速完善系統(tǒng)來填補一些明顯的漏洞，并根據(jù)用戶反饋不斷改進它。

事實上，ChatGPT對自身局限性的認知，正是其最有趣的性格特征之一。

與ChatGPT之間的許多對話都會變成這樣：當(dāng)你打算認可它的說法時，它就會轉(zhuǎn)向高度謹慎的態(tài)度，宛如最高法院大法官候選人在其確認聽證會上表現(xiàn)出的那樣。它通常會提醒你，關(guān)于這件事還有其他說法，也許不存在一個明確的“正確”答案，以及你應(yīng)該試著欣賞不同的觀點。

在針對一些科學(xué)話題時，ChatGPT似乎更為篤定一些。例如，它會說“氣候變化是真實存在的、正在發(fā)生的現(xiàn)象”，進化論“得到了來自許多不同領(lǐng)域的大量科學(xué)證據(jù)的支持”，以及地球當(dāng)然不是平的。不過，總的來說，ChatGPT會坦白告訴你自己無法提供一個確定的答案。

為什么說ChatGPT的這一特征非常驚艷？眾所周知，人工智能研究存在的兩個問題分別是保持“一致性”和避免“幻覺”。一致性涉及到人工智能實現(xiàn)其人類創(chuàng)造者目標的能力，換句話說，就是拒絕對世界造成破壞；幻覺則跟堅持真理有關(guān)——當(dāng)人工智能系統(tǒng)困惑不解時，它們有一個壞習(xí)慣，就是會編造一些事情，而不是承認自己遇到了困難。為了解決這兩個問題，OpenAI的研究人員微調(diào)了ChatGPT的語言模型，名為“從人類反饋中強化學(xué)習(xí)”（Reinforcement learning from human feedback）。該公司雇用了真人與機器人互動。當(dāng)人類與它聊天時，他們會對它的反應(yīng)評級，這本質(zhì)上是在教它：什么樣的反應(yīng)是好的反應(yīng)，什么樣的不是。

穆拉蒂告訴我，語言模型與人類反饋的結(jié)合，創(chuàng)造出了一個更逼真的人工智能對話伙伴，“這個模型可以分辨對錯，”她說，“它可以順著你的話題繼續(xù)提問，也會質(zhì)疑不正確的假設(shè)或拒絕不合適的請求?！?/p>

ChatGPT還遠遠算不上完美。Twitter上充斥著“破解”ChatGPT的例子，或者說，誘騙它產(chǎn)生幻覺或錯位的例子。

外界針對像ChatGPT這樣由“深度學(xué)習(xí)”計算技術(shù)構(gòu)建的系統(tǒng)的一個主要批評是，它們只不過是增強版本的自動更正技術(shù)，所理解的只是單詞之間的統(tǒng)計聯(lián)系，而不是單詞背后的概念。紐約大學(xué)心理學(xué)榮譽教授、深度學(xué)習(xí)懷疑論者加里·馬庫斯（Gary Marcus）表示，雖然像ChatGPT這樣的人工智能語言模型可以說一些漂亮話，但它“仍然不可靠，仍然不了解物理世界，仍然不理解心理世界，仍然會產(chǎn)生幻覺”。

不過，與此同時，ChatGPT最大的特點就是它很謙虛。一天下午，我受夠了它不斷提醒我說，自己的答案可能是錯的，我問它：“要是不管你說了什么，我都得確認一遍你說得對不對，那要你有什么用？這話可能有些不中聽，不好意思?！?/p>

而它表示過意不去，“我無意成為一個確定的信源，我的職責(zé)不是替代那些專業(yè)的建議和知識。我在這里只是為了輔助提供一些有效信息，但最終還是需要用戶自己對這些信息做核實和評估?！?/p>

這種謙遜讓ChatGPT成了一款不同尋常的數(shù)字助手。你很少能在網(wǎng)上看到有人承認自己也許是錯的。如果人工智能可以做到的最好的事情就是承諾自己會做得更好，那我愿意接受它。

關(guān)鍵詞： chatgpt 人工智能