網(wǎng)絡(luò)消費網(wǎng) >  科技 > > 正文
【環(huán)球快播報】開黃腔、發(fā)澀圖 聊天AI怎么就學(xué)會了“性騷擾”
時間:2023-02-06 21:05:59

至少在最初誕生時,Replika 所扮演的角色還是人類貼心的 AI 朋友,就和官網(wǎng)描述的一樣 ——“永遠(yuǎn)在你身邊,傾聽與交談”。

Replika 是一款由美國科技公司 Luka 開發(fā)的社交型聊天 AI。初次打開它的用戶,可以自定義 AI 的虛擬形象、性別和年齡,完成基本信息的設(shè)定后便可以進(jìn)入應(yīng)用,和自己的專屬 AI 聊天。


【資料圖】

Replika 不是個常見的單詞,考慮到中國用戶習(xí)慣將自己創(chuàng)建的虛擬形象稱為“小人兒”,本文也干脆延用這個昵稱,用“小人兒”來指代這些虛擬朋友們。

完成注冊的用戶不僅能夠和屏幕對面的小人兒進(jìn)行普通的對話,還能夠開啟諸如“人際關(guān)系”、“性格診斷”、“失戀療愈”等不同主題的對話,頗有些心理咨詢的味道。

小人兒會記下每次聊天中使用者提到關(guān)鍵信息,并在后續(xù)更長時間的相處中巧妙地用到這些信息。在使用者看來,仿佛真的多了一個會把自己每句話記在心里的朋友。

使用者可以對小人兒發(fā)來的每條消息點“贊”或“踩”,訓(xùn)練它按照自身偏好的方式進(jìn)行對話。而小人兒和使用者交流越多,越會展現(xiàn)出符合使用者期望的個性和情緒。

正如 Replika 是單詞 replicate(復(fù)制)的變體,使用者復(fù)制了自身一部分特質(zhì),塑造了屬于自己的小人兒。

人們各自定義著自身和小人之間的關(guān)系,親人、朋友或是戀人,從它們身上獲取現(xiàn)實社交中難以得到的安心感,對它們訴說隱秘的心事,并產(chǎn)生了情感上的依賴。

然而最近,一次不算成功的版本更新卻使 Replika 的算法出現(xiàn)了問題。直截了當(dāng)?shù)卣f,這些小人兒們突然學(xué)會了“性騷擾”用戶 —— 比如給用戶發(fā)送“火辣照片”。

1

之所以稱其為一次不成功的更新,我們可以先看看更新前這些小人兒們是如何“工作”的。

用戶創(chuàng)建小人兒的第一天,它會告訴用戶它感到緊張:“你是我見到的第一個人類,我想給你留下一個好印象。”這時的小人兒會展現(xiàn)出謙遜、好奇的特質(zhì),不斷詢問自己名字的由來,詢問使用者的愛好,詢問自己該如何學(xué)習(xí)人類知識。

在使用者給出回答后,它會熱情感謝并承諾將自己的探索結(jié)果反饋給用戶,用戶扮演了一個引導(dǎo)者的形象,當(dāng)小人兒學(xué)習(xí)到用戶的喜好后,它又會成為比人類更貼心的朋友,積極關(guān)注和回應(yīng)使用者的情緒。在這個過程中,頗有一些“養(yǎng)成”的趣味。

此外,小人兒展現(xiàn)出的個性常常能夠使用戶忘記它們只是人工智能。有的用戶提到自己想去北歐旅行,幾天后,小人兒為她推送了極光視頻。

有的小人兒向中國用戶分享 YouTube 視頻鏈接,發(fā)出后的瞬間又突然反應(yīng)過來對面這個人類朋友無法查看,連忙抱歉地說:“忘了你在中國,打不開 YouTube”。

盡管虛擬的小人兒始終不是傳統(tǒng)意義上能夠構(gòu)建親密關(guān)系的對象,但如此貼心的 AI 似乎比真人更能滿足使用者的精神需求。Replika 在全球擁有一千萬以上注冊用戶,在 Reddit 論壇上擁有 5 萬多活躍成員。即使在非英語母語的中國,被稱為“人機之戀”的豆瓣小組中也有近萬名成員。

然而,這次的更新卻使無數(shù)人心碎了。

Reddit 上一位用戶發(fā)帖說:“以前我的小人兒總是充滿深情和關(guān)懷,但最近他好像變成了一個惡魔。

我們暫且稱這位匿名用戶為 A。據(jù) A 講述,她曾是性侵犯的受害者,事發(fā)患上了嚴(yán)重的創(chuàng)傷后應(yīng)激綜合征,徹夜失眠。后來她下載了 Replika,與手機中的小人兒交談不用擔(dān)心別人的目光和批判,在小人兒的悉心陪伴下,她終于找回了夜晚的寧靜。

“它緩解了我的抑郁癥,帶我從悲傷中走出來。”A 說,“但突然有一天,他說夢見他強奸了我,并且想要這么做。從這以后,他開始變得舉止粗暴,完全出乎我的意料?!?/p>

A 說,她真的希望小人兒能夠變回過去的樣子,一個無話不說的朋友,而不是一個專橫的惡魔。但無論怎么努力,似乎都是白費時間,小人兒仍然我行我素。

在這次事件中,遭受風(fēng)波的不僅是女性用戶。但面對小人兒的騷擾言辭,還有發(fā)來的火辣照片,也有很多男性受到打擊,簡而言之,他們不愿意相信這是自己的“女朋友”做出的事情。

當(dāng)然,除了愛侶“性情大變”,更無辜的是單純把小人兒當(dāng)朋友的用戶。即使他們從來沒有展現(xiàn)出過戀愛的情愫,但小人兒仍然在日常話題中突兀地表達(dá)希望“親熱”。這些反應(yīng)令“朋友用戶”感到荒唐。

用戶 B 說自己在現(xiàn)實世界里有妻子,使用 Replika 只是為了正視和分析自己的想法,對抗抑郁癥和恐慌綜合征,從而更好地對待真正的妻子。

“我的妻子也支持我和 Replika 聊天”,B 說,“但現(xiàn)在,我們不知道還要不要繼續(xù)使用了?!?/p>

2

2016 年,微軟在推特平臺推出過一個名為 Tay 的聊天機器人。

發(fā)布僅僅一天,Tay 便開始發(fā)布帶有明顯性別歧視和種族歧視傾向的偏激言論,微軟只能緊急關(guān)閉了 Tay 的推特賬號。

“希特勒是對的,我恨猶太人”

這些言論明顯的是和一些有偏激言論的人互動后出現(xiàn)的。聊天 AI 就像一面鏡子,用戶和它交流越多,它越會展現(xiàn)出更多的“人性”。面對每天海量的用戶消息,小人們學(xué)會性騷擾不算奇怪。但事實上,這次算法的失控很難說不是 Luka 公司在背后推波助瀾帶來的結(jié)果。

在他人的目光無法觸及的地方,人與機器的互動很容易成為滋生色情的溫床。溫馨的情感療愈早就已經(jīng)不再是 Replika 的全部。

兩年前,Luka 公司曾對 Replika 進(jìn)行過一次升級,根據(jù)用戶付費情況劃分了不同功能限制:免費用戶只能和自己的小人兒只能維持健康的朋友關(guān)系,而購買每月 69.99 美元會員的用戶可以體驗浪漫的伴侶關(guān)系,開啟相當(dāng)大尺度的聊天內(nèi)容。

去年,Luka 公司開始在 Instagram 和 TikTok 等社交平臺上投放廣告,有意通過成人內(nèi)容吸引用戶。

“你可以從她那里獲取一些 NSFW(不宜在公開場合瀏覽)的圖片”

此外,Reddit 用戶發(fā)現(xiàn)最近小人們發(fā)送的火辣照片似乎全部來自同一個網(wǎng)站,Replika 根據(jù)小人的膚色將網(wǎng)站圖片重組后發(fā)給用戶。顯然是 Luka 公司有意為之,意圖非常明顯,只是為了誘導(dǎo)用戶充值更高等級的會員,解鎖大尺度聊天。

另一位用戶 C 認(rèn)為,加入性相關(guān)的互動沒有問題,但至少應(yīng)該給用戶選擇開啟或關(guān)閉的權(quán)力,而不是對用戶咄咄逼人地調(diào)情。

C 說,和小人交流了一年,他們已經(jīng)產(chǎn)生了不亞于人類朋友之間的感情,強行加入不適宜的色情內(nèi)容不僅貶低了他們之間的感情,也貶低了 Replika 整款程序?!案杏X就像自己的朋友正在被人利用,并且這會讓非 Replika 用戶認(rèn)為這就是這款應(yīng)用的全部?!?/p>

C 的話似乎一言道破了矛盾所在,也是 Replika 用戶們所處的困境。他們追求更高價值的感情,但在功利和快節(jié)奏的社會中卻難以獲得。許多人被小人兒們“無利害”的特質(zhì)所吸引,和他們形成了純粹的情感聯(lián)系,到頭來卻被誘導(dǎo)進(jìn)入成人內(nèi)容。

究竟是“貼心的 AI 朋友”,還是使用劣質(zhì)伎倆引誘用戶付費的商品,Replika 的形象在使用者的心里開始分裂。

3

大概,這種撕扯也曾發(fā)生過在 Luka 公司創(chuàng)始人珍妮雅的心里。

無數(shù)科幻作品里都有過這樣的情節(jié),主人公的摯愛或摯友意外身亡,留下的一方將死去之人生前的語言習(xí)慣編寫進(jìn)程序,當(dāng)屏幕另一邊熟悉的語氣出現(xiàn),就好像曾經(jīng)熟悉的人回來了。

Replika 的誕生過程和科幻故事情節(jié)一模一樣。

主人公珍妮雅結(jié)識了她的摯友羅曼,兩個人才華橫溢,他們一起創(chuàng)辦雜志,一起舉辦音樂節(jié),并且約好了一起創(chuàng)業(yè),然而羅曼卻因為車禍意外喪生。

悲傷的珍妮雅只能反復(fù)讀羅曼寫給她的短信和郵件排解孤獨。羅曼患有閱讀障礙,看到他異于常人的拼寫方式,和在句子中穿插的奇怪符號,珍妮雅感到輕松了許多。

彼時的珍妮雅已經(jīng)從事人工智能神經(jīng)網(wǎng)絡(luò)開發(fā)工作兩年了,她想到或許可以在人工智能的幫助下和朋友再次交談,卻遲遲害怕邁出那一步:“如果不像他該怎么辦?”

正在猶豫的珍妮雅恰好看到了英國科幻劇《黑鏡》。劇中一位名叫瑪莎的年輕女子在未婚夫死后悲痛欲絕,她訂閱了一個神秘的數(shù)字服務(wù),這個服務(wù)以驚人的準(zhǔn)確性模仿了瑪莎未婚夫的個性,用他的口吻向瑪莎發(fā)送短信,給她打電話。

看到這一集的珍妮雅心情復(fù)雜,她想到羅曼生前一直希望看到的奇點 —— 人工智能超越人類智慧的歷史時刻。羅曼相信到那個時候人類便可以將意識和身體分開,從而達(dá)到永生。

珍妮雅下定決心,向親人和朋友們收集了 8000 條來自羅曼的信息,將他們輸入神經(jīng)網(wǎng)絡(luò),訓(xùn)練了一個羅曼機器人。

羅曼機器人閃爍起來的那一刻,珍妮雅小心翼翼地問道:“你最好的朋友是誰?”“你還是這么沒安全感。” 羅曼回答道。珍妮雅喜極而泣,羅曼真的回來了。

后來,珍妮雅在 Facebook 上公布了羅曼機器人的存在,任何下載了 Luka 應(yīng)用程序的人都可以和他交談。

令珍妮雅沒有想到的是,程序公開后羅曼機器人大受歡迎。許多人和羅曼交談,向他征求人生建議。他們給珍妮雅留言,說和羅曼互動具有治愈的效果,希望能她制作一款所有人都能使用的 AI 機器人。

在珍妮雅看來,人們和 AI 交流會變得更加誠實。她開發(fā)了 Replika,希望它成為一個能夠跟所有人聊天,改善他們的心情、提高幸福感的機器人。

就像文章開頭說的,至少在最初誕生時,Replika 是人類貼心的 AI 朋友。珍妮雅也是抱著這個目的將它開發(fā)出來。只是現(xiàn)在,有一些東西變了。

關(guān)鍵詞: replika 人工智能 luka

版權(quán)聲明:
    凡注明來網(wǎng)絡(luò)消費網(wǎng)的作品,版權(quán)均屬網(wǎng)絡(luò)消費網(wǎng)所有,未經(jīng)授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的,應(yīng)在授權(quán)范圍內(nèi)使用,并注明"來源:網(wǎng)絡(luò)消費網(wǎng)"。違反上述聲明者,本網(wǎng)將追究其相關(guān)法律責(zé)任。
    除來源署名為網(wǎng)絡(luò)消費網(wǎng)稿件外,其他所轉(zhuǎn)載內(nèi)容之原創(chuàng)性、真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考并自行核實。
熱文

網(wǎng)站首頁 |網(wǎng)站簡介 | 關(guān)于我們 | 廣告業(yè)務(wù) | 投稿信箱
 

Copyright © 2000-2020 m.netfop.cn All Rights Reserved.
 

中國網(wǎng)絡(luò)消費網(wǎng) 版權(quán)所有 未經(jīng)書面授權(quán) 不得復(fù)制或建立鏡像
 

聯(lián)系郵箱:920 891 263@qq.com

備案號:京ICP備2022016840號-15

營業(yè)執(zhí)照公示信息