網(wǎng)絡(luò)消費(fèi)網(wǎng) >  IT > > 正文
我們需要什么樣的“算法”?互聯(lián)網(wǎng)平臺(tái)越來(lái)越“懂”用戶了嗎?

您是否有過(guò)類(lèi)似經(jīng)歷:在求職網(wǎng)站填寫(xiě)一份有關(guān)工作喜好的調(diào)查,網(wǎng)站會(huì)自動(dòng)推送匹配的崗位;打開(kāi)購(gòu)物軟件,發(fā)現(xiàn)頁(yè)面上多是近期搜索或?yàn)g覽過(guò)的商品;通過(guò)App閱讀一條養(yǎng)生信息,隨后便會(huì)經(jīng)常收到養(yǎng)生知識(shí)、養(yǎng)生產(chǎn)品的廣告推送……伴隨著信息技術(shù)迅猛發(fā)展、大數(shù)據(jù)廣泛應(yīng)用,算法推薦技術(shù)正在將人們帶入個(gè)性化、定制化、智能化更強(qiáng)的信息傳播時(shí)代。

因?yàn)樗惴ㄍ扑],互聯(lián)網(wǎng)平臺(tái)越來(lái)越能抓住用戶的心,幫助人們更加方便、精準(zhǔn)地獲取信息,也牢牢吸引了用戶的注意力。據(jù)不完全統(tǒng)計(jì),當(dāng)前基于算法的個(gè)性化內(nèi)容推送已占整個(gè)互聯(lián)網(wǎng)信息內(nèi)容分發(fā)的70%左右。算法推薦逐漸成為各平臺(tái)“基本操作”的同時(shí),諸如低俗劣質(zhì)信息精準(zhǔn)推送、“大數(shù)據(jù)殺熟”等亂象也凸顯出來(lái)。

作為數(shù)字經(jīng)濟(jì)的重要推動(dòng)力,算法如何實(shí)現(xiàn)更高質(zhì)量發(fā)展?移動(dòng)互聯(lián)時(shí)代,我們究竟需要怎樣的“算法”?

互聯(lián)網(wǎng)平臺(tái)越來(lái)越“懂”用戶了嗎?

“看完一個(gè)短視頻后,平臺(tái)會(huì)自動(dòng)推薦很多相關(guān)視頻,很方便。”在北京一家企業(yè)工作的陳輝是某款網(wǎng)絡(luò)對(duì)戰(zhàn)游戲的“發(fā)燒友”,平時(shí)喜歡通過(guò)手機(jī)觀看相關(guān)短視頻來(lái)提高操作水平。他發(fā)現(xiàn),隨著刷短視頻的頻率增加,平臺(tái)推薦的相關(guān)視頻越來(lái)越多,“游戲攻略、英雄介紹、對(duì)戰(zhàn)視頻都有,電商平臺(tái)還會(huì)推薦鼠標(biāo)、鍵盤(pán)。”

這些平臺(tái)的自動(dòng)推薦功能,運(yùn)用了一種叫算法推薦的技術(shù)。這是一種通過(guò)人工智能分析和過(guò)濾機(jī)制對(duì)海量數(shù)據(jù)進(jìn)行深度分析、完成信息內(nèi)容與用戶精準(zhǔn)匹配的技術(shù)。

自從1994年美國(guó)明尼蘇達(dá)大學(xué)研究組推出第一個(gè)自動(dòng)化推薦系統(tǒng),算法推薦技術(shù)如今已深入到資訊、社交、電商、短視頻、搜索引擎等平臺(tái)和互聯(lián)網(wǎng)應(yīng)用中。

互聯(lián)網(wǎng)平臺(tái)變得越來(lái)越“懂”用戶,在極大方便用戶獲取信息的同時(shí),也容易引發(fā)一些用戶尤其是青少年不同程度的沉迷問(wèn)題。

“說(shuō)好只看5分鐘,結(jié)果一刷就是幾小時(shí)。”貴州省貴陽(yáng)市的林忠信說(shuō),他12歲的兒子最近迷上刷一些惡搞的短視頻,不僅影響學(xué)習(xí)成績(jī),與同伴一起進(jìn)行戶外活動(dòng)的時(shí)間也少了。

從去年5月底開(kāi)始,全國(guó)主要網(wǎng)絡(luò)短視頻平臺(tái)中推廣青少年防沉迷系統(tǒng)。在“青少年模式”下,大多數(shù)平臺(tái)主要推送教育類(lèi)、知識(shí)類(lèi)等有益內(nèi)容。但是,在缺乏監(jiān)護(hù)人照管監(jiān)督的情況下,防沉迷系統(tǒng)效果容易打折扣。

有受訪者反映,一些新聞資訊、網(wǎng)絡(luò)社交等平臺(tái)的個(gè)性化推送存在“泛娛樂(lè)化信息多、低俗內(nèi)容多、未經(jīng)核實(shí)內(nèi)容多”的“三多”現(xiàn)象;一些網(wǎng)絡(luò)社交等平臺(tái)防沉迷手段較少,容易導(dǎo)致青少年沉迷和盲目模仿。

北京大學(xué)中國(guó)社會(huì)與發(fā)展研究中心主任邱澤奇對(duì)記者表示,對(duì)自我的偏好是人類(lèi)認(rèn)知偏好的一部分,“偏好”閱讀可能加速形成“信息繭房”效應(yīng)和“情緒傳染”效應(yīng),前者易導(dǎo)致視野局限,后者易使個(gè)人情緒受他人感染。

一些喜歡網(wǎng)購(gòu)的人還可能因遭遇“大數(shù)據(jù)殺熟”而蒙受損失。一些平臺(tái)利用算法技術(shù)給不同類(lèi)型消費(fèi)者數(shù)據(jù)“畫(huà)像”,判斷其偏好、用戶黏合度、價(jià)格敏感度等,使不同用戶看到的價(jià)格或搜索的結(jié)果不同。通常是老用戶看到的價(jià)格比新用戶貴,或搜索到的結(jié)果比新用戶少。

今年“雙11”期間,北京消費(fèi)者韓女士發(fā)現(xiàn),她通過(guò)某App預(yù)訂一家酒店,“同一時(shí)間,不同手機(jī)”預(yù)訂,價(jià)格相差約1000元。

9月中旬,微博上發(fā)起的一個(gè)投票顯示,有1.5萬(wàn)人認(rèn)為自己遇到價(jià)格明顯差異的情況,占所有投票人員的近八成。

“算法”是中性的,問(wèn)題出在人身上

算法技術(shù)的重要意義在于,將此前基于人力的“人找信息”轉(zhuǎn)變成基于電腦自動(dòng)化運(yùn)算的“信息找人”,既極大解放了人力,又更高效地完成了人和信息的匹配。

從2012年起,互聯(lián)網(wǎng)平臺(tái)今日頭條在業(yè)內(nèi)較早將算法推薦系統(tǒng)應(yīng)用到資訊領(lǐng)域的產(chǎn)品中,實(shí)現(xiàn)了系統(tǒng)的自動(dòng)學(xué)習(xí)推薦。據(jù)今日頭條算法架構(gòu)師曹歡歡介紹,推薦系統(tǒng)綜合考量?jī)?nèi)容特征、用戶特征、環(huán)境特征等因素進(jìn)行決策。例如,環(huán)境特征包括上班期間、上班路上、下班休息等不同場(chǎng)景下用戶的興趣偏好信息。

為幫助用戶發(fā)現(xiàn)更多興趣點(diǎn),今日頭條不斷引入多領(lǐng)域的優(yōu)質(zhì)內(nèi)容生產(chǎn)者,并運(yùn)用算法推薦給用戶;推出“靈犬”反低俗助手,剔除低俗信息。推薦系統(tǒng)還增加了消重和打散策略,前者旨在消除內(nèi)容相似文章推薦,后者降低了同領(lǐng)域或主題文章的推薦頻率。

不過(guò),在頭部互聯(lián)網(wǎng)平臺(tái)切實(shí)嚴(yán)格自律的同時(shí),仍有一些采編流程不規(guī)范、管理不嚴(yán)的網(wǎng)絡(luò)社交媒體、新聞客戶端在業(yè)務(wù)導(dǎo)向上走偏了。主要表現(xiàn)在:

——向用戶推薦劣質(zhì)信息。部分平臺(tái)為留住用戶,不斷向用戶推薦其關(guān)注過(guò)的相似內(nèi)容,其中摻雜低俗媚俗、色情暴力、真假難辨、缺乏深度、價(jià)值觀導(dǎo)向錯(cuò)亂等信息。一些互聯(lián)網(wǎng)平臺(tái)為增加點(diǎn)擊率和流量,還會(huì)進(jìn)行人工推薦,主動(dòng)推薦“博眼球”、打“擦邊球”信息,很多用戶直呼“辣眼睛”。這反映出一些平臺(tái)社會(huì)責(zé)任感缺失,更忽視了價(jià)值觀建設(shè)。

——增加用戶權(quán)益保護(hù)難度。一些算法推薦的內(nèi)容過(guò)度強(qiáng)化用戶偏好,影響了用戶對(duì)于信息內(nèi)容的自主選擇權(quán),加劇“信息繭房”效應(yīng),極易造成個(gè)體與社會(huì)的隔離,缺乏對(duì)當(dāng)下國(guó)情世情的深刻認(rèn)識(shí)和判斷。由于依托于用戶瀏覽記錄等數(shù)據(jù),算法推薦若設(shè)計(jì)不當(dāng),還可能侵犯用戶個(gè)人隱私。

——進(jìn)行“大數(shù)據(jù)殺熟”。中國(guó)傳媒大學(xué)大數(shù)據(jù)研究中心教授沈浩介紹,對(duì)于算法而言,通過(guò)用戶數(shù)據(jù)量以及數(shù)據(jù)更新頻次,可輕易判斷出是“生客”還是“熟客”。結(jié)果是平臺(tái)大賺,商家、消費(fèi)者利益受損,還容易導(dǎo)致壟斷。

作為一項(xiàng)技術(shù)應(yīng)用,算法推薦是中性的,問(wèn)題出在設(shè)計(jì)者、操作者身上。

一方面,奉行“流量至上”的單一價(jià)值導(dǎo)向。一些平臺(tái)為應(yīng)對(duì)競(jìng)爭(zhēng),將用戶停留時(shí)間作為重要考核指標(biāo),忽視了自身作為“把關(guān)人”的角色定位。而“把關(guān)人”必須用積極健康、符合公序良俗的價(jià)值觀,指引算法推薦的設(shè)計(jì)和應(yīng)用,方能確保推送內(nèi)容價(jià)值導(dǎo)向正確。

另一方面,過(guò)度追求“利益至上”,利用其信息不對(duì)稱優(yōu)勢(shì)侵犯消費(fèi)者合法權(quán)益。這是一個(gè)需要引起足夠重視的法律問(wèn)題。

“一些算法的頂層設(shè)計(jì)思路存在問(wèn)題。”中國(guó)社科院信息化研究中心主任姜奇平對(duì)記者表示,英國(guó)著名數(shù)學(xué)家、邏輯學(xué)家圖靈等學(xué)者在勾畫(huà)人工智能圖景時(shí)提出,人和機(jī)器是對(duì)等、雙向互進(jìn)的關(guān)系,但現(xiàn)在一些算法設(shè)計(jì)呈現(xiàn)出人與機(jī)器的關(guān)系是單項(xiàng)的。比如在大數(shù)據(jù)方面,迷信相關(guān)分析,忽略因果分析。在定義算法效率方面,只把專業(yè)化效率定義為效率,而實(shí)際上多樣化效率也是一種效率。

大數(shù)據(jù)、算法推薦應(yīng)更有“溫度”

有網(wǎng)友最近在一個(gè)問(wèn)答平臺(tái)發(fā)文稱,自己在某社交平臺(tái)和朋友聊天時(shí)提到了一款掃地機(jī),隨后該平臺(tái)出現(xiàn)了掃地機(jī)器人的廣告。在跟帖中,很多網(wǎng)友疑問(wèn):“平臺(tái)是否可能利用算法等技術(shù),抓取用戶聊天記錄進(jìn)行廣告精準(zhǔn)投放?”

App專項(xiàng)治理工作組專家何延哲今年9月表示,四部委App專項(xiàng)治理工作組在對(duì)App多批次檢測(cè)中尚未發(fā)現(xiàn)App有“竊聽(tīng)”行為。但App“竊聽(tīng)”在技術(shù)實(shí)現(xiàn)上是有一定可能性的,相關(guān)部門(mén)有必要出臺(tái)規(guī)定,明確企業(yè)進(jìn)行大數(shù)據(jù)“畫(huà)像”時(shí)能否使用個(gè)人語(yǔ)音信息,讓用戶更放心。

從另一角度看,社會(huì)輿論的疑問(wèn)其實(shí)指向了大數(shù)據(jù)、算法等技術(shù)應(yīng)用的價(jià)值導(dǎo)向問(wèn)題。如何規(guī)范使用大數(shù)據(jù)、算法技術(shù),讓其變得更有“溫度”、更讓人放心?需要建立起一套行之有效的監(jiān)管體系、評(píng)價(jià)系統(tǒng),確保算法設(shè)計(jì)者、操作者以健康、正確、積極的價(jià)值觀,指引算法推薦的設(shè)計(jì)和應(yīng)用。

相關(guān)立法和監(jiān)管亟待加強(qiáng),特別是要強(qiáng)化對(duì)算法推薦本身的法治監(jiān)管。

例如,正在公開(kāi)征求意見(jiàn)的《個(gè)人信息保護(hù)法(草案)》規(guī)定,個(gè)人認(rèn)為自動(dòng)化決策對(duì)其權(quán)益造成重大影響的,有權(quán)拒絕個(gè)人信息處理者僅通過(guò)自動(dòng)化決策的方式作出決定。

11月10日,國(guó)家市場(chǎng)監(jiān)管總局發(fā)布的《關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南(征求意見(jiàn)稿)》規(guī)定,基于大數(shù)據(jù)和算法,根據(jù)交易相對(duì)人的支付能力、消費(fèi)偏好、使用習(xí)慣等,實(shí)行差異性交易價(jià)格或者其他交易條件;對(duì)新老交易相對(duì)人實(shí)行差異性交易價(jià)格或者其他交易條件;實(shí)行差異性標(biāo)準(zhǔn)、規(guī)則、算法;實(shí)行差異性付款條件和交易方式等,都可能被認(rèn)定為“大數(shù)據(jù)殺熟”等不正當(dāng)競(jìng)爭(zhēng)行為而面臨更嚴(yán)格監(jiān)管。

北京大學(xué)電子商務(wù)法研究中心主任薛軍對(duì)記者表示,應(yīng)針對(duì)算法運(yùn)用的場(chǎng)景、對(duì)公民基本權(quán)益的影響,對(duì)算法進(jìn)行不同強(qiáng)度的監(jiān)管。除了法律規(guī)定需更加明確外,可以建立某種社會(huì)化的評(píng)議機(jī)制,對(duì)平臺(tái)運(yùn)用算法產(chǎn)生的后果進(jìn)行評(píng)價(jià),要求平臺(tái)基于公共價(jià)值予以優(yōu)化。

壓實(shí)平臺(tái)的社會(huì)責(zé)任。曹歡歡表示,今日頭條已不完全依賴算法推薦,而是一個(gè)綜合“算法+熱點(diǎn)+搜索+關(guān)注”的通用信息平臺(tái),以幫助用戶拓展興趣。用戶還可以選擇關(guān)閉“個(gè)性化推薦”按鈕或“永久清除歷史行為”,自主選擇獲取信息的方式。

“應(yīng)該在算法技術(shù)內(nèi)講價(jià)值倫理,把人之為人的一面當(dāng)作技術(shù)本身來(lái)考慮,倡導(dǎo)企業(yè)在商業(yè)行為中履行社會(huì)責(zé)任。”姜奇平認(rèn)為,對(duì)算法推薦技術(shù)和平臺(tái)的監(jiān)管應(yīng)確保公平和效率、個(gè)人信息開(kāi)發(fā)與保護(hù)、個(gè)人信息與平臺(tái)信息等方面的平衡,在促進(jìn)數(shù)字經(jīng)濟(jì)服務(wù)業(yè)態(tài)健康發(fā)展層面考慮,可按照個(gè)性化信息服務(wù)所得和付出的均衡原則進(jìn)行政策調(diào)整。他建議,確保消費(fèi)者對(duì)信息采集者的服務(wù)好壞有評(píng)判權(quán),使消費(fèi)者始終處于主動(dòng)地位。

有專家認(rèn)為,監(jiān)管部門(mén)應(yīng)督促企業(yè)調(diào)整業(yè)務(wù)邏輯,將正面價(jià)值取向、用戶高品質(zhì)追求作為關(guān)鍵標(biāo)簽納入算法頂層設(shè)計(jì)之中;政府、學(xué)校、家長(zhǎng)、平臺(tái)各方應(yīng)責(zé)任共擔(dān),不斷提升青少年網(wǎng)絡(luò)素養(yǎng)。

關(guān)鍵詞: 算法

版權(quán)聲明:
    凡注明來(lái)網(wǎng)絡(luò)消費(fèi)網(wǎng)的作品,版權(quán)均屬網(wǎng)絡(luò)消費(fèi)網(wǎng)所有,未經(jīng)授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的,應(yīng)在授權(quán)范圍內(nèi)使用,并注明"來(lái)源:網(wǎng)絡(luò)消費(fèi)網(wǎng)"。違反上述聲明者,本網(wǎng)將追究其相關(guān)法律責(zé)任。
    除來(lái)源署名為網(wǎng)絡(luò)消費(fèi)網(wǎng)稿件外,其他所轉(zhuǎn)載內(nèi)容之原創(chuàng)性、真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾,請(qǐng)讀者僅作參考并自行核實(shí)。
熱文

網(wǎng)站首頁(yè) |網(wǎng)站簡(jiǎn)介 | 關(guān)于我們 | 廣告業(yè)務(wù) | 投稿信箱
 

Copyright © 2000-2020 m.netfop.cn All Rights Reserved.
 

中國(guó)網(wǎng)絡(luò)消費(fèi)網(wǎng) 版權(quán)所有 未經(jīng)書(shū)面授權(quán) 不得復(fù)制或建立鏡像
 

聯(lián)系郵箱:920 891 263@qq.com

備案號(hào):京ICP備2022016840號(hào)-15

營(yíng)業(yè)執(zhí)照公示信息