隨著(zhù)信息技術(shù)(shù)發(fā)(fā)展、大數(shù)據(jù)廣泛應(yīng)用，算法推薦讓信息傳播更加個(gè)(gè)性化、定制化、智能化，但也出現(xiàn)了一些亂象——

　　我們需要什么樣的“算法”？

　　您是否有過(guò)類(lèi)似經(jīng)(jīng)歷：在求職網(wǎng)(wǎng)站填寫(xiě)一份有關(guān)(guān)工作喜好的調(diào)查，網(wǎng)(wǎng)站會(huì )自動(dòng)推送匹配的崗位；打開(kāi)購物軟件，發(fā)(fā)現(xiàn)頁(yè)面上多是近期搜索或?yàn)g覽過(guò)的商品；通過(guò)App閱讀一條養(yǎng)生信息，隨后便會(huì )經(jīng)(jīng)常收到養(yǎng)生知識、養(yǎng)生產(chǎn)(chǎn)品的廣告推送……伴隨著(zhù)信息技術(shù)(shù)迅猛發(fā)(fā)展、大數(shù)據(jù)廣泛應(yīng)用，算法推薦技術(shù)(shù)正在將人們帶入個(gè)(gè)性化、定制化、智能化更強(qiáng)的信息傳播時(shí)(shí)代。

　　因?yàn)樗惴ㄍ扑]，互聯(lián)(lián)網(wǎng)(wǎng)平臺越來(lái)越能抓住用戶(hù)的心，幫助人們更加方便、精準(zhǔn)地獲取信息，也牢牢吸引了用戶(hù)的注意力。據(jù)不完全統(tǒng)計(jì)，當(dāng)前基于算法的個(gè)(gè)性化內(nèi)容推送已占整個(gè)(gè)互聯(lián)(lián)網(wǎng)(wǎng)信息內(nèi)容分發(fā)(fā)的70%左右。算法推薦逐漸成為各平臺“基本操作”的同時(shí)(shí)，諸如低俗劣質(zhì)(zhì)信息精準(zhǔn)推送、“大數(shù)據(jù)殺熟”等亂象也凸顯出來(lái)。

　　作為數(shù)字經(jīng)(jīng)濟(jì)的重要推動(dòng)力，算法如何實(shí)(shí)現(xiàn)更高質(zhì)(zhì)量發(fā)(fā)展？移動(dòng)互聯(lián)(lián)時(shí)(shí)代，我們究竟需要怎樣的“算法”？

　　互聯(lián)(lián)網(wǎng)(wǎng)平臺越來(lái)越“懂”用戶(hù)了嗎？

　　“看完一個(gè)(gè)短視頻后，平臺會(huì )自動(dòng)推薦很多相關(guān)(guān)視頻，很方便?！痹詒本┮患移髽I(yè)(yè)工作的陳輝是某款網(wǎng)(wǎng)絡(luò)(luò )對戰(zhàn)游戲的“發(fā)(fā)燒友”，平時(shí)(shí)喜歡通過(guò)手機(jī)觀(guān)看相關(guān)(guān)短視頻來(lái)提高操作水平。他發(fā)(fā)現(xiàn)，隨著(zhù)刷短視頻的頻率增加，平臺推薦的相關(guān)(guān)視頻越來(lái)越多，“游戲攻略、英雄介紹、對戰(zhàn)視頻都有，電商平臺還會(huì )推薦鼠標(biāo)、鍵盤(pán)?！?/p>

　　這些平臺的自動(dòng)推薦功能，運(yùn)用了一種叫算法推薦的技術(shù)(shù)。這是一種通過(guò)人工智能分析和過(guò)濾機(jī)制對海量數(shù)據(jù)進(jìn)(jìn)行深度分析、完成信息內(nèi)容與用戶(hù)精準(zhǔn)匹配的技術(shù)(shù)。

　　自從1994年美國明尼蘇達(dá)大學(xué)(xué)研究組推出第一個(gè)(gè)自動(dòng)化推薦系統(tǒng)，算法推薦技術(shù)(shù)如今已深入到資訊、社交、電商、短視頻、搜索引擎等平臺和互聯(lián)(lián)網(wǎng)(wǎng)應(yīng)用中。

　　互聯(lián)(lián)網(wǎng)(wǎng)平臺變得越來(lái)越“懂”用戶(hù)，在極大方便用戶(hù)獲取信息的同時(shí)(shí)，也容易引發(fā)(fā)一些用戶(hù)尤其是青少年不同程度的沉迷問(wèn)題。

　　“說(shuō)好只看5分鐘，結(jié)果一刷就是幾小時(shí)(shí)?！辟F州省貴陽(yáng)市的林忠信說(shuō)，他12歲的兒子最近迷上刷一些惡搞的短視頻，不僅影響學(xué)(xué)習(xí)成績(jì)，與同伴一起進(jìn)(jìn)行戶(hù)外活動(dòng)的時(shí)(shí)間也少了。

　　從去年5月底開(kāi)始，全國主要網(wǎng)(wǎng)絡(luò)(luò )短視頻平臺中推廣青少年防沉迷系統(tǒng)。在“青少年模式”下，大多數(shù)平臺主要推送教育類(lèi)、知識類(lèi)等有益內(nèi)容。但是，在缺乏監(jiān)護(hù)人照管監(jiān)督的情況下，防沉迷系統(tǒng)效果容易打折扣。

　　有受訪(fǎng)者反映，一些新聞資訊、網(wǎng)(wǎng)絡(luò)(luò )社交等平臺的個(gè)(gè)性化推送存在“泛娛樂(lè )化信息多、低俗內(nèi)容多、未經(jīng)(jīng)核實(shí)(shí)內(nèi)容多”的“三多”現(xiàn)象；一些網(wǎng)(wǎng)絡(luò)(luò )社交等平臺防沉迷手段較少，容易導(dǎo)致青少年沉迷和盲目模仿。

　　北京大學(xué)(xué)中國社會(huì )與發(fā)(fā)展研究中心主任邱澤奇對記者表示，對自我的偏好是人類(lèi)認(rèn)知偏好的一部分，“偏好”閱讀可能加速形成“信息繭房”效應(yīng)和“情緒傳染”效應(yīng)，前者易導(dǎo)致視野局限，后者易使個(gè)(gè)人情緒受他人感染。

　　一些喜歡網(wǎng)(wǎng)購的人還可能因遭遇“大數(shù)據(jù)殺熟”而蒙受損失。一些平臺利用算法技術(shù)(shù)給不同類(lèi)型消費(fèi)者數(shù)據(jù)“畫(huà)像”，判斷其偏好、用戶(hù)黏合度、價(jià)(jià)格敏感度等，使不同用戶(hù)看到的價(jià)(jià)格或搜索的結(jié)果不同。通常是老用戶(hù)看到的價(jià)(jià)格比新用戶(hù)貴，或搜索到的結(jié)果比新用戶(hù)少。

　　今年“雙11”期間，北京消費(fèi)者韓女士發(fā)(fā)現(xiàn)，她通過(guò)某App預(yù)訂一家酒店，“同一時(shí)(shí)間，不同手機(jī)”預(yù)訂，價(jià)(jià)格相差約1000元。

　　9月中旬，微博上發(fā)(fā)起的一個(gè)(gè)投票顯示，有1.5萬(wàn)人認(rèn)為自己遇到價(jià)(jià)格明顯差異的情況，占所有投票人員的近八成。

　　“算法”是中性的，問(wèn)題出在人身上

　　算法技術(shù)(shù)的重要意義在于，將此前基于人力的“人找信息”轉(zhuǎn)變成基于電腦自動(dòng)化運(yùn)算的“信息找人”，既極大解放了人力，又更高效地完成了人和信息的匹配。

　　從2012年起，互聯(lián)(lián)網(wǎng)(wǎng)平臺今日頭條在業(yè)(yè)內(nèi)較早將算法推薦系統(tǒng)應(yīng)用到資訊領(lǐng)(lǐng)域的產(chǎn)(chǎn)品中，實(shí)(shí)現(xiàn)了系統(tǒng)的自動(dòng)學(xué)(xué)習(xí)推薦。據(jù)今日頭條算法架構(gòu)師曹歡歡介紹，推薦系統(tǒng)綜合考量?jì)熱萏卣?、用?hù)特征、環(huán)(huán)境特征等因素進(jìn)(jìn)行決策。例如，環(huán)(huán)境特征包括上班期間、上班路上、下班休息等不同場(chǎng)景下用戶(hù)的興趣偏好信息。

　　為幫助用戶(hù)發(fā)(fā)現(xiàn)更多興趣點(diǎn)(diǎn)，今日頭條不斷引入多領(lǐng)(lǐng)域的優(yōu)(yōu)質(zhì)(zhì)內(nèi)容生產(chǎn)(chǎn)者，并運(yùn)用算法推薦給用戶(hù)；推出“靈犬”反低俗助手，剔除低俗信息。推薦系統(tǒng)還增加了消重和打散策略，前者旨在消除內(nèi)容相似文章推薦，后者降低了同領(lǐng)(lǐng)域或主題文章的推薦頻率。

　　不過(guò)，在頭部互聯(lián)(lián)網(wǎng)(wǎng)平臺切實(shí)(shí)嚴(yán)格自律的同時(shí)(shí)，仍有一些采編流程不規(guī)范、管理不嚴(yán)的網(wǎng)(wǎng)絡(luò)(luò )社交媒體、新聞客戶(hù)端在業(yè)(yè)務(wù)(wù)導(dǎo)向上走偏了。主要表現(xiàn)在：

　　——向用戶(hù)推薦劣質(zhì)(zhì)信息。部分平臺為留住用戶(hù)，不斷向用戶(hù)推薦其關(guān)(guān)注過(guò)的相似內(nèi)容，其中摻雜低俗媚俗、色情暴力、真假難辨、缺乏深度、價(jià)(jià)值觀(guān)導(dǎo)向錯(cuò)亂等信息。一些互聯(lián)(lián)網(wǎng)(wǎng)平臺為增加點(diǎn)(diǎn)擊率和流量，還會(huì )進(jìn)(jìn)行人工推薦，主動(dòng)推薦“博眼球”、打“擦邊球”信息，很多用戶(hù)直呼“辣眼睛”。這反映出一些平臺社會(huì )責(zé)任感缺失，更忽視了價(jià)(jià)值觀(guān)建設(shè)。

　　——增加用戶(hù)權(quán)益保護(hù)難度。一些算法推薦的內(nèi)容過(guò)度強(qiáng)化用戶(hù)偏好，影響了用戶(hù)對于信息內(nèi)容的自主選擇權(quán)，加劇“信息繭房”效應(yīng)，極易造成個(gè)(gè)體與社會(huì )的隔離，缺乏對當(dāng)下國情世情的深刻認(rèn)識和判斷。由于依托于用戶(hù)瀏覽記錄等數(shù)據(jù)，算法推薦若設(shè)計(jì)不當(dāng)，還可能侵犯用戶(hù)個(gè)(gè)人隱私。

　　——進(jìn)(jìn)行“大數(shù)據(jù)殺熟”。中國傳媒大學(xué)(xué)大數(shù)據(jù)研究中心教授沈浩介紹，對于算法而言，通過(guò)用戶(hù)數(shù)據(jù)量以及數(shù)據(jù)更新頻次，可輕易判斷出是“生客”還是“熟客”。結(jié)果是平臺大賺，商家、消費(fèi)者利益受損，還容易導(dǎo)致壟斷。

　　作為一項(xiàng)技術(shù)(shù)應(yīng)用，算法推薦是中性的，問(wèn)題出在設(shè)計(jì)者、操作者身上。

　　一方面，奉行“流量至上”的單一價(jià)(jià)值導(dǎo)向。一些平臺為應(yīng)對競爭，將用戶(hù)停留時(shí)(shí)間作為重要考核指標(biāo)，忽視了自身作為“把關(guān)(guān)人”的角色定位。而“把關(guān)(guān)人”必須用積極健康、符合公序良俗的價(jià)(jià)值觀(guān)，指引算法推薦的設(shè)計(jì)和應(yīng)用，方能確保推送內(nèi)容價(jià)(jià)值導(dǎo)向正確。

　　另一方面，過(guò)度追求“利益至上”，利用其信息不對稱(chēng)優(yōu)(yōu)勢侵犯消費(fèi)者合法權(quán)益。這是一個(gè)(gè)需要引起足夠重視的法律問(wèn)題。

　　“一些算法的頂層設(shè)計(jì)思路存在問(wèn)題?！敝袊�删樒院信息化研究中恤[魅謂�奇平對記諒s硎?，英國著(zhù)名數(shù)學(xué)(xué)家、邏輯學(xué)(xué)家圖靈等學(xué)(xué)者在勾畫(huà)人工智能圖景時(shí)(shí)提出，人和機(jī)器是對等、雙向互進(jìn)(jìn)的關(guān)(guān)系，但現(xiàn)在一些算法設(shè)計(jì)呈現(xiàn)出人與機(jī)器的關(guān)(guān)系是單項(xiàng)的。比如在大數(shù)據(jù)方面，迷信相關(guān)(guān)分析，忽略因果分析。在定義算法效率方面，只把專(zhuān)業(yè)(yè)化效率定義為效率，而實(shí)(shí)際上多樣化效率也是一種效率。

　　大數(shù)據(jù)、算法推薦應(yīng)更有“溫度”

　　有網(wǎng)(wǎng)友最近在一個(gè)(gè)問(wèn)答平臺發(fā)(fā)文稱(chēng)，自己在某社交平臺和朋友聊天時(shí)(shí)提到了一款掃地機(jī)，隨后該平臺出現(xiàn)了掃地機(jī)器人的廣告。在跟帖中，很多網(wǎng)(wǎng)友疑問(wèn)：“平臺是否可能利用算法等技術(shù)(shù)，抓取用戶(hù)聊天記錄進(jìn)(jìn)行廣告精準(zhǔn)投放？”

　　App專(zhuān)項(xiàng)治理工作組專(zhuān)家何延哲今年9月表示，四部委App專(zhuān)項(xiàng)治理工作組在對App多批次檢測中尚未發(fā)(fā)現(xiàn)App有“竊聽(tīng)”行為。但App“竊聽(tīng)”在技術(shù)(shù)實(shí)(shí)現(xiàn)上是有一定可能性的，相關(guān)(guān)部門(mén)有必要出臺規(guī)定，明確企業(yè)(yè)進(jìn)(jìn)行大數(shù)據(jù)“畫(huà)像”時(shí)(shí)能否使用個(gè)(gè)人語(yǔ)音信息，讓用戶(hù)更放心。

　　從另一角度看，社會(huì )輿論的疑問(wèn)其實(shí)(shí)指向了大數(shù)據(jù)、算法等技術(shù)(shù)應(yīng)用的價(jià)(jià)值導(dǎo)向問(wèn)題。如何規(guī)范使用大數(shù)據(jù)、算法技術(shù)(shù)，讓其變得更有“溫度”、更讓人放心？需要建立起一套行之有效的監(jiān)管體系、評價(jià)(jià)系統(tǒng)，確保算法設(shè)計(jì)者、操作者以健康、正確、積極的價(jià)(jià)值觀(guān)，指引算法推薦的設(shè)計(jì)和應(yīng)用。

　　相關(guān)(guān)立法和監(jiān)管亟待加強(qiáng)，特別是要強(qiáng)化對算法推薦本身的法治監(jiān)管。

　　例如，正在公開(kāi)征求意見(jiàn)的《個(gè)(gè)人信息保護(hù)法（草案）》規(guī)定，個(gè)(gè)人認(rèn)為自動(dòng)化決策對其權(quán)益造成重大影響的，有權(quán)拒絕個(gè)(gè)人信息處理者僅通過(guò)自動(dòng)化決策的方式作出決定。

　　11月10日，國家市場(chǎng)監(jiān)管總局發(fā)(fā)布的《關(guān)(guān)于平臺經(jīng)(jīng)濟(jì)領(lǐng)(lǐng)域的反壟斷指南（征求意見(jiàn)稿）》規(guī)定，基于大數(shù)據(jù)和算法，根據(jù)交易相對人的支付能力、消費(fèi)偏好、使用習(xí)慣等，實(shí)(shí)行差異性交易價(jià)(jià)格或者其他交易條件；對新老交易相對人實(shí)(shí)行差異性交易價(jià)(jià)格或者其他交易條件；實(shí)(shí)行差異性標(biāo)準(zhǔn)、規(guī)則、算法；實(shí)(shí)行差異性付款條件和交易方式等，都可能被認(rèn)定為“大數(shù)據(jù)殺熟”等不正當(dāng)競爭行為而面臨更嚴(yán)格監(jiān)管。

　　北京大學(xué)(xué)電子商務(wù)(wù)法研究中心主任薛軍對記者表示，應(yīng)針對算法運(yùn)用的場(chǎng)景、對公民基本權(quán)益的影響，對算法進(jìn)(jìn)行不同強(qiáng)度的監(jiān)管。除了法律規(guī)定需更加明確外，可以建立某種社會(huì )化的評議機(jī)制，對平臺運(yùn)用算法產(chǎn)(chǎn)生的后果進(jìn)(jìn)行評價(jià)(jià)，要求平臺基于公共價(jià)(jià)值予以?xún)?yōu)化。

　　壓實(shí)(shí)平臺的社會(huì )責(zé)任。曹歡歡表示，今日頭條已不完全依賴(lài)算法推薦，而是一個(gè)(gè)綜合“算法+熱點(diǎn)(diǎn)+搜索+關(guān)(guān)注”的通用信息平臺，以幫助用戶(hù)拓展興趣。用戶(hù)還可以選擇關(guān)(guān)閉“個(gè)(gè)性化推薦”按鈕或“永久清除歷史行為”，自主選擇獲取信息的方式。

　　“應(yīng)該在算法技術(shù)(shù)內(nèi)講價(jià)(jià)值倫理，把人之為人的一面當(dāng)作技術(shù)(shù)本身來(lái)考慮，倡導(dǎo)企業(yè)(yè)在商業(yè)(yè)行為中履行社會(huì )責(zé)任?！苯�奇平認(rèn)為，對算法推薦技術(shù)(shù)和平臺的監(jiān)管應(yīng)確保公平和效率、個(gè)(gè)人信息開(kāi)發(fā)(fā)與保護(hù)、個(gè)(gè)人信息與平臺信息等方面的平衡，在促進(jìn)(jìn)數(shù)字經(jīng)(jīng)濟(jì)服務(wù)(wù)業(yè)(yè)態(tài)(tài)健康發(fā)(fā)展層面考慮，可按照個(gè)(gè)性化信息服務(wù)(wù)所得和付出的均衡原則進(jìn)(jìn)行政策調(diào)整。他建議，確保消費(fèi)者對信息采集者的服務(wù)(wù)好壞有評判權(quán)，使消費(fèi)者始終處于主動(dòng)地位。

　　有專(zhuān)家認(rèn)為，監(jiān)管部門(mén)應(yīng)督促企業(yè)(yè)調(diào)整業(yè)(yè)務(wù)(wù)邏輯，將正面價(jià)(jià)值取向、用戶(hù)高品質(zhì)(zhì)追求作為關(guān)(guān)鍵標(biāo)簽納入算法頂層設(shè)計(jì)之中；政府、學(xué)(xué)校、家長(cháng)、平臺各方應(yīng)責(zé)任共擔(dān)，不斷提升青少年網(wǎng)(wǎng)絡(luò)(luò )素養(yǎng)。

　　彭訓(xùn)文