商業(yè)
當(dāng)你穿進(jìn)老錢班4
這對(duì)長久不被看見的群體來說，
楊亮
4小時(shí)前
生態(tài)：策略與差、異路徑
2025-08-04 08:37:26
72355
【編者按】“算法生活揭示了一系列顛覆性權(quán)力關(guān)系生成的可能，并最終指向一種可編程世界的可能性?！比A東政法大學(xué)韜奮新聞傳播學(xué)院副教授、復(fù)旦大學(xué)新聞學(xué)院博士賴楚謠在其專著《算法生活》中這樣寫道。她曾在多個(gè)短視頻直播村實(shí)地田野，進(jìn)行為期12個(gè)月的數(shù)碼民族志，希望從短視頻創(chuàng)作者的角度理解算法與人的關(guān)系。澎湃新聞對(duì)賴楚謠老師進(jìn)行了專訪，談及她的田野經(jīng)歷、“算法的社會(huì)性知識(shí)”和“遞歸式協(xié)商”以及如何更好地與算法相處等問題。以下為訪談?wù)摹?/p>
賴楚謠
澎湃新聞：你曾經(jīng)在義烏市北下朱村和江蘇省連云港市海頭鎮(zhèn)這兩個(gè)短視頻直播村進(jìn)行實(shí)地民族志考察，那里的創(chuàng)作者日常是如何與算法“打交道”的？
賴楚謠：大家可能在媒體上看到過或者身邊就有這樣的村鎮(zhèn)，它們以做短視頻或者直播出名，聚集了大量從業(yè)者。比如，我田野的一個(gè)地點(diǎn)——義烏的北下朱村，最高峰每天有超過5000名主播在那里直播，超過兩萬名直播、短視頻行業(yè)的從業(yè)者在那里居住、生活和工作，是一個(gè)產(chǎn)業(yè)非常密集的場(chǎng)所。
這些創(chuàng)作者日常到底是怎么樣跟算法打交道的？有一件事我印象特別深刻。我在海頭鎮(zhèn)做田野的時(shí)候，早上經(jīng)?！奥穹痹诋?dāng)?shù)夭耸袌?chǎng)，跟來買菜的老人閑聊。他們嘮的話題都跟直播、短視頻、爆款、流量相關(guān)，比如誰家爆單了，誰家昨晚賣了多少，隔天早上就在菜市場(chǎng)里傳得沸沸揚(yáng)揚(yáng)，不到一上午就能傳遍全村。
直播是整個(gè)海頭鎮(zhèn)的主要產(chǎn)業(yè)，村民對(duì)村里的各種主播了如指掌，誰家賬號(hào)是哪個(gè)，誰家賣什么貨，誰家最近流量特別好，流量好是他們?cè)嚵耸裁捶椒ā慷疾m不過他們，這非常有意思。在短視頻直播村，你會(huì)看到很多不一樣的東西。不論是北下朱、海頭鎮(zhèn)還是杭州九堡，你經(jīng)常會(huì)看到一小撮人聚在路邊聊天，討論最近平臺(tái)上有什么新的規(guī)則，最近他們又琢磨出什么新的直播玩法，又找到什么新的獲取流量的方法等等。
我在海頭鎮(zhèn)有一組比較固定的田野對(duì)象，這組田野對(duì)象由四五個(gè)跟我年紀(jì)差不多的當(dāng)?shù)刂鞑ソM成。他們幾個(gè)人每天一起討論，怎么能夠把流量做大一些，把賬號(hào)做好一點(diǎn)。賬號(hào)做起來以后，就雇傭一些小主播每天在他們自家或工廠里直播，直播時(shí)間非常長。海頭鎮(zhèn)海水養(yǎng)殖業(yè)特別發(fā)達(dá)，現(xiàn)在很多人做起了海鮮直播，很多當(dāng)?shù)卮缶W(wǎng)紅原來都是漁民。
不同的短視頻直播村之間也有區(qū)別。海頭鎮(zhèn)是一個(gè)熟人社會(huì)，外來人少，基本是靠幾個(gè)相熟的朋友間或者家里親戚拉群交換信息。北下朱外來人口更多，人口流動(dòng)非常頻繁，當(dāng)?shù)貜臉I(yè)者更像生意人。他們更依賴微信群，會(huì)在群里分享一些供應(yīng)鏈信息或是找合作的消息。當(dāng)?shù)剡€有一種茶會(huì)性質(zhì)的組織，經(jīng)常聚在一起喝茶，實(shí)際就是朋友帶朋友的朋友，聚在一起交換關(guān)于直播的信息。
海頭鎮(zhèn)電商服務(wù)中心（賴楚謠拍攝）
北下朱的直播產(chǎn)業(yè)鏈更完整。我的田野對(duì)象經(jīng)常會(huì)說，如果你來北下朱三個(gè)月，還沒發(fā)財(cái)，你就等于宣告失敗，就得滾蛋了。在北下朱，一個(gè)完全沒有接觸過這個(gè)行業(yè)的人，也很快就能被帶入這個(gè)行業(yè)。一走進(jìn)直播村，首先會(huì)被氛圍感染，會(huì)看到有人在街頭拍視頻，村里每個(gè)商鋪都在直播，連來菜市場(chǎng)買菜的老人都在討論這些。
他還會(huì)碰到很多“授人以魚不如授人以漁”的直播培訓(xùn)基地，大部分模式都一樣，交幾千塊錢，教你一些平臺(tái)規(guī)則和直播玩法，比如平臺(tái)禁忌詞，直播怎么起號(hào)養(yǎng)號(hào)等等。有一些培訓(xùn)基地的導(dǎo)師以前是創(chuàng)作者，也有一些本來就是做導(dǎo)師生意的，但都不是那種非常正規(guī)、有“頭銜”的人，就是來掙學(xué)費(fèi)的。然后他會(huì)碰到很多人會(huì)拉他入伙，或者他會(huì)尋求合作，當(dāng)然也可能碰到騙子。直播村是一個(gè)產(chǎn)業(yè)特點(diǎn)鮮明的社會(huì)，它非常深刻地加入到平臺(tái)的算法以及跟算法的交互中。
義烏江北下朱電商小鎮(zhèn)
澎湃新聞：他們眼中的算法是什么樣的？
賴楚謠：我訪談了非常多的創(chuàng)作者，如果我在剛接觸時(shí)就問他們，你們知道算法是什么嗎？至少有一半的人會(huì)跟我說不知道。算法只是一個(gè)我們以精英化的視角賦予的、想套在他們頭上的概念。他們才是每天跟算法在打交道、要通過算法謀生的人，其實(shí)我們不一定比他們更了解算法。就算他們不知道“算法”這個(gè)詞，也會(huì)用“流量”、“爆款”或者“平臺(tái)”、“觀眾老爺”等稱呼來說這件事情。
跟他們交流“算法”，一開始是無法直接進(jìn)入“算法”的。創(chuàng)作者感知算法常常需要從一個(gè)前置領(lǐng)域——“流量”——入手。從流量入手，我們才能知道創(chuàng)作者怎么理解算法。流量作為一種涉及可見性和注意力占用的資源，是短視頻平臺(tái)上通用的符號(hào)表征、衡量和評(píng)價(jià)的標(biāo)準(zhǔn)，甚至有時(shí)是可供流通、交換的“貨幣”。但如果從用戶感知的層面來說，流量就是一種數(shù)據(jù)反饋，播放量、點(diǎn)擊量、點(diǎn)贊量、完播率、收藏量這些數(shù)據(jù)高了，我們就說獲得了流量；如果低了，就是流量不好。
雖然這些創(chuàng)作者不太明白算法到底是什么，但是他覺得“有”，這種“意識(shí)到有”叫做算法意識(shí)。有算法意識(shí)后，這些創(chuàng)作者開始萌生關(guān)于算法技術(shù)的樸素想象，他想象算法的運(yùn)作方式，或者把它人格化，比如他會(huì)說算法很“笨”，總推一些我不喜歡的東西。這之后，他就開始生產(chǎn)關(guān)于算法的知識(shí)了。這可能從他的經(jīng)驗(yàn)來，也可能從其他創(chuàng)作者那里聽來，這就又深了一層。在意識(shí)、想象、知識(shí)之后，他去組織實(shí)施了應(yīng)對(duì)算法的實(shí)踐，比如養(yǎng)號(hào)、視頻怎么拍、直播怎么做……所以他們口中的“流量”“爆款”，實(shí)際是算法的前置領(lǐng)域，他們通過這些更直接的東西來想象“算法”。
所以短視頻直播村為什么特別重要？我們可以把它看作是算法的意識(shí)、算法的想象、算法的知識(shí)、實(shí)施算法的實(shí)踐這些很復(fù)雜的生態(tài)在一個(gè)具體地方的集中化呈現(xiàn)。這些東西在原子化的個(gè)體用戶身上也能看到，但不會(huì)像短視頻直播村這樣集中。他們既然要在短視頻或者直播平臺(tái)中謀生，而算法又是這些平臺(tái)的底層技術(shù)框架，那他們就必須持續(xù)地加入到和平臺(tái)算法的交互當(dāng)中。他們對(duì)于算法的認(rèn)識(shí)比我們這些平時(shí)只是刷刷短視頻的普通用戶要更深刻，因?yàn)樗惴ㄊ且环N“經(jīng)驗(yàn)技術(shù)”或“體驗(yàn)技術(shù)”，必須持續(xù)地跟它打交道才有可能獲得一些對(duì)它的理解，建立關(guān)于算法的知識(shí)體系。這就是為什么我的研究更注重觀察那些短視頻創(chuàng)作者，而不是普通用戶。因?yàn)樗麄円环矫媸瞧胀ㄓ脩舻拇?，另一方面又要想盡辦法靠算法獲得更多流量掙錢，所以他們應(yīng)對(duì)算法的實(shí)踐必然比我們豐富，對(duì)算法的理解也更深刻。
澎湃新聞：你做民族志的時(shí)候，有沒有感到人被技術(shù)“異化”？
賴楚謠：我不太想把他們的努力說成是“異化”，也不是很想以批判的視角去講這件事情。中國人在賺錢上真的有非常強(qiáng)的內(nèi)驅(qū)力。所以你說的所謂“異化”，其實(shí)很多時(shí)候可能不過是大家為了讓自己和家人的生活好一點(diǎn)而做出的努力。他參與到直播里，因?yàn)檫@增加了他獲得經(jīng)濟(jì)收益的機(jī)會(huì)。他們?yōu)榱诉@個(gè)機(jī)會(huì)非常努力地跟平臺(tái)算法周旋。至于其中有沒有被控制、異化的那種成分？當(dāng)然有。但是它更主要的成分是，他們認(rèn)為自己可以通過努力換得更好的生活。
澎湃新聞：你聽到過哪些關(guān)于算法的“民間理論”？
賴楚謠：“民間理論”太多了。我在直播村田野的過程中發(fā)現(xiàn)，基本上每兩星期直播村就會(huì)有一波新玩法，變化速度非?？?。有些人可能會(huì)覺得學(xué)會(huì)了這些“民間理論”，我就可以成為大網(wǎng)紅了，但我的感受是，規(guī)則變化得很快，根本不可能有誰掌握一套特別本質(zhì)化的理論，只要實(shí)踐它就可以玩轉(zhuǎn)這個(gè)平臺(tái)。
通過對(duì)這些“民間理論”的觀察，我也發(fā)現(xiàn)了他們理解“算法”的方式，并且加深了我對(duì)于算法系統(tǒng)以及人跟算法系統(tǒng)交互的認(rèn)識(shí)。舉一個(gè)例子，很多創(chuàng)作者頻繁提到，要了解平臺(tái)算法的推流規(guī)則，得去測(cè)試它，很多“民間理論”都是他們親身測(cè)出來的，比如說“完播率是爆款的最重要指標(biāo)”、“晚上7點(diǎn)發(fā)視頻流量更好”。我訪談的一位創(chuàng)作者的測(cè)試精細(xì)到，這個(gè)短視頻是橫屏拍，還是豎屏拍流量更好，他要測(cè)一下；視頻時(shí)長多少流量更好，他要測(cè)一下；視頻加不加特效、花字、音效……全部都測(cè)。
以算法工程界的視角，他這種測(cè)試方法就是很簡單的“A/B測(cè)試”。這些創(chuàng)作者會(huì)巧妙運(yùn)用平臺(tái)的工具做其他用途。比如很多創(chuàng)作者會(huì)用“DOU+”自查有沒有被限流?！癉OU+”是短視頻平臺(tái)上的投流工具，可以花錢買一些流量。如果投DOU+的時(shí)候，平臺(tái)不讓投或者不讓投很多，他就知道這個(gè)視頻有問題，那就去改；如果DOU+讓投甚至可以投挺多，他就知道這個(gè)視頻沒問題。
還有養(yǎng)號(hào)，這也是他們理解算法邏輯的一個(gè)例子。他們養(yǎng)號(hào)跟普通用戶養(yǎng)號(hào)不太一樣。普通用戶養(yǎng)號(hào)頂多是想讓這個(gè)號(hào)專門推薦想看的東西，但是創(chuàng)作者養(yǎng)的是能掙錢的號(hào)。他們的操作是，同時(shí)注冊(cè)多個(gè)賬號(hào)，但前期先不發(fā)自己作品，也不直播或者上小黃車，先用這個(gè)號(hào)看視頻——專門看一些他想給這個(gè)賬號(hào)打上的標(biāo)簽相關(guān)的視頻，比如他狂刷搞笑類視頻，同時(shí)在簡介里寫上年齡，這就方便算法給賬號(hào)打上一個(gè)“愛看搞笑類視頻的農(nóng)村男青年”這類標(biāo)簽。他手上有非常多的號(hào)，可以塑造很多不同的人設(shè)。養(yǎng)號(hào)一段時(shí)間后，再在這些號(hào)發(fā)自己的作品，每個(gè)號(hào)都發(fā)一樣的，然后比較幾個(gè)號(hào)的數(shù)據(jù)，選出其中數(shù)據(jù)反饋比較好的，其他的號(hào)之后就不做了。
養(yǎng)號(hào)在創(chuàng)作者中非常常見，至少我做田野那段時(shí)間被反復(fù)提到。他們同時(shí)用多個(gè)手機(jī)在直播。每個(gè)手機(jī)就是他們養(yǎng)的一個(gè)號(hào)，幾十個(gè)直播間播的東西是一樣的，但有的號(hào)流量就更好。他們把流量好的留下，再用這三五個(gè)號(hào)再播，再看流量反饋，再篩選。這就是他們起號(hào)的玩法。
算法在頻繁迭代，它的內(nèi)在運(yùn)作邏輯又過于復(fù)雜，不太可能通過個(gè)人力量去把握。創(chuàng)作者通過養(yǎng)號(hào)、用DOU+測(cè)試視頻有沒有被限流這些做法，繞開對(duì)算法內(nèi)部運(yùn)作邏輯的把握，直接從結(jié)果去入手，這非常巧妙，很有智慧。這兩個(gè)例子能夠讓我們看到他們理解算法的方式，以及他們?nèi)绾瓮ㄟ^跟算法周旋，來實(shí)現(xiàn)自己的目的。
村民在直播（賴楚謠拍攝）
澎湃新聞：你對(duì)算法工程師做過不少訪談，他們對(duì)于上述算法現(xiàn)象是怎么看的？
賴楚謠：短視頻創(chuàng)作者跟我分享的這些設(shè)想出來的知識(shí)，很多時(shí)候我也會(huì)覺得好像不太靠譜，會(huì)覺得真是這樣嗎？不太是吧？接受過我訪談的大多數(shù)算法工程師也對(duì)這些理解和方法不太認(rèn)同，覺得算法根本不是這個(gè)邏輯，你這沒用。
但我還想提供另一個(gè)方向上的思考。我們考慮“有沒有用”實(shí)際上是關(guān)心這些應(yīng)對(duì)方法的有效性，這是一個(gè)功利主義或者實(shí)用主義的立場(chǎng)，或者說是結(jié)果論的。對(duì)創(chuàng)作者來說，這些方法是不是真的能影響算法以及在多大程度上影響了他們的流量，可能不是判斷它是否有價(jià)值的唯一標(biāo)準(zhǔn)。通過利用這些方法或策略，更多是給了這些創(chuàng)作者信心和希望：我似乎能去應(yīng)對(duì)這個(gè)看起來非常高深的東西，我似乎有一點(diǎn)點(diǎn)的可能去把握這點(diǎn)機(jī)會(huì)，甚至我有可能借由這個(gè)機(jī)會(huì)改變自己的命運(yùn)。在我看來，這個(gè)希望比我們純粹判斷這些方法到底有沒有用，更加珍貴。
我做這個(gè)研究的契機(jī)就是因?yàn)樵诙桃曨l平臺(tái)刷到了一個(gè)創(chuàng)作者。她也是我后來的訪談對(duì)象，我叫她張姐。張姐生活在新疆，小學(xué)都沒讀完，也不太認(rèn)識(shí)字。我刷到她的時(shí)候，她正在直播間跟粉絲分析算法。她說，平臺(tái)在你起號(hào)時(shí)會(huì)多給你分一些流量，這時(shí)候要怎么把握這些流量，吸引更多流量？一定要讓這些流量加粉絲團(tuán)，給你送燈牌，一個(gè)燈牌只要一毛錢。她覺得加粉絲團(tuán)亮燈牌的用戶反饋行為，會(huì)讓算法覺得你有能力留住這些人，進(jìn)而給你繼續(xù)推流，比按小紅心要管用。我當(dāng)時(shí)一下子就被這個(gè)極具反差感的場(chǎng)景擊中了，一個(gè)連字都不識(shí)的農(nóng)村中年婦女，正在直播間里對(duì)高深的算法侃侃而談。
后來在跟創(chuàng)作者的更多接觸中，我更深刻地感覺到，短視頻平臺(tái)的算法推薦比起人工推薦的時(shí)代，對(duì)他們的影響太不一樣了。他們的一些方法、策略可能有時(shí)候也顯得有點(diǎn)無稽之談，比如在文案里面寫“感謝官方平臺(tái)”更容易獲得流量什么的。但他們覺得通過這種分析和實(shí)踐，能夠?qū)λ惴ê土髁可约影盐?，這給了他們非常大的信心，也給了他們一點(diǎn)點(diǎn)希望，讓他們覺得我也許可以通過這個(gè)掙到錢，改善我的生活。
我覺得，這些方法是不是真起效了，好像是我們這些置身事外的人才關(guān)心的。對(duì)他們來說，如果有用，那他們就更有信心往前走；如果失敗，那也不會(huì)太氣餒，因?yàn)槊刻於荚谑 ５行判暮拖Ｍ蜁?huì)讓他們堅(jiān)持做這件事，讓他們覺得可以對(duì)這種看起來很復(fù)雜高深、以前絕對(duì)沒機(jī)會(huì)去接觸和掌握的東西有一點(diǎn)點(diǎn)掌控感，這太寶貴了。
在平臺(tái)公司內(nèi)部，算法工程師主要負(fù)責(zé)實(shí)現(xiàn)需求，他們也不是我們想象中那種完全掌控算法的人。平臺(tái)內(nèi)部其實(shí)是運(yùn)營或者產(chǎn)品經(jīng)理在提需求，他們發(fā)現(xiàn)了平臺(tái)上有需要算法迭代、改進(jìn)的東西，就把需求提給算法工程師，算法工程師再在技術(shù)層面去做調(diào)整。很多算法工程師在訪談時(shí)也說，不要問我什么能火，我要是知道我就自己去做了。算法工程師只能理解算法的大概運(yùn)作邏輯，但并不能決定技術(shù)的具體走向，也不能決定算法會(huì)把流量推給什么樣的人，也不能講出完播率在推流時(shí)權(quán)重具體多少，點(diǎn)贊量權(quán)重又是多少。
確實(shí)，谷歌剛開始做信息推薦時(shí)的排序算法PageRank是有公式的，是可以計(jì)算的，但現(xiàn)在機(jī)器深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)這些加入進(jìn)來以后，算法已不再有明確的權(quán)重指標(biāo)了，這個(gè)東西因人而異，每個(gè)人、每個(gè)群體、每類作品的權(quán)重可能都不一樣。從另一個(gè)面向上看，算法工程師其實(shí)也在算法外部打轉(zhuǎn)。他們不能把握每一個(gè)人會(huì)看到什么東西。事實(shí)上也沒有任何一個(gè)個(gè)體能把握。
澎湃新聞：我們時(shí)常有這樣一種感覺，剛聊過的東西就會(huì)出現(xiàn)在推薦流里邊，這是怎么回事？
賴楚謠：我們好像經(jīng)常遇到這種事，比如跟朋友說暑假想去什么地方玩，接著就發(fā)現(xiàn)怎么線下剛說完，立刻手機(jī)上就能刷到。偷聽在技術(shù)上確實(shí)可行，但是我們一天說的話太多了，如果手機(jī)麥克風(fēng)一直開著，手機(jī)能耗會(huì)增加。所有的監(jiān)聽錄音都得上傳到云端，那云端的存儲(chǔ)量得多么驚人，云端存儲(chǔ)也很耗成本。而且我們?nèi)粘５恼勗捴饕窃卩须s環(huán)境里，要識(shí)別出來需要降噪，還涉及方言識(shí)別等等，總之要經(jīng)過復(fù)雜的工序才可能獲得很有限的有價(jià)值信息。
所以從平臺(tái)角度考慮，它沒必要為了促成一點(diǎn)不知道能不能成的轉(zhuǎn)化而費(fèi)這么大力氣。而且我們的手機(jī)現(xiàn)在要調(diào)用麥克風(fēng)或者攝像頭，都是有提示的。我們也會(huì)發(fā)現(xiàn)，除非正在使用，一般的APP不會(huì)在其他時(shí)間自己打開麥克風(fēng)。還有，一旦被發(fā)現(xiàn)平臺(tái)監(jiān)聽的確鑿證據(jù)，它面臨的法律風(fēng)險(xiǎn)很大，對(duì)平臺(tái)的損害也很大。所以從實(shí)際的考量，不太可能對(duì)普通用戶實(shí)施監(jiān)聽。
那為什么我們會(huì)經(jīng)常感受到這個(gè)情況？我認(rèn)為有兩個(gè)原因。一是平臺(tái)間會(huì)通過一個(gè)叫做“SDK廣告商聯(lián)盟協(xié)議”的方式做一些數(shù)據(jù)交換。比如我在某電商APP上加購過一個(gè)充電寶，這個(gè)信息可能交換給其他賣廣告位的信息平臺(tái)，所以你在其他APP上看到了同一款充電寶的廣告。但也不是你的身份信息被交換過去了，而就是這個(gè)商品的廣告位。
另一個(gè)原因跟心理有關(guān)。一些心理學(xué)的研究將這種現(xiàn)象稱為“巴德爾-邁因霍夫效應(yīng)”，它是一種認(rèn)知偏差。兩方面心理因素會(huì)導(dǎo)致這一效應(yīng)，一個(gè)是選擇性注意，一個(gè)是確認(rèn)偏誤。選擇性注意就是，一旦我們覺得某個(gè)信息很重要，我們大腦當(dāng)中就會(huì)像有聚光燈一樣，直接對(duì)準(zhǔn)我們關(guān)注的信息，忽略其他內(nèi)容。比如，有一天有個(gè)朋友問我的相機(jī)是什么型號(hào)，我說是某型號(hào)的，回去以后她就在某平臺(tái)刷到這個(gè)型號(hào)的相機(jī)拍的照片，她就非常興奮地跟我說，你看！這個(gè)平臺(tái)是不是監(jiān)聽了我們的對(duì)話，要不然怎么你說的型號(hào)我這么快就刷到了。我說也許你以前也經(jīng)常刷到這個(gè)型號(hào)的相機(jī)拍的照片，只不過從沒關(guān)注過。今天我跟你說了，你剛好看到了，這就是一種選擇性注意。第二個(gè)叫做確認(rèn)偏誤，就是我們會(huì)更關(guān)注和接受那些符合我們?cè)瓉碛^點(diǎn)的信息，會(huì)忽視和否定與這些信息矛盾的一些證據(jù)。選擇性注意和確認(rèn)偏誤，共同構(gòu)成了心理學(xué)上的這種機(jī)制，所以也有可能是一種大腦給我們的錯(cuò)覺。
澎湃新聞：在解釋大眾對(duì)算法的理解時(shí)，你用到了“算法的社會(huì)性知識(shí)”這個(gè)概念，什么是“算法的社會(huì)性知識(shí)”？人們對(duì)算法的認(rèn)識(shí)和理解經(jīng)歷了哪些變化？
賴楚謠：從學(xué)術(shù)的角度，我試圖從兩個(gè)方面去定義算法的社會(huì)性知識(shí)。首先，算法的社會(huì)性知識(shí)在算法知識(shí)的概念框架之下。當(dāng)我們提起算法知識(shí)時(shí)，我們經(jīng)常想到的是那些被算法工程師這些技術(shù)精英掌握的、需要經(jīng)過大量專業(yè)培訓(xùn)才能獲得的知識(shí)，比如看起來非常高深的編程代碼。而算法的社會(huì)性知識(shí)就是與這類技術(shù)性的算法知識(shí)相區(qū)分，它們是不同的。
其次，創(chuàng)作者對(duì)算法的理解是在跟算法交互的過程中，自然形成的經(jīng)驗(yàn)性知識(shí)，而且是一種共享的知識(shí)。它比算法意識(shí)和算法想象更深入一步。它是成體系的，也是被用戶集體建構(gòu)和共享的。這也是為什么要強(qiáng)調(diào)它是社會(huì)性的。我們不關(guān)心知識(shí)是由大眾生產(chǎn)的還是由精英生產(chǎn)的，我們也不太關(guān)注那些所謂的科學(xué)的、形式的知識(shí)，也就是寫在書本上的那種知識(shí)。知識(shí)社會(huì)學(xué)關(guān)注社會(huì)中被認(rèn)為是知識(shí)的東西，而不考慮這個(gè)知識(shí)最終能不能得到科學(xué)意義上的驗(yàn)證。
這也是算法的社會(huì)性知識(shí)跟技術(shù)性知識(shí)相區(qū)分的地方。算法的社會(huì)性知識(shí)關(guān)心什么？關(guān)心日常生活語境中的那些知識(shí)，我們關(guān)心這個(gè)知識(shí)是怎么被建構(gòu)、生產(chǎn)出來的。但是我們并不太考慮生產(chǎn)知識(shí)這些人的社會(huì)地位。這些知識(shí)不是技術(shù)精英決定的，而是由一群真正在日常生活中要跟算法打交道的人決定的。
知識(shí)社會(huì)學(xué)里還有一個(gè)很有幫助的概念，就是“實(shí)踐知識(shí)”。如果放置在算法領(lǐng)域，算法的社會(huì)性知識(shí)就是這些創(chuàng)作者、普通用戶在跟算法交互的日常情境中生產(chǎn)出來的，是在一個(gè)很具體的情境中產(chǎn)生的。同時(shí)，它又是地方性的、局部的知識(shí)，不像算法技術(shù)知識(shí)是普遍存在的和抽象的。同時(shí)，它通常是非正式的、由廣泛的創(chuàng)作者群體自下而上集體建構(gòu)的。
澎湃新聞：我們通常在“算法控制-用戶抵抗”這種視角下加以解讀。學(xué)術(shù)界有哪些新理論和新視角去理解人與算法的互動(dòng)？你為什么強(qiáng)調(diào)“遞歸式協(xié)商”這個(gè)概念？
賴楚謠：最開始，“算法控制-用戶抵抗”既是大多數(shù)人對(duì)算法的直觀感受，也是整個(gè)社會(huì)科學(xué)界對(duì)算法的研究視角。在這個(gè)視角下會(huì)產(chǎn)生一種簡化的、二元對(duì)立的觀感：要么是算法對(duì)人實(shí)施一種特別強(qiáng)大、穿透性的控制，要么是人在抵抗，開始和算法你死我活的較量。我覺得這么看問題太絕對(duì)了，實(shí)際是把算法這個(gè)技術(shù)性產(chǎn)物和人類放在對(duì)立的兩端。所以我為什么想用“遞歸式協(xié)商”這個(gè)概念描述人和算法的關(guān)系，也是因?yàn)檫@里面有太多的復(fù)雜性和動(dòng)態(tài)性沒有被看到。
技術(shù)哲學(xué)家西蒙棟有句話，他說：“文化和技術(shù)、人和機(jī)器間的對(duì)立關(guān)系是錯(cuò)誤的，毫無根基的，是無知和仇視的結(jié)果，是直接躲在一個(gè)輕便的人本主義之后，遮蔽了賦予人類的努力和自然力量的現(xiàn)實(shí)。”我覺得西蒙棟這句話特別恰當(dāng)?shù)卣f明了，“算法控制-用戶抵抗”這種二元的視角，就是躲在很輕便的人本主義之后，把一切復(fù)雜和動(dòng)態(tài)性的東西給簡化、拉平、遮掩過去了。它是一種偷懶。所以傳播學(xué)界和社會(huì)學(xué)界有很多學(xué)者嘗試用一些超越“控制-抵抗”的視角去描述這個(gè)過程，比如說國外的學(xué)者會(huì)用“糾纏（entanglement）”去描述這種關(guān)系。國內(nèi)學(xué)者會(huì)說這是一種“雙向馴化”，不是單向的馴化，或者有些學(xué)者會(huì)說這是“互構(gòu)”。這些概念都試圖說明它不是單向的控制與抵抗那么簡單。
“遞歸式協(xié)商”這個(gè)概念，首先肯定是試圖去超越“控制-抵抗”這種簡單輕便的二元對(duì)立視角。我也試圖超越“雙向馴化”或者“互構(gòu)”這類概念，希望去更多展開關(guān)系中的動(dòng)態(tài)性部分。雙向馴化和互構(gòu)重在強(qiáng)調(diào)互相的影響，但沒有展現(xiàn)出這個(gè)影響是怎么在動(dòng)態(tài)中展開的。所以我選擇了“遞歸”這個(gè)詞，希望帶有更多關(guān)系在螺旋式上升中，雙方互相把對(duì)方納入自己，又在進(jìn)化、迭代的那種意思。
我不認(rèn)為算法和人是你死我活的較量對(duì)立，不是要么就算法控制操縱人，要么就是人醒悟了、抵抗了，而是在一種持續(xù)性的交互中，雙方都得學(xué)會(huì)逐漸去理解另一方的運(yùn)作邏輯和規(guī)則。在這樣的前提下，算法和用戶構(gòu)成了一個(gè)循環(huán)的回路，在回路中去動(dòng)態(tài)協(xié)商，共同達(dá)成各自想要的目的。
在我的田野和訪談當(dāng)中，在用戶這一方面，我感受到更多的是，首先他得有算法意識(shí)，得有算法想象，得有算法的社會(huì)性知識(shí)。在此前提下，通過一些很巧妙、有智慧的方法與算法合作，達(dá)成他的目的。有時(shí)候他會(huì)表現(xiàn)出來想和算法培養(yǎng)感情、拉近關(guān)系，想按照算法的邏輯來行事從而達(dá)成自己的目的。有時(shí)候他也可能鉆空子、找漏洞。
在平臺(tái)算法方面，現(xiàn)在不論什么短視頻直播平臺(tái)，最終目標(biāo)都是有更多的長期用戶留存，希望更多的人在平臺(tái)里持續(xù)創(chuàng)作、吸引更多用戶參與平臺(tái)社區(qū)互動(dòng)，這樣它能把各種形式的消費(fèi)來轉(zhuǎn)化成平臺(tái)的經(jīng)濟(jì)利益。我們好像總喜歡把平臺(tái)陰謀化，將其描述成邪惡操縱人類的罪魁禍?zhǔn)祝脚_(tái)似乎也沒有動(dòng)機(jī)去惡意“操縱”人類。雙方似乎都有些誤解。
所以遞歸式協(xié)商不是否認(rèn)操縱和抵抗的存在，而是覺得有一些復(fù)雜的、動(dòng)態(tài)的東西被操縱和抵抗的視角遮蔽了。關(guān)于遞歸式協(xié)商中體現(xiàn)動(dòng)態(tài)性的典型例子，我的田野對(duì)象講過這樣一段經(jīng)歷：直播電商發(fā)展初期，根據(jù)創(chuàng)作者說，他們發(fā)現(xiàn)平臺(tái)那時(shí)候經(jīng)常依據(jù)直播時(shí)長來分配流量——直播時(shí)長越長，就可能分配更多流量，也能保證平臺(tái)中每天有大量的人在直播。在這個(gè)時(shí)期，整個(gè)直播村里瘋狂地“拉時(shí)長”——這是他們的說法，就是拉長直播時(shí)間，讓人在鏡頭前不斷地播，一天播十七八個(gè)小時(shí)也是有的。但是有時(shí)候人播不過來，他們也會(huì)采用錄屏或錄音直播來拉時(shí)長，制造直播假象。這種行為其實(shí)生成了一種虛假的時(shí)長數(shù)據(jù)，不太有效，也不符合平臺(tái)的預(yù)期。平臺(tái)很快就發(fā)現(xiàn)了他們這種做法，治理了這種假直播間。
這樣一來，創(chuàng)作者發(fā)現(xiàn)拉時(shí)長沒用了，就開始用各種方法測(cè)驗(yàn)，發(fā)現(xiàn)平臺(tái)更強(qiáng)調(diào)“有效直播”，什么叫有效直播？比如賣貨直播中，平臺(tái)會(huì)把直播間的互動(dòng)數(shù)據(jù)和銷售數(shù)據(jù)表現(xiàn)納入到流量分配的算法評(píng)估權(quán)重中去。所以現(xiàn)在要有互動(dòng)，要有銷售數(shù)據(jù)。這怎么辦？我真覺得他們特別聰明。他們實(shí)施了一套組合拳，叫“卡直播間”。
卡直播間也是當(dāng)?shù)氐囊环N通俗說法，簡單來講就是先用一些低價(jià)商品拉一波銷售數(shù)據(jù)，因?yàn)楹鼙阋?，大家肯定爭著買，再通過抽獎(jiǎng)等方式把互動(dòng)量和銷售的數(shù)據(jù)拉起來，這個(gè)操作他們叫“憋單”。這波憋單完了以后，觀眾就走了，互動(dòng)數(shù)據(jù)又不好了。這時(shí)候他們立刻“強(qiáng)制下播”——就是直接斷電。直接斷電或者關(guān)機(jī)以后再上線，就會(huì)制造出一種因?yàn)榧夹g(shù)故障而導(dǎo)致直播中斷的假象，在他們看來，再上線后會(huì)延續(xù)之前的直播時(shí)長，不會(huì)算成一個(gè)新開始的直播。他們就用這個(gè)方法，既有互動(dòng)數(shù)據(jù)，又把直播時(shí)長給拉長了，這個(gè)賬號(hào)就會(huì)一直顯示直播狀態(tài)。數(shù)據(jù)好了以后，平臺(tái)更有可能把賬號(hào)推在推薦流的位置，刷直播廣場(chǎng)更可能刷到。所以“卡直播間”的意思就是把直播間牢牢卡在推薦流里，獲得更多流量分配。當(dāng)然這個(gè)方法后來也被平臺(tái)識(shí)別了。
所以整個(gè)過程就是一個(gè)“游擊戰(zhàn)”。你有一個(gè)方法，那我想一個(gè)方法來應(yīng)對(duì)你。更關(guān)鍵的是，所有人做出的反饋都作為行為數(shù)據(jù)被算法給吸納了。算法吸納以后又有新的邏輯調(diào)整迭代，新算法影響這些創(chuàng)作者。所以我說這是遞歸式的、不斷循環(huán)、螺旋上升的模式，我稱之為“遞歸式協(xié)商”。
《算法生活》封面
澎湃新聞：最近，抖音、快手、視頻號(hào)、小紅書等平臺(tái)公開算法原理，并在產(chǎn)品功能上做了改進(jìn)，提升算法推薦結(jié)果的可見性，一定程度上提升了算法透明度。你怎么看這個(gè)舉措？
賴楚謠：平臺(tái)有提升算法透明度的舉措當(dāng)然非常好，這也是我們學(xué)者一直倡議的。只有透明度提升了，才可能實(shí)現(xiàn)真正有效的監(jiān)督。
平臺(tái)公布技術(shù)原理固然值得肯定，但重要的是如何用通俗易懂的方式解釋給大眾。平臺(tái)上有很多所謂的民間算法專家“翻譯”這些東西，這是算法的社會(huì)性知識(shí)傳播中非常關(guān)鍵的節(jié)點(diǎn)，我覺得他們的工作特別重要。中國其實(shí)有相當(dāng)多的人都有讀寫障礙，很多人連讀140字的微博都有困難。有多少創(chuàng)作者真的能讀完讀懂算法原理？所以，這撥人能用拍視頻這么簡單直觀的方法去給他們翻譯這個(gè)東西，太重要了。
更進(jìn)一步，要討論究竟誰掌握了影響甚至是決定算法規(guī)則的權(quán)力。平臺(tái)內(nèi)部的算法工程師、運(yùn)營、產(chǎn)品經(jīng)理，只代表了非常小的視角。每個(gè)人都有自己的身份，這背后又暗藏了很多文化的預(yù)設(shè)和立場(chǎng)，如果僅由一些小群體來決定算法的走向，不論是算法工程師，專家學(xué)者，還是特定用戶群體，那么都可能陷入偏狹的風(fēng)險(xiǎn)之中。評(píng)價(jià)的視角應(yīng)當(dāng)是多元的，那么各種各樣的人，他們所代表的群體作為多元主體，能不能參與算法規(guī)則的討論？怎么參與？這是平臺(tái)在做很多努力去公開算法原理、提升透明度之后，我們還需要思考和做的。
澎湃新聞：短視頻平臺(tái)有很多素人階段性走紅，有人認(rèn)為是“平臺(tái)算法造神”，算法有這種能力嗎？
賴楚謠：這個(gè)話題挺重要的。中國的短視頻和直播平臺(tái)跟西方的平臺(tái)還不太一樣。近十幾年中國在新技術(shù)傳播方面其實(shí)是走在世界前列的，我們看到移動(dòng)互聯(lián)網(wǎng)和移動(dòng)支付以驚人的速度普及，現(xiàn)在的短視頻和直播從中國出發(fā)在全球風(fēng)靡，也是一個(gè)例證。
我的研究里也有一些讓我特別感動(dòng)的案例，張姐就是其中之一。她直播時(shí)說的那些算法的知識(shí)不完全是她自己想出來的，也是聽別人直播說的，或者看別的短視頻學(xué)的。重要的是，通過掌握跟算法有關(guān)的知識(shí)，她感覺自己好像有能力去改變一點(diǎn)她的生活。直播村中的那些創(chuàng)作者也一樣，海頭鎮(zhèn)很多頭部主播以前就是菜場(chǎng)賣菜的，甚至是無業(yè)游民。從整個(gè)中國宏觀角度來講，因?yàn)橛辛酥辈ズ投桃曨l，大眾和精英的關(guān)系可能正在發(fā)生變化。
另一個(gè)案例，我想講講我在甘肅舟曲的一個(gè)田野對(duì)象，她現(xiàn)在也是小有名氣的網(wǎng)紅了。她忙不過來，就雇了一些助播幫她發(fā)貨，直播時(shí)打下手，有時(shí)候幫她講一講品。她雇傭的都是當(dāng)?shù)啬贻p的寶媽，一邊照顧小孩一邊工作。她講過一件事情我印象非常深刻。她覺得在舟曲，一邊照顧孩子一邊全職工作是不可能的事，只能二擇其一。但有了短視頻、直播之后，對(duì)她們生活最大的改變，就是能工作的同時(shí)兼顧小孩——因?yàn)椴恢辈ゾ涂梢匀б粫?huì)小孩，或者直播的時(shí)候也能順便看孩子。以前家里只能靠老公掙錢，她通過直播、短視頻，能掙一點(diǎn)錢，在家庭中的地位都因此而不同了。
我另一個(gè)在貴州的田野對(duì)象，我叫她三妹，她的直播事業(yè)做得更大一些，現(xiàn)在她的家庭地位就不一樣了，甚至有點(diǎn)性別角色倒置——老公和公公婆婆帶孩子，她直播。她一天不直播老公就著急，求著她播，因?yàn)樗F(xiàn)在是家里的經(jīng)濟(jì)支柱。在當(dāng)下這種性別權(quán)力結(jié)構(gòu)不平等的境況中，有更多女性可以從直播、短視頻里獲得改變生活、改變地位的可能。
我在田野中發(fā)現(xiàn)，直播鏡頭前大部分是女性。直播間里更多人喜歡看女性直播，而不是男性直播。所以短視頻、直播真的給很多女性打開了新的空間。三妹本來是賣自家農(nóng)產(chǎn)品的，但因?yàn)樗F(xiàn)在做起來了，靠自己家供應(yīng)不上了，她就從整個(gè)村子甚至是隔壁村去收農(nóng)產(chǎn)品來賣。當(dāng)?shù)亟?jīng)濟(jì)就因?yàn)橐粋€(gè)網(wǎng)紅被扶持起來了。這也是為什么相當(dāng)多地方的扶貧工作都在大力支持直播，因?yàn)檎娴挠锌赡芤驗(yàn)橐粋€(gè)人的走紅，帶動(dòng)整個(gè)地方。這也是我在西方的研究里很少看到的情況，它展現(xiàn)了中國的新媒介融入日常生活的獨(dú)特方式。
“算法生活”暗示著傳統(tǒng)的權(quán)力結(jié)構(gòu)現(xiàn)在產(chǎn)生了一些裂痕，有一些顛覆性的、新的權(quán)力關(guān)系結(jié)構(gòu)正在發(fā)生。在社交媒體時(shí)代，普通人用手機(jī)就能直播自己的生活，可能只是被幾十個(gè)人看到，也比以前只能被身邊的人看到，甚至完全不被看見來得好。
可見性為什么這么重要？它并不單純是一種視覺感受，它意味著一種社會(huì)承認(rèn)的機(jī)會(huì)。安德雷亞·布里根蒂（AndreaBrighenti）說，不被看見意味著你在社會(huì)上不存在。所以我的田野對(duì)象們對(duì)于算法有一個(gè)特別樂觀的想法，他們覺得算法更公平。為什么這么說？他認(rèn)為算法推薦跟以前的編輯推薦不一樣。他說，以前我能不能上報(bào)紙、上電視臺(tái)，完全由那些“大人物”決定。但現(xiàn)在不再由這些人決定了，由算法和觀眾決定。他認(rèn)為算法讓他有平等的機(jī)會(huì)被看到。
所以當(dāng)有人說在短視頻平臺(tái)上走紅是抽流量彩票，我就會(huì)反問，抽流量彩票有什么不好？流量彩票就是一種希望，至少現(xiàn)在我也能買一張彩票了。這對(duì)長久不被看見的群體來說，實(shí)在太重要了。而且社交媒體時(shí)代的被看見跟大眾媒體時(shí)代的被看見完全不一樣。大眾媒體時(shí)代被看見意味著被所有公眾普遍性地看見。但在我的田野對(duì)象看來，他們需要的并不是廣泛的曝光，只希望被那些對(duì)我感興趣或者說跟我有相似經(jīng)歷的人看到。這是一個(gè)很關(guān)鍵的變化。我只需要被這一小撮人看見，我的作品可以滿足他們的需求，他們也可以滿足我的需求，這是社交媒體時(shí)代可見性很不一樣的地方。所以我覺得抽流量彩票太好了，誰都能買一張希望的彩票，人都得靠希望活著。
女主播在直播（賴楚謠拍攝）
澎湃新聞：有人認(rèn)為，算法導(dǎo)致或加劇了信息繭房，你如何看待這個(gè)問題？
賴楚謠：“信息繭房”最初是桑斯坦通過對(duì)web1.0時(shí)代觀察得出的一種理論性的推演和擔(dān)憂，它不是被確證的。還有一些跟信息繭房相似的概念，比如過濾泡（filterbubble）或者回音室（echochamber）。社會(huì)科學(xué)界也對(duì)信息繭房這個(gè)概念展開了一系列的實(shí)證研究，大部分結(jié)果表明，我們可能普遍高估了算法和信息繭房的強(qiáng)關(guān)聯(lián)關(guān)系。2018年德國一個(gè)新聞網(wǎng)站上做了個(gè)實(shí)驗(yàn)，比較了有算法推薦的新聞推送和沒有算法推薦的新聞推送，他們發(fā)現(xiàn)算法推薦的新聞推送，并沒有顯著降低推送內(nèi)容的多元性。也就是說在使用算法推薦的時(shí)候，我們?nèi)匀豢梢越佑|廣泛的主題、不同的觀點(diǎn)。
英國一項(xiàng)大規(guī)模的互聯(lián)網(wǎng)用戶調(diào)查表明，所謂的“信息繭房”或者“回音室”情況并不普遍。那些對(duì)政治感興趣，使用多個(gè)平臺(tái)的人，往往可以避免所謂的信息繭房或者是回音室效應(yīng)。
還有一個(gè)問題是，在報(bào)紙、電視或者更早的口語傳播時(shí)代，難道不存在信息繭房嗎？我甚至可以提出一個(gè)更尖銳的問題，那時(shí)候是不是存在比現(xiàn)在更封閉的信息繭房？想想看，我們以前看電視，不也是爸爸想看新聞節(jié)目，媽媽想看電視劇，我想看動(dòng)畫片，各自被封閉在各自的信息繭房中嗎？再回溯到口語傳播時(shí)代，因?yàn)榈乩砩系膮^(qū)隔，這個(gè)村子的人完全不知道另一村子的人在關(guān)心什么，這樣的信息繭房不是比現(xiàn)在更封閉嗎？
我訪談過很多平臺(tái)的算法工程師，他們也相當(dāng)關(guān)注這個(gè)問題。的確，如果你只喜歡看某類內(nèi)容，平臺(tái)頻繁給你推這些內(nèi)容，可能會(huì)讓你繼續(xù)留在平臺(tái)中。但他們也很警惕這個(gè)問題，所以他們用各種方法，比如說時(shí)常在你的推薦流中插入一定比例的不那么感興趣、跟你的標(biāo)簽不是那么強(qiáng)關(guān)聯(lián)的內(nèi)容，來打破信息繭房。
現(xiàn)在好幾個(gè)平臺(tái)都有這個(gè)功能，你可以從后臺(tái)入口進(jìn)去，使用管理助手切換推薦風(fēng)格。比如說你想只看你喜歡的東西、安靜待在你的繭房里，那也可以。但也有要求推薦多元化內(nèi)容的選項(xiàng)，還可以具體調(diào)節(jié)，讓某方面的內(nèi)容增加一些，某方面的內(nèi)容減少一些。
信息繭房為什么成了一個(gè)當(dāng)下我們普遍憂心、反復(fù)提及的問題，這本身也很值得討論。我想是因?yàn)楝F(xiàn)在我們比任何時(shí)候都能感受到不同人群觀點(diǎn)的割裂，也就是我們經(jīng)常談到的意見極化以及社會(huì)極化。但這也不是這個(gè)時(shí)代才有的新現(xiàn)象，歷史上就有——比如因?yàn)榭臻g隔絕，一群人根本沒有辦法理解另一群人。
但為什么現(xiàn)在我們覺得這個(gè)問題凸顯出來了，我認(rèn)為，反而是因?yàn)楝F(xiàn)在我們能看到更多樣化的觀點(diǎn)了。比如在微博評(píng)論區(qū)或者小紅書推薦流，有的內(nèi)容看完了你就想問，怎么會(huì)有人這么想問題？所以，當(dāng)下反而是有這樣的空間讓我們看到了這么多樣的、跟自己原來圈層的觀點(diǎn)完全不同的人。這也許為我們反觀自身提供了機(jī)會(huì)，讓我們終于發(fā)現(xiàn)自己原來身處繭房之中。
還有，現(xiàn)在學(xué)界仍不能非常明確地證明信息繭房和極化間有因果關(guān)系?，F(xiàn)在不太清楚是有了繭房以后導(dǎo)致的極化，還是極化導(dǎo)致人們藏進(jìn)繭房中，或者是兩者相互加強(qiáng)。這在實(shí)證上還沒有完全的證據(jù)可以厘清。我們現(xiàn)在仍在討論它，這是一個(gè)非常復(fù)雜的、多因素的問題，不是單向的因果關(guān)系。
澎湃新聞：哪些因素會(huì)影響普通人對(duì)算法的信任感？平臺(tái)、監(jiān)管者、學(xué)者以及用戶，可以做些什么來增進(jìn)信任？
賴楚謠：我們已經(jīng)很難把算法從生活中完全剝離，現(xiàn)在的問題是怎么更好地跟它相處。對(duì)于大部分人來說，推薦算法的存在其實(shí)是技術(shù)進(jìn)步帶來的好處，對(duì)他們相當(dāng)有利?？梢栽O(shè)想一下，如果沒有推薦算法，我們現(xiàn)在每天要面對(duì)多少信息？推薦算法存在的前提就是信息過載，人類已經(jīng)沒辦法處理這么海量的信息了。所以現(xiàn)在要討論的是怎么讓我們能跟算法相處得更好，能讓它走在一個(gè)更正確的軌道上。
第一個(gè)是透明度。提升透明度非常關(guān)鍵。如果算法的工作原理和決策過程不透明，會(huì)讓用戶產(chǎn)生懷疑，信任感會(huì)降低。透明度以下還有更細(xì)化的概念——可解釋性。這個(gè)概念在計(jì)算機(jī)科學(xué)領(lǐng)域被討論得很多了，即因?yàn)樯疃葘W(xué)習(xí)算法實(shí)在是大到不可知，就會(huì)出現(xiàn)“黑箱”，也就是輸入以后，深度學(xué)習(xí)算法給了一個(gè)輸出，但我們解釋不了這中間這么多行的算法為什么這樣算，它為什么這么理解。它的可解釋性很差。所以不是說公開了代碼就可以了，在公開代碼、提升透明度之后，還得考慮可解釋性的問題，得讓大眾通過算法專家的轉(zhuǎn)譯，能夠理解算法。
第二就是控制權(quán)的問題。我們都有這樣的感受，如果可以自己控制對(duì)算法的體驗(yàn)，會(huì)增加對(duì)算法的信任感。比如我剛剛提到的使用管理助手，可以自己調(diào)節(jié)要不要增加某類內(nèi)容的推薦，或者要更多元的信息。給予用戶更多的控制權(quán)，是下一步平臺(tái)要做的努力。而從監(jiān)督來說，有沒有可能在制度上確保所有平臺(tái)都有這樣的設(shè)計(jì)呢？
對(duì)于用戶來說，永遠(yuǎn)不全然地讓渡自主性，始終保有思考、質(zhì)疑的能力或許是我們?cè)跐L滾的人機(jī)共生浪潮中最應(yīng)該守住的。
免責(zé)聲明：本文內(nèi)容由開放的智能模型自動(dòng)生成，僅供參考。
網(wǎng)站信息
