編者按

當(dāng)今，在數(shù)智化浪潮中，算法已深入社會(huì)的各個(gè)角落，影響著人們生活的方方面面。結(jié)合此前四部委開展的網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理專項(xiàng)行動(dòng)，財(cái)聯(lián)社與《科創(chuàng)板日?qǐng)?bào)》今日推出“算法治理”專題特稿報(bào)道。

報(bào)道旨在從算法領(lǐng)域的現(xiàn)象與問(wèn)題，從對(duì)策到長(zhǎng)久解決之道，全面深入地剖析當(dāng)前網(wǎng)絡(luò)平臺(tái)存在的算法亂象，期望能進(jìn)一步引發(fā)各界對(duì)算法合理運(yùn)用與有效治理的關(guān)注與思考，助力構(gòu)建健康、有序、向善的網(wǎng)絡(luò)生態(tài)環(huán)境。

本篇為“算法治理”特稿第二篇。

《科創(chuàng)板日?qǐng)?bào)》12月10日訊（記者 張洋洋） 有關(guān)算法亂象和治理的討論，近期在農(nóng)夫山泉?jiǎng)?chuàng)始人鐘睒睒炮轟短視頻平臺(tái)對(duì)謠言不作為導(dǎo)致其被攻擊，四部門聯(lián)合開展網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理專項(xiàng)行動(dòng)，達(dá)到了高潮。

曾在國(guó)內(nèi)一家頭部互聯(lián)網(wǎng)公司擔(dān)任金融業(yè)務(wù)算法總監(jiān)的王耀（化名），在后來(lái)的跳槽的過(guò)程中，拒絕了一家信貸企業(yè)高薪拋來(lái)的橄欖枝。

“他們算法落地的業(yè)務(wù)場(chǎng)景主要就是催收，這會(huì)有一定的道德壓力?！蓖跻嬖V《科創(chuàng)板日?qǐng)?bào)》記者。當(dāng)算法介入業(yè)務(wù)，實(shí)施算法的人需要根據(jù)商業(yè)目標(biāo)去做優(yōu)化。這意味著算法是以商業(yè)利益為導(dǎo)向，而不能以實(shí)施者的喜惡或道德標(biāo)準(zhǔn)為準(zhǔn)繩。

王耀說(shuō)，部分被催收者本身已是金融營(yíng)銷的受害者，再用算法去做這類工作，他覺(jué)得是“道德包袱”。但他也不可能與企業(yè)的商業(yè)目標(biāo)對(duì)抗，將公司利益優(yōu)先的算法變成有道德的算法，畢竟“我的道德不是別人的道德”。

王耀將算法導(dǎo)致的負(fù)面影響，總結(jié)為平臺(tái)商業(yè)目標(biāo)導(dǎo)致的“系統(tǒng)冷漠”。

在平臺(tái)內(nèi)，商業(yè)利益最后會(huì)轉(zhuǎn)化成員工的KPI考核，實(shí)施算法的人更要緊的是完成商業(yè)目標(biāo)而無(wú)暇顧他。而無(wú)論是對(duì)算法的治理還是用于治理的算法，對(duì)商業(yè)組織是一種成本投入，這與平臺(tái)的商業(yè)目標(biāo)間存在商業(yè)邏輯上的背離。

我國(guó)的算法治理自2021年開始，三年來(lái)，相關(guān)法律法規(guī)不斷完善。這期間各項(xiàng)政策措施陸續(xù)出臺(tái)，王耀早已習(xí)慣了算法的治理。對(duì)于四部門最新的算法治理專項(xiàng)行動(dòng)，王耀等業(yè)內(nèi)人士認(rèn)為至少“游戲規(guī)則定下來(lái)了”，監(jiān)管治理總是會(huì)讓算法朝著良性方向發(fā)展。

▍工具還是 “操控者”？

從瀏覽器搜索結(jié)果到醫(yī)療服務(wù)，從推薦內(nèi)容并在一定程度上影響用戶審美趣味和消費(fèi)行為，從金融投顧到實(shí)行投資決策在極短的時(shí)間內(nèi)賺錢或賠錢，算法——解決問(wèn)題或完成任務(wù)的指令集——如今已經(jīng)應(yīng)用在現(xiàn)實(shí)生活中的方方面面。

與生活息息相關(guān)的另一面則是，如今談?wù)撍惴ǎS之而來(lái)的也包括大數(shù)據(jù)殺熟、信息繭房、誘導(dǎo)沉迷等負(fù)面議題。

以推薦內(nèi)容為例，批評(píng)者將負(fù)面后果歸因于，算法在不為公眾可見(jiàn)的背后“操縱”，放大或掩蓋某些審美趣味、影響用戶的消費(fèi)選擇，從而導(dǎo)致過(guò)度沉迷和“信息繭房”等負(fù)面作用。

作為一項(xiàng)技術(shù)，算法并不是一開始就是眾矢之的的。

章駿（化名）曾在國(guó)內(nèi)頭部物流企業(yè)擔(dān)任算法工程師，至今仍在算法一線從業(yè)。

作為從業(yè)者，章駿提到，算法產(chǎn)生的功能包含多種，如圖像識(shí)別、商品推薦、信息推薦等。以算法推薦信息為例，其最初是信息過(guò)濾的工具，在互聯(lián)網(wǎng)高速發(fā)展時(shí)期，信息爆炸的時(shí)代，起到注意力聚焦的作用。

“但在后來(lái)解決問(wèn)題的過(guò)程中，從業(yè)者發(fā)現(xiàn)調(diào)一下指標(biāo)或者參數(shù)，就能更好的讓客戶留在軟件里?！闭买E說(shuō)，對(duì)于公司而言，引流或者做利潤(rùn)都是它的核心KPI，以業(yè)務(wù)為導(dǎo)向的話，就會(huì)驅(qū)使算法去優(yōu)化，往留存用戶等方向做迭代。

章駿有一段從業(yè)經(jīng)歷是在一家互聯(lián)網(wǎng)公司，他說(shuō)，那時(shí)候公司每年要花上億資金購(gòu)買數(shù)據(jù)，這些數(shù)據(jù)包括用戶的個(gè)人數(shù)據(jù)、行為數(shù)據(jù)等，算法要做的，就是對(duì)這些數(shù)據(jù)進(jìn)行分析，最后進(jìn)行推送。

章駿還有一段經(jīng)歷是一家外賣平臺(tái)。他舉了個(gè)例子，具體的算法優(yōu)化，此時(shí)要做的就是給用戶分組，做用戶畫像，比如哪些是價(jià)格敏感型，哪些是高客單價(jià)，這樣即便是同一個(gè)地區(qū)，甚至是同一個(gè)學(xué)校的兩個(gè)人，被推送的商品都是不一樣的。

當(dāng)一個(gè)公司能夠捕捉到用戶大量行為和數(shù)據(jù)，并且?guī)?lái)巨大的利潤(rùn)，行業(yè)會(huì)自然而然的往這個(gè)方向走。在章駿看來(lái)，算法的應(yīng)用深入，是互聯(lián)網(wǎng)行業(yè)這十幾年高速發(fā)展的商業(yè)自驅(qū)性行為。

“作為一項(xiàng)工具，算法本身是中立的，只是一些業(yè)務(wù)上的目標(biāo)設(shè)置跟數(shù)據(jù)來(lái)源，會(huì)影響到它最后的行為結(jié)果?！彼f(shuō)。

▍商業(yè)自驅(qū)下的“系統(tǒng)冷漠”

算法從一個(gè)專業(yè)的技術(shù)概念到如今輿論爭(zhēng)議的焦點(diǎn)，大多數(shù)中國(guó)人對(duì)它的認(rèn)知經(jīng)歷了一個(gè)逐步深化的過(guò)程。2020年的《外賣騎手，困在系統(tǒng)里》一文，讓算法問(wèn)題真正意義進(jìn)入到公眾視野并使其成為眾矢之的。關(guān)于算法的各項(xiàng)監(jiān)管政策，也在此之后逐步出臺(tái)。

在四部門最新的算法專項(xiàng)整治行動(dòng)當(dāng)中，重點(diǎn)整治的問(wèn)題有，“信息繭房”誘導(dǎo)沉迷、違規(guī)操縱干預(yù)榜單炒作熱點(diǎn)、大數(shù)據(jù)“殺熟”、盲目追求利益侵害新就業(yè)形態(tài)勞動(dòng)者權(quán)益、算法向上向善服務(wù)缺失侵害用戶合法權(quán)益等。

上述曾在國(guó)內(nèi)一家頭部互聯(lián)網(wǎng)公司擔(dān)任金融業(yè)務(wù)算法總監(jiān)的王耀把算法導(dǎo)致的上述系列問(wèn)題，總結(jié)為商業(yè)目標(biāo)導(dǎo)致的“系統(tǒng)冷漠”。

這里的“冷漠”，一方面是員工考核的KPI壓力?！霸谏虡I(yè)組織里的算法員工，他工作的優(yōu)化的目標(biāo)可能是點(diǎn)擊，可能是存留，也可能是用戶的互訪，他無(wú)暇顧及其他，比如復(fù)核平臺(tái)的內(nèi)容是否符合事實(shí)?！?/p>

另一種“冷漠”來(lái)自平臺(tái)與依賴平臺(tái)獲取流量的人之間的博弈。平臺(tái)需要用戶帶來(lái)流量帶來(lái)點(diǎn)擊活躍生態(tài)，但與此同時(shí)，如果這些用戶生產(chǎn)的內(nèi)容是劣質(zhì)的，點(diǎn)擊都是低效率的，帶不來(lái)真正的用戶停留和用戶聯(lián)系，甚至違法亂紀(jì)，平臺(tái)又需要去處理低質(zhì)內(nèi)容。

王耀將此形容為，平臺(tái)就像開了一個(gè)集市，用戶來(lái)“擺攤”，平臺(tái)還得維護(hù)秩序，謹(jǐn)防“假冒偽劣”，以確保每一個(gè)擺攤的用戶都是“良心商家”。

“但平臺(tái)的優(yōu)先項(xiàng)是盡可能做大總銷量，清除假冒偽劣并不是它的核心KPI”。王耀說(shuō)，在互聯(lián)網(wǎng)行業(yè)，如今業(yè)務(wù)的比拼已是汪洋紅海，流量涉及真金白銀的收入，包括算法在內(nèi)的各種治理是成本投入，這是一種商業(yè)邏輯上的背離，所以另一種“冷漠”的情況就會(huì)出現(xiàn)。

盡管如此，在當(dāng)前的互聯(lián)網(wǎng)平臺(tái)內(nèi)部，算法也不能沒(méi)有底線。

王耀說(shuō)，最基本的合規(guī)要求，比如金融產(chǎn)品不允許承諾收益，不允許有一定的漲跌預(yù)測(cè)等。在內(nèi)容平臺(tái)，大型企業(yè)也會(huì)配備專門的內(nèi)容安全算法團(tuán)隊(duì)，且規(guī)模不小，對(duì)違法亂紀(jì)問(wèn)題進(jìn)行審核。一部分企業(yè)如今還會(huì)越來(lái)越重視ESG（環(huán)境、社會(huì)和公司治理），這也是公司重視內(nèi)部治理的一種。

▍“游戲規(guī)則定下來(lái)了”

我國(guó)的算法治理自2021年開始，當(dāng)時(shí)國(guó)家互聯(lián)網(wǎng)信息辦公室、中央宣傳部、公安部等九部委聯(lián)合印發(fā)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》（下稱《指導(dǎo)意見(jiàn)》）。

按照上述《指導(dǎo)意見(jiàn)》，我國(guó)將利用三年左右時(shí)間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。

三年來(lái)，相關(guān)法律法規(guī)不斷完善，然而公眾對(duì)算法的感知與治理要求之間仍存較大差距。

對(duì)于四部門最新的《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專項(xiàng)行動(dòng)的通知》，作為從業(yè)者的王耀和章駿均認(rèn)為對(duì)行業(yè)來(lái)講是好事，“至少把游戲規(guī)則定下來(lái)了” 。

根據(jù)這次專項(xiàng)行動(dòng)安排，有關(guān)部門將在2025年1月底評(píng)估企業(yè)自查自糾情況。2025年2月14日前完成專項(xiàng)行動(dòng)實(shí)施成效總結(jié)，“全面評(píng)估《指導(dǎo)意見(jiàn)》印發(fā)以來(lái)的算法治理舉措及取得的積極成效，深入分析難點(diǎn)問(wèn)題，制定今后一段時(shí)期的務(wù)實(shí)舉措”。

在互聯(lián)網(wǎng)行業(yè)多年，見(jiàn)證《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等政策陸續(xù)出臺(tái)實(shí)施，對(duì)于涉及算法的各項(xiàng)治理規(guī)定，王耀說(shuō)他已經(jīng)“習(xí)慣了”。

怎么樣才是一個(gè)好的算法？算法的底線是什么？王耀說(shuō)，現(xiàn)在還很難達(dá)成“好算法”的共識(shí)，或者說(shuō)算法的“好”無(wú)法限定為一個(gè)單一目標(biāo)。

“各平臺(tái)調(diào)性不同，利益標(biāo)準(zhǔn)不一，只要在遵守好監(jiān)管的準(zhǔn)則前提下，從不同角度出發(fā)優(yōu)化的算法準(zhǔn)則，反而能讓算法不在單一的方向跑出公序良俗的邊界，比如既要有提升活躍用戶活躍的目標(biāo)，也要有提升用戶體驗(yàn)的目標(biāo)，還要有保障內(nèi)容質(zhì)量和合規(guī)性的底線要求等?！?/strong>