您的位置：首頁 >綜合 > 市場 >
李正風：算法治理正在向更綜合多元的理念和治理網(wǎng)絡(luò)發(fā)展
中新經(jīng)緯12月21日電 (薛宇飛)近日，清華大學(xué)社會科學(xué)學(xué)院社會學(xué)系、中國科學(xué)院學(xué)部-清華大學(xué)科學(xué)與社會協(xié)同發(fā)展研究中心主辦了“倫理立場、算法設(shè)計與企業(yè)社會責任”研討會，并在會上發(fā)布了《倫理立場、算法設(shè)計與企業(yè)社會責任》研究報告(下稱報告)。清華大學(xué)社會學(xué)系教授李正風在分享報告時指出，算法治理正在向更加綜合的治理網(wǎng)絡(luò)發(fā)展，強調(diào)政府、專業(yè)機構(gòu)、團體、企業(yè)及公眾共同參與的協(xié)同治理。
構(gòu)建融合百家之長的算法倫理體系
清華大學(xué)社會學(xué)系教授李正風。主辦方供圖
李正風指出，算法具有可塑性，這一方面意味著算法設(shè)計是開放的，具有創(chuàng)造和建構(gòu)的空間，但另一方面也意味著算法可能在倫理上產(chǎn)生道德真空。他說：“算法可能再現(xiàn)社會當中已有的倫理問題，尤其是掌握了大量數(shù)據(jù)并且對數(shù)據(jù)進行深度挖掘后，隱含在社會當中的倫理問題會更清晰地展現(xiàn)出來。比如，現(xiàn)在人們討論比較多的公平性問題，還有算法偏見、算法歧視、隱私保護，這些都是社會當中已存在的倫理問題，只不過是通過算法更為顯性地展現(xiàn)出來?！?/p>
除此以外，他稱，大數(shù)據(jù)時代下的算法技術(shù)，還可能帶來新的倫理問題，如主體性的喪失。人工智能技術(shù)的發(fā)展，使得人類在處理一些社會事務(wù)或者自然與機器之間的關(guān)系時，會讓渡一部分權(quán)利，影響思維和決策的自主性。這種權(quán)利讓渡可能會是在無意識情況下發(fā)生的。
對于出現(xiàn)算法倫理問題的原因，他總結(jié)為三個主要原因。一是技術(shù)本身的特點或不完備、不成熟，會導(dǎo)致不透明、不可解釋及難以問責等技術(shù)難題，進而引發(fā)倫理問題。
二是利益驅(qū)使，無論是數(shù)據(jù)還是算法產(chǎn)品，都伴隨著對市場的重新界定與分割，因此它背后隱含著巨大的利益，很多中小企業(yè)主體并不重視倫理問題，這也是誘發(fā)倫理問題的重要成因。
三是倫理意識和責任缺失，部分算法設(shè)計者、審查者自身的價值無意識與價值偏好會直接導(dǎo)致算法倫理問題。這也引導(dǎo)我們思考算法設(shè)計中的倫理立場問題。
他進一步分析稱，算法設(shè)計具有邏輯可塑性和價值選擇性。在算法的設(shè)計過程中，可以看到兩種狀態(tài)的倫理意識，一是倫理無意識，這種情況會帶來價值真空或道德真空；二是有特定的倫理立場，從倫理學(xué)上看，倫理立場大體可以分為功利論、義務(wù)論、契約論、德性論，這四種倫理立場在社會中是共存的，各自都有存在的根據(jù)，也有各自的擁護者與支持者?！艾F(xiàn)實世界對于什么是好的、什么是善的、什么是對的，是有分化、有層次的，這也是比較復(fù)雜的社會系統(tǒng)的反映?！?/p>
“這幾種不同的倫理立場是并存的，最普遍的是功利論立場，即從后果的‘善’來判斷行為的好壞。另一種常見的倫理立場是契約論，如生產(chǎn)者與消費者之間建立某種使用APP的契約。追求更廣泛的‘善’和更恰當?shù)钠跫s，會導(dǎo)致企業(yè)不斷改變自身形象。但影響社會公眾和公共利益的事件也會不斷發(fā)生，并成為重要的社會問題，需要監(jiān)管機構(gòu)對一些個體或企業(yè)的行為進行公共規(guī)制，這就涉及到義務(wù)論的倫理立場?！崩钫L還說，從算法治理角度看，新規(guī)則的生成是某種約束和引導(dǎo)，包括政府部門出臺的規(guī)制手段。更為重要的是要讓相關(guān)的行動者都能夠具有較高的倫理意識和倫理影響，就是要提高算法設(shè)計者、企業(yè)的“德性”，這就上升到德性論的倫理立場。如今，企業(yè)越來越注重社會形象和社會責任，這是非常值得肯定的。
他稱，在調(diào)研中發(fā)現(xiàn)，中國企業(yè)在算法倫理“知行合一”方面邁出了步伐。例如，字節(jié)跳動人工智能實驗室已經(jīng)在對機器學(xué)習公平性和“負責任的人工智能”的其他方面(包括但不限于可解釋性、可控性、多樣性、真實性、隱私性和魯棒性)進行技術(shù)基礎(chǔ)研究，以確保字節(jié)跳動基于機器學(xué)習的智能系統(tǒng)惠及所有用戶。
建立協(xié)同性綜合治理網(wǎng)絡(luò)
李正風指出，算法既受到人類社會價值判斷的影響，也具有價值塑造的作用。由于人的倫理價值立場具有多樣性，包括傷風敗俗、入鄉(xiāng)隨俗、公序良俗、移風易俗四個層次，且在入鄉(xiāng)隨俗層次上的人群分布最多，所以無意識、樸素的價值觀念和倫理立場往往會占據(jù)主導(dǎo)，而算法可能默認其為應(yīng)當普遍遵守的社會行為準則。
他指出，無意識、樸素的價值觀念和倫理立場占據(jù)主導(dǎo)后，會出現(xiàn)倫理責任缺失，反映到技術(shù)和社會之間的關(guān)系時，會導(dǎo)致技術(shù)的“助紂為虐”。因此，不能完全地隨波逐流，好的企業(yè)具有比較值得肯定的價值立場，會成為維護公序良俗的中流砥柱。同時，也希望算法治理能發(fā)揮更重要的作用，源清流凈，開風氣之先。
因此，算法設(shè)計需要突破傳統(tǒng)思維結(jié)構(gòu)和社會觀念，用向善的價值立場推動社會發(fā)展，促進公序良俗和新社會倫理發(fā)展?！捌髽I(yè)對于算法的依賴也好，對算法向善的強調(diào)也好，也是清醒地意識到算法不僅是一個簡單的技術(shù)，促進經(jīng)濟增長，同時也可以輔助人類實現(xiàn)更高效地治理社會，引導(dǎo)社會向著更加美好的方向發(fā)展?！崩钫L稱，倡導(dǎo)算法向善，是希望算法能負責任地賦能社會，在多元主體之間重建共同追求美好生活的信任機制。
具體到算法治理，則有不同模式，特別值得注意的是，算法治理正在向更加綜合的治理網(wǎng)絡(luò)發(fā)展。李正風介紹道，最開始是“技治主義”，強調(diào)技術(shù)維度的重要性，依靠專業(yè)機構(gòu)、人員在治理中扮演重要角色，也比較強調(diào)自治。但受技術(shù)發(fā)展不成熟和利益因素的影響，單純依靠技術(shù)維度的治理是存在一定困難的，所以，后來又發(fā)展到監(jiān)管主義，強調(diào)監(jiān)管機構(gòu)的作用。
他談道，如今，人們逐漸發(fā)現(xiàn)，無論是專業(yè)團體還是政府部門，單獨扮演監(jiān)管角色都非常困難，因此，現(xiàn)在更加強調(diào)“治理網(wǎng)絡(luò)”，強調(diào)多元主體參與的治理網(wǎng)絡(luò)，政府、專業(yè)機構(gòu)、團體、企業(yè)及公眾共同參與的協(xié)同治理。
李正風認為，建立算法向善的倫理規(guī)約，最后會落實到算法治理和企業(yè)責任上。算法產(chǎn)品的生產(chǎn)者主要是企業(yè)和政府，企業(yè)既在治理網(wǎng)絡(luò)中扮演重要角色，也是自治自律的實踐者。算法產(chǎn)品的特殊性，在于接受了消費者讓渡的部分決策權(quán)，它深刻改變了企業(yè)與消費者之間的關(guān)系，使得企業(yè)倫理責任更加重要，需要建立新型的企業(yè)-公眾的倫理治理共同體?！叭绻髽I(yè)沒有很好的倫理責任，那它提供的服務(wù)就不會被消費者所接受，這是算法產(chǎn)品本身的特殊性決定的。這個過程中要以人為本，更加尊重自主原則?！?/p>
針對企業(yè)的算法倫理治理策略，報告建議，要構(gòu)建企業(yè)算法倫理治理體系，包括建立企業(yè)算法倫理委員會，建立審查責任制和應(yīng)急反應(yīng)機制，結(jié)合企業(yè)特點制定企業(yè)算法倫理規(guī)范，同時要提升德性，加強企業(yè)員工倫理素養(yǎng)培訓(xùn)，加強國家相關(guān)法律法規(guī)宣講教育，對違反倫理規(guī)范的后果進行警示教育。(中新經(jīng)緯APP)
中新經(jīng)緯版權(quán)所有，未經(jīng)書面授權(quán)，任何公司及個人不得轉(zhuǎn)載、摘編或以其它方式使用。
