數(shù)字經(jīng)濟時代，科技企業(yè)需要謹慎對待自身技術(shù)能力及影響力，對科技創(chuàng)新的邊界時刻保持警醒。前段時間，阿里巴巴集團首席技術(shù)官程立在2022世界人工智能大會上發(fā)表了題為“科技公司的技術(shù)創(chuàng)新和責(zé)任擔(dān)當”的主題演講，以下為演講全文。
01數(shù)字大科技時代的科技倫理
相信大家和我一樣都深有體會，數(shù)字科技的快速發(fā)展，讓我們進入了一個真正的大科學(xué)時代。大數(shù)據(jù)技術(shù)成為一個新的科研范式，廣泛應(yīng)用在生物、材料、物理等很多方面，把過去不怎么相關(guān)的科學(xué)門類連成了一個整體。這帶來了兩個大的影響：
第一，技術(shù)可能會對人的身體、思想產(chǎn)生影響，人本身的概念在科技時代下出現(xiàn)了挑戰(zhàn)。
第二，科技對于產(chǎn)業(yè)產(chǎn)生了全面深入的影響，數(shù)字世界和物理世界、生物世界高度融合。
這些都給整個社會帶來了很多新的問題。拿一輛車來打個比方，如果說科技創(chuàng)新是發(fā)動機和油門，那科技倫理就是方向盤、安全帶和剎車。在車速低的時候安全帶、剎車可能不那么重要，但是車速高的時候，方向盤、剎車和安全帶的重要性就非常凸顯了。科技企業(yè)必須非常重視科技倫理，把科技倫理作為技術(shù)發(fā)展的一個非常重要的方向考慮。
阿里巴巴在進行科技創(chuàng)新的同時，也一直在思考科技倫理對我們的影響，對整個社會的影響。我們認為，首先要擺正態(tài)度，才能夠真正把科技倫理這件事情落到實處。
第一是求真務(wù)實，面對新問題的時候，要去解決具體的問題，必須求真務(wù)實而不是空談；第二是知行合一，做的和說的必須一致；第三要有敬畏之心，不要簡單地用過去的想法去理解和處理問題，必須不斷調(diào)整自己，要用全新的視角去思考，要時時自??；過程當中企業(yè)必須非常開放，自律和他律結(jié)合。
我在阿里15年，也見證了集團在這個方向思考越來越深入的過程。
早期阿里技術(shù)團隊的價值觀是技術(shù)創(chuàng)造新商業(yè)，那時候的思考重點是技術(shù)如何給商業(yè)帶來不一樣的創(chuàng)新點，商業(yè)創(chuàng)新是我們認為可以對社會產(chǎn)生的價值。
繼續(xù)下來，我們發(fā)現(xiàn)，科技不僅能通過商業(yè)為社會創(chuàng)造價值，同時也能夠幫助解決很多大家關(guān)注的社會問題。所以我們把科技和公益，特別是和“人人三小時”公益相結(jié)合，每一位阿里巴巴工程師都會想辦法用科技去解決社會上有價值的問題。比如讓所有人都能平等享受科技便利的“信息無障礙”，向青少年提供科學(xué)系統(tǒng)的毒品預(yù)防教育知識的“青驕第二課堂”；和公安部合作的兒童失蹤信息緊急發(fā)布平臺。
隨著平臺責(zé)任越來越大，我們提出了“人人受益、責(zé)任擔(dān)當、人人共享”的好科技概念。我們的科技團隊開始更多地參與綠色低碳相關(guān)的技術(shù)創(chuàng)新，參與到鄉(xiāng)村振興技術(shù)官的項目里，為鄉(xiāng)村提供更有力的技術(shù)人才支撐，助力社會去解決更廣范圍的一些問題。
作為一家企業(yè)，我們關(guān)心的不僅是客戶，還有整個社會、環(huán)境和未來。我們希望用好科技去托起阿里巴巴作為一家有責(zé)任的好公司的未來。
前段時間，阿里巴巴正式發(fā)布了新的ESG報告，涵蓋“修復(fù)綠色星球”“支持員工發(fā)展”“服務(wù)可持續(xù)的美好生活”“助力中小微企業(yè)高質(zhì)量發(fā)展”“助力社會包容和韌性”“推動人人參與的公益”和“構(gòu)建信任”七個方向?？萍挤较蚝涂萍紓惱硪彩侵芜@7個方向做好的重要基礎(chǔ)。
02阿里巴巴的科技倫理準則
在科技倫理的治理上，我們提出了“以人為本、普惠正直、安全可靠、隱私保護、可信可控、開放共治”六大準則。
這其中，最重要的是以人為本的價值主張，這一點也是和行業(yè)高度共識的。這背后代表著一個根本思考，當機器和人發(fā)生沖突時該怎么去選擇？我們的答案非常明確，永遠以人為中心，落到具體的業(yè)務(wù)，始終堅持以用戶為中心，以人類整體長期的福祉為目標，把對人的尊重和關(guān)懷能夠放在第一位，這是所有科技倫理準則最重要的基礎(chǔ)。
其次是兩個和科技方法相關(guān)的準則：
第一是可信可控，讓從事的科技活動和開發(fā)運營的科技系統(tǒng)具備應(yīng)有的透明度和可解釋性；讓用戶自主決定是否采納、終止和退出人工智能相關(guān)的交互和服務(wù)。我們也要努力建立起人工智能的問責(zé)機制，確保能夠在關(guān)鍵環(huán)節(jié)做到自律和自省。科技系統(tǒng)不斷往前進化和發(fā)展，只有做到可信可控，出現(xiàn)問題才能去問責(zé)、防止、解決，才能保證它未來的發(fā)展不會失控。
第二是開放共治，科技倫理是一個非常復(fù)雜的問題，對于阿里巴巴這樣的平臺企業(yè)，我們不但關(guān)心在自己內(nèi)部發(fā)生的相關(guān)問題，也同時關(guān)心整個生態(tài)內(nèi)科技倫理相關(guān)的問題。我們希望能夠建立起多方協(xié)同的合作機制，打造負責(zé)任、可持續(xù)的科技。探索建立一個開放和敏捷的治理機制，持續(xù)學(xué)習(xí)，不斷探索企業(yè)自律、行業(yè)共治與監(jiān)管規(guī)范相結(jié)合的解決方案。
接下來是三個具體的科技原則：
第一，普惠正直。阿里要高質(zhì)量發(fā)展，背后最核心的是客戶第一，是為客戶創(chuàng)造價值。這里的客戶指的是所有的利益相關(guān)者，過程中我們必須尊重和服務(wù)好全體利益相關(guān)者，避免歧視與偏見，充分尊重和幫助弱勢群體、特殊群體，并根據(jù)需要提供相應(yīng)替代方案，切實保護好相關(guān)主體的合法權(quán)益。
其次，安全可靠。阿里巴巴是一家服務(wù)數(shù)億消費者和數(shù)千萬商家的平臺公司，從公司創(chuàng)立第一天起，我們就把系統(tǒng)的安全可靠作為最重要的一個基石，這是刻在阿里巴巴技術(shù)基因里的。這要求我們在進行科技系統(tǒng)設(shè)計時，充分考慮安全、魯棒和穩(wěn)健性，減少并努力避免系統(tǒng)因缺陷或濫用而引致的對用戶的傷害，努力保證科技系統(tǒng)滿足高性能標準。
第三，隱私保護。這是必須獨立提出來、并落實到實際工作中的一個準則。必須充分尊重個人信息知情、同意等權(quán)利，依照合法、正當、必要和誠信原則處理個人信息，過程中也要充分保障個人隱私與數(shù)據(jù)安全，不得竊取、篡改和泄露個人信息，不得損害個人合法的數(shù)據(jù)權(quán)益和隱私權(quán)。
03多元協(xié)同 共同前行
準則的建立非常重要，但如何落實下去？怎樣保證不斷出現(xiàn)的技術(shù)創(chuàng)新、不斷發(fā)布的新產(chǎn)品都能夠符合這些準則？在阿里內(nèi)部，我們是這么思考和行動的：
|阿里科技倫理治理模式
圖：阿里巴巴科技倫理治理委員會成員
首先，阿里科技倫理治理模式包括了三個方面，組織層面最核心的是成立阿里巴巴科技倫理治理委員會，這是阿里巴巴科技倫理方面的最高決策機構(gòu)，由多個不同專業(yè)、不同視角的同事們共同組成委員會，一起進行科技倫理方向的制度建設(shè)和治理體系建設(shè)，對一些關(guān)鍵問題做出關(guān)鍵決策，影響所有的業(yè)務(wù)部門更好地去做科技倫理治理工作。
委員會下設(shè)四個工作組：科技組，負責(zé)可用可靠可信可控方面技術(shù)的研究和產(chǎn)品工具建設(shè)；倫理組，負責(zé)科技倫理相關(guān)的理論&政策研究；治理組，圍繞科技倫理相關(guān)的重點領(lǐng)域進行評估與治理，用制度和工具，把科技倫理治理落實到日常每一個科研活動中去；傳播組，把科技倫理的準則、文化、意識落實到團隊里去，讓阿里巴巴每一位工程師、每一位技術(shù)同學(xué)都要了解和認同科技倫理治理的準則，并且能夠把它運用到工作里去。
圖：阿里巴巴科技倫理治理顧問委員會成員
同時我們意識到，光靠自己的視角去做還不夠，還需要引入外部視角，引入外部監(jiān)督機制，所以我們還成立了阿里巴巴科技倫理治理顧問委員會，引入7位行業(yè)頂尖專家擔(dān)任顧問委員，對科技倫理問題給出相應(yīng)指導(dǎo)，共同探討前沿問題。這是阿里巴巴科技倫理治理最核心的兩個組織。特別感謝各位老師成為科技倫理治理委員會的一員，幫助阿里巴巴在科技方面想得更遠、做得更實。
在職能方面，這兩個組織會從四個方向入手進行具體治理，包括數(shù)據(jù)合規(guī)和倫理治理、算法合規(guī)和倫理治理、技術(shù)的合規(guī)和倫理治理、以及針對特定行業(yè)相關(guān)的合規(guī)和倫理治理。
|阿里科技倫理治理機制
在治理方法上，我們正在建立相應(yīng)的科技倫理分級制度和具體落地執(zhí)行的規(guī)范。按照分類分級管理、個案專家研判、類案參照治理、不斷校驗迭代的方式，讓更多參與者加入到科技倫理治理中，及時識別風(fēng)險、進行有效管控，在實踐中優(yōu)化治理，以適應(yīng)技術(shù)發(fā)展與外部環(huán)境變化。
其中，很重要的是需要建立一個能夠發(fā)現(xiàn)和沉淀use case的機制。問題出現(xiàn)之后，我們將采用分級分類方式，推進快速判斷，高風(fēng)險上升到科技倫理治理委員會進行決策。
過程中所有的典型案例，我們都會積累沉淀，指導(dǎo)后續(xù)的同類場景，同時結(jié)合技術(shù)和法律政策變化，不斷更新迭代，讓治理變得更加清晰。
|阿里科技倫理風(fēng)險能力建設(shè)
在行動上，委員會重點著手風(fēng)險能力建設(shè)和技術(shù)能力建設(shè)。風(fēng)險能力建設(shè)，包括建設(shè)算法評估、風(fēng)險檢測、干預(yù)機制的全生命周期風(fēng)險管理流程，以及技術(shù)安全性、魯棒性、公平性、可解釋與可干預(yù)性等科技倫理審查和治理工具?，F(xiàn)階段我們會特別關(guān)注和算法相關(guān)、風(fēng)險檢測相關(guān)、干預(yù)機制建設(shè)相關(guān)的，所有能力建設(shè)必須產(chǎn)品化形成相應(yīng)的平臺，包括數(shù)據(jù)合規(guī)監(jiān)測的平臺，魯棒性的訓(xùn)練平臺，安全掃描監(jiān)測、多維度主動風(fēng)險識別、用戶反饋、風(fēng)險大盤。
技術(shù)能力建設(shè)，包括增加在隱私保護、安全可靠、可信可控等關(guān)鍵方向前沿技術(shù)的布局和探索。例如大幅降低了隱私保護計算技術(shù)開發(fā)與部署難度的FederatedScope技術(shù)，能夠解決數(shù)據(jù)可用不可見的安全多方計算平臺Cheetah。對于一些新涌現(xiàn)的深度合成問題，我們也有一些創(chuàng)新的技術(shù)方案。通過核心技術(shù)的突破，在更高水平上解決科技倫理的問題。
溫馨提示：為確保留言的有效性，請您填寫真實的公司名稱和聯(lián)系方式
晉公網(wǎng)安備14019202000635號