在人工智能與數(shù)字倫理論壇上，嘉賓暢談以人為本、科技向善——

                                                                                                                                                                要智能，更要智慧

       作為新一輪科技革命和產(chǎn)業(yè)變革的代表，人工智能正與實(shí)體經(jīng)濟(jì)、社會(huì)生活深度融合，使整個(gè)社會(huì)生產(chǎn)力和效率大幅提升。如何促進(jìn)安全可信可控的人工智能技術(shù)研發(fā)與應(yīng)用場(chǎng)景？國(guó)際社會(huì)要構(gòu)建怎樣的合作機(jī)制，確保人工智能始終朝著以人為本、科技向善的方向健康發(fā)展？

       11月10日下午，2022年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)最后一場(chǎng)分論壇——人工智能與數(shù)字倫理論壇舉行，與會(huì)中外嘉賓圍繞“人工智能的產(chǎn)業(yè)方向與倫理取向”展開討論。

       做負(fù)責(zé)任的人工智能

       論壇現(xiàn)場(chǎng)，中國(guó)美術(shù)學(xué)院院長(zhǎng)高世名講述了一個(gè)故事：中國(guó)美院三名本科生創(chuàng)作了一幅科幻作品《無(wú)限分之一》，設(shè)定三名年輕人接受生命冷凍實(shí)驗(yàn)，陷入長(zhǎng)久沉睡，幾百年后被喚醒。在那個(gè)未來(lái)世界，人類上傳了所有知識(shí)和記憶，形成了一個(gè)“共腦”。

       于是，這些21世紀(jì)的來(lái)客面臨命運(yùn)的選擇：是否融入“共腦”？

       故事引發(fā)了大家深思。“這個(gè)全體人類的智慧集合，帶來(lái)的不是新的突破，而是創(chuàng)新能力的喪失和永久的停滯。”高世名說(shuō)，這件作品提醒我們，各種微觀、宏觀的增強(qiáng)技術(shù)正逐漸把我們改造為“新人”，人的危機(jī)正以前所未有的壓迫感呈現(xiàn)在我們面前。

       對(duì)人工智能帶來(lái)的風(fēng)險(xiǎn)，與會(huì)嘉賓都談到了治理的迫切性。清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)、中國(guó)科學(xué)院院士張鈸拋出了“做負(fù)責(zé)任的人工智能”觀點(diǎn)。他說(shuō)，早在人工智能誕生之前，美國(guó)科幻小說(shuō)家阿西莫夫就提出機(jī)器人發(fā)展中可能存在的倫理風(fēng)險(xiǎn)，“無(wú)論是有意的濫用、還是無(wú)意的濫用，都要重視，我們必須對(duì)人工智能的研究、開發(fā)、使用進(jìn)行嚴(yán)格評(píng)估和科學(xué)監(jiān)管。”

       之江實(shí)驗(yàn)室主任、中國(guó)人工智能產(chǎn)業(yè)聯(lián)盟副理事長(zhǎng)朱世強(qiáng)也談到了“負(fù)責(zé)任”這個(gè)詞。“人工智能、數(shù)字技術(shù)是我們重要的發(fā)展方向，我們也在做負(fù)責(zé)任的科研。”他展示了一張之江實(shí)驗(yàn)室預(yù)防人工智能危害社會(huì)的技術(shù)圖譜，吸引嘉賓紛紛拍照。

       之江實(shí)驗(yàn)室從研發(fā)主體、使用者、管理主體三個(gè)方面，對(duì)未來(lái)人工智能可能產(chǎn)生的負(fù)面情況進(jìn)行了系統(tǒng)梳理。朱世強(qiáng)對(duì)此的態(tài)度是“張弛有度”，“人工智能是人類智能在機(jī)器領(lǐng)域的延伸，真正的主動(dòng)權(quán)仍然掌握在人的身上，技術(shù)沒有原罪，如何應(yīng)用好技術(shù)才至關(guān)重要。”

       構(gòu)建數(shù)字倫理規(guī)則迫在眉睫

       在討論中，與會(huì)嘉賓普遍認(rèn)為，面對(duì)人工智能，既不能回避技術(shù)發(fā)展帶來(lái)的各類安全風(fēng)險(xiǎn)和倫理挑戰(zhàn)，也不能以鄰為壑，人為設(shè)置“小高墻”。

       那么，我們?cè)撊绾闻c人工智能友好相處？

       全國(guó)人大憲法和法律委員會(huì)副主任委員江必新認(rèn)為，要構(gòu)建一個(gè)合理規(guī)范的數(shù)字倫理規(guī)則，“我們不能制約技術(shù)的發(fā)展，那就通過(guò)制定一套倫理規(guī)則來(lái)進(jìn)行自我約束。”

       江必新說(shuō)，人們要對(duì)人工智能達(dá)成一種基本共識(shí)，比如能增進(jìn)人類福祉、透明互信、美美與共，這是人類對(duì)真善美的追求，也是對(duì)人工智能向上向善的期望。

       試想一下，如果聽什么歌、想去哪里，都能用你的語(yǔ)音進(jìn)行操控，上了車能用自己的聲音直接導(dǎo)航……人工智能帶來(lái)的這些“紅利”，讓我們從簡(jiǎn)單重復(fù)的勞動(dòng)中解放出來(lái)，做更多有價(jià)值、有創(chuàng)意的工作，是件十分美好的事。但人工智能再先進(jìn)，如果不安全就會(huì)漏洞百出，“先進(jìn)”也就失去了意義。

       說(shuō)起當(dāng)下老百姓關(guān)心的應(yīng)用風(fēng)險(xiǎn)，科大訊飛股份有限公司高級(jí)副總裁、科大訊飛華南人工智能研究院董事長(zhǎng)杜蘭認(rèn)為，一是個(gè)人數(shù)據(jù)安全與隱私保護(hù)問題，二是利用人工智能實(shí)施詐騙、造謠等違法犯罪行為，“針對(duì)這些風(fēng)險(xiǎn)，我們要有針對(duì)性地依法打擊，建議更多權(quán)威機(jī)構(gòu)牽頭搭建常態(tài)化公共演練平臺(tái)，讓大家通過(guò)演練，不斷提高打擊技術(shù)犯罪的能力。”

       如何讓人工智能更可信可靠，嘉賓討論熱烈。卡巴斯基首席技術(shù)官安通·伊萬(wàn)諾夫說(shuō)，對(duì)人工智能的變革性潛力，我們的認(rèn)識(shí)才剛剛開始，“雖然我們不能阻止惡意行為者使用這些技術(shù)，但我們可以嘗試預(yù)見潛在問題，卡巴斯基已起草了一份針對(duì)仿生設(shè)備的安全政策，目的就是減輕在辦公室使用仿生設(shè)備可能造成的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，人工智能也是如此。”

       推動(dòng)人工智能賦能美好生活

       從技術(shù)上說(shuō)，人工智能分為運(yùn)算智能、感知智能、認(rèn)知智能三個(gè)階段——運(yùn)算智能讓機(jī)器能存會(huì)算；感知智能讓機(jī)器像人一樣能聽會(huì)說(shuō)、能看會(huì)認(rèn)、能跑會(huì)跳；認(rèn)知智能讓機(jī)器能理解、會(huì)思考。

       世界工程組織聯(lián)合會(huì)前任主席、中國(guó)新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長(zhǎng)龔克認(rèn)為，我們現(xiàn)在面臨的數(shù)字倫理問題，并不是人工智能過(guò)于強(qiáng)大而產(chǎn)生的，恰恰是因?yàn)槿斯ぶ悄懿粔驈?qiáng)大、不夠完善才會(huì)產(chǎn)生。

       “技術(shù)和法規(guī)要相輔相成、互相配合。光有法律法規(guī)還不夠，更多的數(shù)字倫理問題要靠技術(shù)的發(fā)展和完善去解決。”龔克說(shuō)。

       對(duì)此，阿里巴巴安全部智能算法負(fù)責(zé)人、阿里巴巴集團(tuán)科技倫理治理委員會(huì)執(zhí)行主席薛暉也有一致的看法。薛暉說(shuō)：“數(shù)字倫理治理是一門跨學(xué)科的智力密集和需要多方協(xié)同的復(fù)雜問題。以深度學(xué)習(xí)為代表的人工智能技術(shù)當(dāng)前依然存在瓶頸和局限，很難想象憑一家企業(yè)、一個(gè)機(jī)構(gòu)或一所高校能獨(dú)立完成，因此探索更強(qiáng)大、更通用的人工智能，我們要花上一代人甚至幾代人的努力。”

       朱世強(qiáng)認(rèn)為，雖然人工智能已在圍棋、蛋白質(zhì)測(cè)序等領(lǐng)域遠(yuǎn)高于人的個(gè)體能力，但在綜合智能上仍處在初級(jí)發(fā)展階段、是一個(gè)弱人工智能，“如果技術(shù)的進(jìn)步和其成熟后的大量應(yīng)用對(duì)現(xiàn)有社會(huì)治理、生產(chǎn)關(guān)系構(gòu)成挑戰(zhàn)的事實(shí)不能避免，那社會(huì)一定會(huì)需要一種技術(shù)變革，在變革后又調(diào)整到一種新的平衡狀態(tài)，進(jìn)入一個(gè)新的文明階段。”

       針對(duì)很多人關(guān)心的，人工智能會(huì)不會(huì)取代文學(xué)創(chuàng)作、相親、高考等，多位嘉賓都表示“不會(huì)”。他們說(shuō)，未來(lái)比人更強(qiáng)大的不是人工智能，而是掌握了人工智能的新人類，我們要去做讓生活變得更美好的人工智能。