在人工智能與數字倫理論壇上，嘉賓暢談以人為本、科技向善——

                                                                                                                                                                要智能，更要智慧

       作為新一輪科技革命和產業變革的代表，人工智能正與實體經濟、社會生活深度融合，使整個社會生產力和效率大幅提升。如何促進安全可信可控的人工智能技術研發與應用場景？國際社會要構建怎樣的合作機制，確保人工智能始終朝著以人為本、科技向善的方向健康發展？

       11月10日下午，2022年世界互聯網大會烏鎮峰會最后一場分論壇——人工智能與數字倫理論壇舉行，與會中外嘉賓圍繞“人工智能的產業方向與倫理取向”展開討論。

       做負責任的人工智能

       論壇現場，中國美術學院院長高世名講述了一個故事：中國美院三名本科生創作了一幅科幻作品《無限分之一》，設定三名年輕人接受生命冷凍實驗，陷入長久沉睡，幾百年后被喚醒。在那個未來世界，人類上傳了所有知識和記憶，形成了一個“共腦”。

       于是，這些21世紀的來客面臨命運的選擇：是否融入“共腦”？

       故事引發了大家深思。“這個全體人類的智慧集合，帶來的不是新的突破，而是創新能力的喪失和永久的停滯。”高世名說，這件作品提醒我們，各種微觀、宏觀的增強技術正逐漸把我們改造為“新人”，人的危機正以前所未有的壓迫感呈現在我們面前。

       對人工智能帶來的風險，與會嘉賓都談到了治理的迫切性。清華大學人工智能研究院名譽院長、中國科學院院士張鈸拋出了“做負責任的人工智能”觀點。他說，早在人工智能誕生之前，美國科幻小說家阿西莫夫就提出機器人發展中可能存在的倫理風險，“無論是有意的濫用、還是無意的濫用，都要重視，我們必須對人工智能的研究、開發、使用進行嚴格評估和科學監管。”

       之江實驗室主任、中國人工智能產業聯盟副理事長朱世強也談到了“負責任”這個詞。“人工智能、數字技術是我們重要的發展方向，我們也在做負責任的科研。”他展示了一張之江實驗室預防人工智能危害社會的技術圖譜，吸引嘉賓紛紛拍照。

       之江實驗室從研發主體、使用者、管理主體三個方面，對未來人工智能可能產生的負面情況進行了系統梳理。朱世強對此的態度是“張弛有度”，“人工智能是人類智能在機器領域的延伸，真正的主動權仍然掌握在人的身上，技術沒有原罪，如何應用好技術才至關重要。”

       構建數字倫理規則迫在眉睫

       在討論中，與會嘉賓普遍認為，面對人工智能，既不能回避技術發展帶來的各類安全風險和倫理挑戰，也不能以鄰為壑，人為設置“小高墻”。

       那么，我們該如何與人工智能友好相處？

       全國人大憲法和法律委員會副主任委員江必新認為，要構建一個合理規范的數字倫理規則，“我們不能制約技術的發展，那就通過制定一套倫理規則來進行自我約束。”

       江必新說，人們要對人工智能達成一種基本共識，比如能增進人類福祉、透明互信、美美與共，這是人類對真善美的追求，也是對人工智能向上向善的期望。

       試想一下，如果聽什么歌、想去哪里，都能用你的語音進行操控，上了車能用自己的聲音直接導航……人工智能帶來的這些“紅利”，讓我們從簡單重復的勞動中解放出來，做更多有價值、有創意的工作，是件十分美好的事。但人工智能再先進，如果不安全就會漏洞百出，“先進”也就失去了意義。

       說起當下老百姓關心的應用風險，科大訊飛股份有限公司高級副總裁、科大訊飛華南人工智能研究院董事長杜蘭認為，一是個人數據安全與隱私保護問題，二是利用人工智能實施詐騙、造謠等違法犯罪行為，“針對這些風險，我們要有針對性地依法打擊，建議更多權威機構牽頭搭建常態化公共演練平臺，讓大家通過演練，不斷提高打擊技術犯罪的能力。”

       如何讓人工智能更可信可靠，嘉賓討論熱烈。卡巴斯基首席技術官安通·伊萬諾夫說，對人工智能的變革性潛力，我們的認識才剛剛開始，“雖然我們不能阻止惡意行為者使用這些技術，但我們可以嘗試預見潛在問題，卡巴斯基已起草了一份針對仿生設備的安全政策，目的就是減輕在辦公室使用仿生設備可能造成的網絡安全風險，人工智能也是如此。”

       推動人工智能賦能美好生活

       從技術上說，人工智能分為運算智能、感知智能、認知智能三個階段——運算智能讓機器能存會算；感知智能讓機器像人一樣能聽會說、能看會認、能跑會跳；認知智能讓機器能理解、會思考。

       世界工程組織聯合會前任主席、中國新一代人工智能發展戰略研究院執行院長龔克認為，我們現在面臨的數字倫理問題，并不是人工智能過于強大而產生的，恰恰是因為人工智能不夠強大、不夠完善才會產生。

       “技術和法規要相輔相成、互相配合。光有法律法規還不夠，更多的數字倫理問題要靠技術的發展和完善去解決。”龔克說。

       對此，阿里巴巴安全部智能算法負責人、阿里巴巴集團科技倫理治理委員會執行主席薛暉也有一致的看法。薛暉說：“數字倫理治理是一門跨學科的智力密集和需要多方協同的復雜問題。以深度學習為代表的人工智能技術當前依然存在瓶頸和局限，很難想象憑一家企業、一個機構或一所高校能獨立完成，因此探索更強大、更通用的人工智能，我們要花上一代人甚至幾代人的努力。”

       朱世強認為，雖然人工智能已在圍棋、蛋白質測序等領域遠高于人的個體能力，但在綜合智能上仍處在初級發展階段、是一個弱人工智能，“如果技術的進步和其成熟后的大量應用對現有社會治理、生產關系構成挑戰的事實不能避免，那社會一定會需要一種技術變革，在變革后又調整到一種新的平衡狀態，進入一個新的文明階段。”

       針對很多人關心的，人工智能會不會取代文學創作、相親、高考等，多位嘉賓都表示“不會”。他們說，未來比人更強大的不是人工智能，而是掌握了人工智能的新人類，我們要去做讓生活變得更美好的人工智能。