2024年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會19日啟幕。峰會的主題是“擁抱以人為本、智能向善的數(shù)字未來——攜手構(gòu)建網(wǎng)絡空間命運共同體”，充分體現(xiàn)出更加聚焦人工智能技術(shù)、產(chǎn)業(yè)發(fā)展及其對人類經(jīng)濟社會的影響，及時回應各方對人工智能發(fā)展與治理的關(guān)切。

人工智能的迅猛發(fā)展正促進一些經(jīng)濟形態(tài)的顛覆式變革，催生了不少新業(yè)態(tài)，而這一趨勢預計會越來越強烈；同時，人工智能的迅猛發(fā)展又帶來了被濫用甚至被“惡用”的風險。這也是本次峰會強調(diào)“智能向善”的重要背景和原因。

人工智能“為惡”的情況已屢見不鮮。其中包括：人工智能已成為電信詐騙領(lǐng)域最兇險的手段，被人工智能“賦能”后的電信詐騙行為有可能成為全球最具危害性的有組織犯罪之一；通過變臉、變音等技術(shù)手段編造視頻對人格權(quán)的侵犯等。

人工智能可能帶來的各種風險和復雜挑戰(zhàn)，是全球當前面臨的共同課題。而對于人工智能領(lǐng)域如何“揚善除惡”，國際社會也正在抓緊立法立規(guī)。

去年8月15日，我國國家網(wǎng)信辦、發(fā)改委等多部門共同制定的《生成式人工智能服務管理暫行辦法》（下稱《暫行辦法》）正式施行。這是我國現(xiàn)階段促進生成式人工智能健康發(fā)展和規(guī)范應用的重要法規(guī)。這既是促進生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務風險的現(xiàn)實需要。國際上，今年6月，歐盟制定的《人工智能法案》開始生效。

但面對人工智能迅猛發(fā)展帶來的各種未知挑戰(zhàn)，相關(guān)的立法立規(guī)工作還需不斷完善。在《暫行辦法》施行之后，多位全國人大代表在今年全國人大會議期間又提出了關(guān)于制定人工智能法的議案。議案認為，《暫行辦法》仍不能較全面涵蓋人工智能所引發(fā)的各類問題，不足以做好與現(xiàn)行法律的銜接工作，建議對人工智能發(fā)展和崛起所導致的各類法律問題開展立法研究，適時制定人工智能法。

今年5月全國人大常委會公布的2024年度立法工作計劃將“人工智能健康發(fā)展等方面的立法項目”列入預備審議項目。同月國務院公布的2024年度立法工作計劃中，也明確了預備提請全國人大常委會審議人工智能法草案。這都表明我國正在加快人工智能領(lǐng)域的立法進程。

相關(guān)立法應該有引導人工智能“向善”的基本要求。以人工智能發(fā)展要符合倫理為基本要求，以加大對公眾的人格權(quán)、財產(chǎn)權(quán)等的保護為實現(xiàn)途徑。

我國早在2021年9月印發(fā)的《新一代人工智能倫理規(guī)范》中就明確提出，人工智能特定活動應遵守的倫理規(guī)范包括管理規(guī)范、研發(fā)規(guī)范、供應規(guī)范和使用規(guī)范，從而建構(gòu)起人工智能全生命周期的倫理道德體系。其后又有《關(guān)于加強科技倫理治理的意見》及上述《暫行辦法》等相繼發(fā)布，其中都將倫理作為重要一環(huán)。

倫理方面強有力約束的缺失，會導致人工智能應用方面侵犯人格權(quán)、財產(chǎn)權(quán)。

大型生成式人工智能模型主要依據(jù)既有文本、圖像、音頻、視頻等生成輸出產(chǎn)品，如果這些輸出的信息是虛假的，就可能導致對他人名譽權(quán)等人格權(quán)的侵害。伴隨著這些侵害又可能帶來對財產(chǎn)權(quán)的侵害。今年4月，北京互聯(lián)網(wǎng)法院一審開庭宣判全國首例AI生成聲音人格權(quán)侵權(quán)案，其中就既有對人格權(quán)的侵害，也有對包括收益權(quán)在內(nèi)的財產(chǎn)權(quán)的侵害。此案一審判決已經(jīng)發(fā)生法律效力。

總之，人工智能被廣泛應用的時代正在到來，而人工智能技術(shù)和應用在治理層面遇到的挑戰(zhàn)也正日益加劇，相關(guān)領(lǐng)域的立法需求日益緊迫。立法應該將人們普遍關(guān)心的倫理規(guī)范作為總體要求，對已經(jīng)暴露出的侵犯人格權(quán)、財產(chǎn)權(quán)等方面加強規(guī)范，從而進一步體現(xiàn)出鼓勵人工智能積極向善的立法方向。