給“AI孫燕姿”設三道監(jiān)管門檻

    謝若琳

    “AI孫燕姿”一夜間走紅。在某視頻平臺，這位虛擬歌手翻唱的《發(fā)如雪》累計播放超221萬次。如果不是明確標注，連歌迷都很難分清“真假孫燕姿”。一系列連鎖反應正在發(fā)生：在各大視頻平臺，明星AI翻唱的教學視頻遍地開花，復制明星聲音、肖像的門檻被進一步拉低。

    “真假孫燕姿”讓現(xiàn)實世界和AI世界的邊界越來越模糊，知識產(chǎn)權和市場監(jiān)管問題也接踵而至。

    首先是防侵權。據(jù)不完全統(tǒng)計，“AI孫燕姿”已經(jīng)翻唱了超過1000首作品，這一數(shù)量遠超出孫燕姿本人作品的總和。一方面，“AI孫燕姿”涉嫌侵犯現(xiàn)實孫燕姿的權益。有律師指出，在《民法典》里，對聲音的保護是參照肖像權保護進行的，而對肖像權保護有明確的規(guī)定——那就是不允許進行偽造；另一方面，涉及著作權的問題，翻唱作品中包含大量未經(jīng)授權的歌曲，超出了法律中“合理使用”的范疇。

    如何界定侵權以及如何懲罰侵權，有待監(jiān)管部門和行業(yè)專家加強調研，提出有效方法。

    其次是防詐騙。近期，內蒙古包頭市公安局偵破了一起使用AI智能技術進行詐騙的案件，受害者認不清對方是AI臉還是真人臉，居然10分鐘被騙走430萬元。網(wǎng)友紛紛支招視頻通話時“怎么證明我是我”，也成為一時奇談。

    如何在不打擊新技術發(fā)展的前提下嚴格監(jiān)管，成為當下社會面臨的問題。

    筆者認為，對待AI生成的內容，不管是模仿生成的，還是完全新創(chuàng)作的，都應該壓實生產(chǎn)發(fā)布者、平臺管理者的責任，完善監(jiān)管措施。

    一是，凡是利用生成式人工智能生產(chǎn)制作的產(chǎn)品，都應向公眾公開聲明，進行明確標注。參考《廣告法》中“廣告應當具有可識別性，能夠使消費者辨明其為廣告”的要求，AI生成的內容，包括圖片、文字、視頻、音頻等，都應明確標注“AI生成”，不標注即為違法。

    同時，進一步強化平臺審核責任和管理責任，明確處罰措施，實行日常監(jiān)督檢查，接受公眾舉報，對違規(guī)的發(fā)布者、平臺予以懲戒。

    二是，提高AI內容發(fā)布的門檻，發(fā)布者必須提供真實身份信息，對于可能存在的“異地登陸”“大額轉賬”等風險行為，設置警示提醒機制，觸發(fā)警戒時平臺可以自動切斷服務。同時，應建立用戶投訴接收處理機制，全方位杜絕濫用AI技術的行為。

    三是，嚴格規(guī)范企業(yè)對用戶個人信息的保護，出臺加密算法標準，對使用后的信息存儲和銷毀程序進行監(jiān)管，織密織牢安全防護網(wǎng)。防止盜用他人個人信息用于AI產(chǎn)品生產(chǎn)。

    誘進以仁義，束縛以刑罰。AI正在飛速進化，我們要迎風而上，用好新工具，使其為經(jīng)濟社會發(fā)展服務。同時，要從技術、法律、倫理等方面立好規(guī)矩，與時俱進完善監(jiān)管。

    4月11日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布的《生成式人工智能服務管理辦法（征求意見稿）》（簡稱《管理辦法》）明確提出“利用生成式人工智能生成的內容應當真實準確，采取措施防止生成虛假信息”。這為加強AI生成內容管理提供了基本遵循，希望相關措施進一步細化，并加快出臺。