|
上傳一張照片，就可以把歌手換成自己；一鍵制作，就可以變成視頻中的經(jīng)典角色……一段時(shí)間以來(lái)，“AI(人工智能)換臉”技術(shù)被廣泛應用于短視頻的二次創(chuàng )作，給社會(huì )公眾帶來(lái)了新鮮體驗。不少網(wǎng)友感嘆，“AI換臉”生成的視頻，惟妙惟肖，很有意思。但也有網(wǎng)友認為“AI換臉”技術(shù)存在不小的安全隱患，應當加強監管。
近日，河北石家莊一位律師在來(lái)信中反映，有的地方企業(yè)注冊需要人臉識別，易被人利用“AI換臉”技術(shù)冒名注冊，一旦發(fā)生這樣的情況，需要花費大量的時(shí)間精力去維權，“建議提升人臉識別準確性的同時(shí)，增加多種驗證方式，同時(shí)仔細審查身份證等信息。”
近年來(lái)，有不法分子為了牟利，利用“AI換臉”技術(shù)冒充熟人實(shí)施詐騙或者盜取個(gè)人信息等，侵害群眾權益。據內蒙古包頭警方通報，某公司法人代表郭先生10分鐘內被騙430萬(wàn)元，犯罪分子的詐騙手法就是通過(guò)“AI換臉”和擬聲技術(shù)佯裝熟人，盡管郭先生通過(guò)視頻聊天“核實(shí)”身份，但其“好友”卻是犯罪分子用“AI換臉”技術(shù)假冒的。
此外，“AI換臉”技術(shù)還可能侵害公民的個(gè)人信息安全甚至公共信息安全。浙江杭州蕭山區檢察院曾對一起利用“AI換臉”技術(shù)侵害公民個(gè)人信息案向杭州互聯(lián)網(wǎng)法院提起民事公益訴訟。虞某某從互聯(lián)網(wǎng)公共空間非法獲取眾多人臉信息，利用“AI換臉”等深度合成技術(shù)非法處理、制作視頻后，在社交軟件上傳播并獲利，甚至還提供換臉視頻定制服務(wù)，使不特定群體成為潛在的被侵害對象。最終，杭州互聯(lián)網(wǎng)法院認定虞某某侵害公共信息安全，還應承擔相應的民事侵權責任。
“AI換臉”技術(shù)是把雙刃劍。“在為群眾生活提供便利的同時(shí)，也將人們從真實(shí)場(chǎng)景中抽離出來(lái)，打破了‘人臉即真實(shí)’的傳統認知和社會(huì )共識，造成視覺(jué)效果失真，生物識別信息的真實(shí)性被一定程度消解，存在信息安全和人身權利被侵害的風(fēng)險。”中國社會(huì )科學(xué)院法學(xué)研究所網(wǎng)絡(luò )與信息法研究室副主任、中國法學(xué)會(huì )網(wǎng)絡(luò )與信息法學(xué)研究會(huì )常務(wù)副秘書(shū)長(cháng)周輝說(shuō)。
“從司法實(shí)踐來(lái)看，目前已有不少因‘AI換臉’生成短視頻侵犯知識產(chǎn)權或是人格權的案件進(jìn)入到訴訟程序。”北京互聯(lián)網(wǎng)法院綜合審判一庭副庭長(cháng)朱閣介紹，例如相聲、影視劇等都屬于著(zhù)作權法保護的作品，短視頻平臺用戶(hù)用“AI換臉”技術(shù)將相聲、影視劇等換臉上傳，可能面臨侵犯著(zhù)作權的法律風(fēng)險。
我國民法典將人格權獨立成編，規定任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權。“短視頻平臺未征得當事人同意，提供他人形象模板讓用戶(hù)使用‘AI換臉’技術(shù)制作圖片或視頻并發(fā)布，平臺和用戶(hù)都面臨侵犯他人肖像權的法律風(fēng)險。”朱閣提示，即使用戶(hù)基于對平臺的信賴(lài)或者已經(jīng)付費，也可能構成侵權。
根據相關(guān)規定，提供和使用生成式人工智能服務(wù)，應當尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽(yù)權、榮譽(yù)權、隱私權和個(gè)人信息權益。“‘AI換臉’等新技術(shù)本身是中性的，但應規范使用。”周輝表示，短視頻平臺等深度合成服務(wù)提供者在投入使用相關(guān)應用時(shí)，應充分考慮法律風(fēng)險和市場(chǎng)風(fēng)險，履行法律規定的顯著(zhù)標識義務(wù)，向公眾提示深度合成后果，促使技術(shù)健康合規發(fā)展。
“社會(huì )公眾既要增強個(gè)人信息特別是人臉等生物特征等信息的保護意識，同時(shí)使用新技術(shù)也要尊重他人的知識產(chǎn)權和人格權，盡到審慎的注意義務(wù)，避免陷入不必要的訴訟糾紛。”朱閣提醒。
原標題：“AI換臉”，便利背后有風(fēng)險
文章來(lái)源：http://www.ce.cn/cysc/tech/gd2012/202312/04/t20231204_38815382.shtml
|
