“AI換臉”損害公共利益，檢察院出手了！

　　近日

　　“AI詐騙”“AI換臉”等話題

　　頻頻登上熱搜

　　大眾對于人工智能技術(shù)的討論和關(guān)注

　　也在持續(xù)升級

　　6月9日

　　浙江省杭州市蕭山區(qū)檢察院

　　對一起利用“AI換臉”技術(shù)

　　侵犯公民個(gè)人信息的案件

　　依法向杭州互聯(lián)網(wǎng)法院

　　提起民事公益訴訟

　　2020年左右，虞某某從互聯(lián)網(wǎng)上接觸到“AI換臉”軟件及技術(shù)，并通過學(xué)習(xí)掌握了該軟件的使用方法。2021年左右開始，虞某某以牟利為目的，在未取得被編輯人同意的情況下，利用上述“AI換臉”軟件，將從互聯(lián)網(wǎng)等渠道收集到的他人人臉信息與部分淫穢視頻中的人臉信息進(jìn)行替換合成，制作生成虛假的換臉淫穢視頻，在網(wǎng)絡(luò)社交軟件上進(jìn)行傳播并獲利。截至案發(fā)，公安機(jī)關(guān)共在虞某某所組建的公開群內(nèi)查獲淫穢視頻1200余部、圖片1600余張。

　　2022年11月30日，公安機(jī)關(guān)以涉嫌傳播淫穢物品牟利罪將虞某某移送蕭山區(qū)檢察院審查起訴。該院在審查時(shí)發(fā)現(xiàn)，虞某某不僅涉嫌刑事犯罪（目前已對虞某某以制作、傳播淫穢物品牟利罪提起公訴），同時(shí)還存在損害社會(huì)公共利益的行為。

　　經(jīng)查，虞某某在使用“AI換臉”技術(shù)制作淫穢視頻的同時(shí)，還為他人提供換臉視頻定制服務(wù)，即根據(jù)客戶提供的視頻或照片，制作換臉視頻。此外，虞某某還在網(wǎng)絡(luò)社交軟件上銷售“AI換臉”軟件、提供換臉?biāo)夭牟魇谑褂媒坛獭?/p>

　　檢察機(jī)關(guān)認(rèn)為：人臉信息作為敏感個(gè)人信息，對于保障公民人身財(cái)產(chǎn)安全具有重要意義，應(yīng)當(dāng)依法受到嚴(yán)格保護(hù)。本案中，虞某某從互聯(lián)網(wǎng)公共空間非法獲取眾多人臉信息，利用“AI換臉”等深度合成技術(shù)非法處理、制作淫穢視頻后，在超過2000人的網(wǎng)絡(luò)社交軟件群組傳播，同時(shí)提供換臉視頻定制服務(wù)，使不特定群體成為潛在的被侵害對象，違反了法律法規(guī)和社會(huì)公德，混淆社會(huì)公眾認(rèn)知，污染社會(huì)風(fēng)氣，侵害了承載在不特定多數(shù)社會(huì)主體個(gè)人信息之上的公共信息安全，破壞社會(huì)公共秩序，構(gòu)成對公共信息安全領(lǐng)域的社會(huì)公共利益侵害；除此之外，虞某某在明知他人可能將“AI換臉”軟件用于侵犯個(gè)人信息等不正當(dāng)目的的情況下，仍向他人銷售“AI換臉”軟件、提供換臉?biāo)夭牟魇谑褂媒坛?，使得更多不特定主體個(gè)人信息被侵害的社會(huì)危險(xiǎn)性進(jìn)一步擴(kuò)大。

　　虞某某向買家推介“換臉”軟件

　　虞某某的行為違反了《中華人民共和國民法典》《中華人民共和國個(gè)人信息保護(hù)法》等相關(guān)法律規(guī)定，應(yīng)當(dāng)承擔(dān)相應(yīng)的民事責(zé)任。

　　在依法履行訴前公告程序、無適格主體提起訴訟請求后，蕭山區(qū)檢察院于6月9日向杭州互聯(lián)網(wǎng)法院提起民事公益訴訟，請求判令被告停止侵權(quán)，刪除持有的所有涉案個(gè)人信息，不得再違法使用深度合成技術(shù)侵害社會(huì)公益；支付公益損害賠償金6萬元，專門用于個(gè)人信息保護(hù)、人臉深度合成技術(shù)應(yīng)用的治理等公益事項(xiàng)；在國家級媒體上向社會(huì)公眾公開賠禮道歉。

　　“人臉信息與個(gè)人的隱私權(quán)、名譽(yù)權(quán)、財(cái)產(chǎn)權(quán)等多種權(quán)益關(guān)系緊密，屬于敏感個(gè)人信息，從司法實(shí)踐來看，人臉信息的不正當(dāng)使用將對社會(huì)公眾的人身和財(cái)產(chǎn)安全帶來重大風(fēng)險(xiǎn)，一旦造成侵害往往是長久的、持續(xù)的、難以彌補(bǔ)的。”承辦該案的檢察官說，近年來，利用“AI換臉”技術(shù)制作換臉視頻，繞過人臉識別系統(tǒng)監(jiān)管從而實(shí)施詐騙、盜竊等犯罪的情形時(shí)有發(fā)生?？梢哉f，“AI換臉”技術(shù)在灰色領(lǐng)域甚至違法犯罪領(lǐng)域的濫用，給社會(huì)公眾帶來了極大危害?！拔覀兿Ｍㄟ^該案的辦理，能夠進(jìn)一步震懾犯罪分子，也提醒廣大群眾，在使用新興技術(shù)時(shí)，不能忘記法律的規(guī)制、道德倫理的約束，這是所有技術(shù)發(fā)展應(yīng)有的邊界?！?/p>

　?。▉碓矗簷z察日報(bào)正義網(wǎng)微信公眾號）