【岛叔说】“一键脱衣”造黄谣？警惕AI“脏应用”

2023-04-03 21:13:12 来源：观察网

古有“人活一张脸”，今有“一键8张脸”——

随着AI换脸技术发展，改头换面不再稀奇。但近日，广州一名正常打扮的女子，在社交平台晒了一张再日常不过的照片，竟被人用AI技术将脸和身体“移花接木”，直接生成了一张地铁裸照。

“一键脱衣”造黄谣，这是利用AI技术作恶，明显越过了道德和法律边界，对当事人造成极大伤害。这就有必要说说其间的法律问题。

(相关资料图)

（图源：网络）

一般来讲，AI换脸是基于人脸图像识别的深度伪造技术，应用时很容易存在侵害肖像权风险。《民法典》第一千零一十九条明确规定，任何组织或个人不得利用信息技术手段伪造等方式侵害他人的肖像权；未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，法律另有规定的除外。

2022年就有一个这方面的典型判例。模特楼某某发现，某公司运营的AI换脸APP照搬自己的古风造型视频模板，用户只需上传个人照片，就可将模板中的脸替换成任意人脸，除五官发生实质性变化，其余内容都与原视频一致。法院审理认为，被告未经楼某某同意，通过技术手段提取涉案古风肖像视频，擅自上传至其运营的APP供用户使用，侵害了楼某某肖像权，最终判决被告向楼某某赔礼道歉并赔偿损失5000元。

技术的社会属性是技术风险形成的根源。许多人参与AI换脸，初衷无非是图一乐，可一旦技术向广大市场开放，运营者就容易利欲熏心，把换脸变成伪造和篡改。

早在2017年，斯嘉丽·约翰逊等多名好莱坞女星的脸就被AI替换入色情视频。国内也有“恶意换脸”黑产链条，一些网上卖家公然宣称“100元打包购买200部换脸情色片，囊括一二线女星”“400元可购买换脸软件及教程，一键搞定，包教包会”。

这些案例不单事关肖像权，更涉及侵害当事人名誉权、著作权、个人信息等多项权利。而在女子被AI“一键脱衣”事件中，造谣者还可能涉嫌诽谤罪、侮辱罪、制作淫秽物品牟利罪等刑法罪名。试想，如果这方面技术应用没有限制边界，普通人或公众人物的肖像都可随意变换伪造，公共秩序将会受到怎样的冲击？

今年1月，国家网信办等部门联合制定的《互联网信息服务深度合成管理规定》（下称“规定”）正式施行，就给此类AI合成技术划下红线：“任何组织和个人不得利用AI换脸技术等深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息；不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。”

《规定》第十四条还特别指出，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。

什么意思呢？就是立法者重申，人脸等生物识别信息属于“敏感个人信息”，使用前需得到被使用人“单独同意”。换言之，使用AI换脸技术时，必须就法律所规定的人脸等个人信息处理活动取得当事个人同意，不能将其与其他信息混同一处，更不能将不同种类的个人信息处理活动混淆使用，模糊而概括地“骗取”个人同意。

说白了，要换走一张脸，就必须在内容、方式、目的、受益、风险等方面取得“脸主”的充分许可。

新兴技术有无限未来，但同样需要明确使用边界，避免造福人类的技术变成刺向人类的匕首。

关键词：