近期,有关AI换脸的案件和新闻引发社会关注和担忧。随着人工智能的发展,AI换脸技术门槛逐渐降低,应用场景越来越多,在满足人们猎奇、美颜、社交等需求的同时,因AI换脸引发的争议乃至违法犯罪行为屡见不鲜,其背后隐藏的黑灰产业链也逐渐浮出水面。
所谓AI换脸,主要是通过人工智能的人体图像合成技术,将视频中的角色进行“改头换面”。AI换脸技术应用存在的乱象不容小觑。例如,在网络平台上,教授AI换脸技术、提供视频定制换脸服务,乃至售卖明星换脸的视频等已经成为一门生意。在电商平台,以“人脸替换”“Deepfake”“专业定制换脸”等关键词搜索发现,不少商家宣称可以提供AI换脸服务,价格基本在10元至200元之间。
AI换脸技术滥用的法律风险须引起重视。我国刑法、民法典以及《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等多部法律法规,均涉及深度合成应用的规范、侵权责任等内容。根据相关规定,任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。擅自使用他人肖像制作“换脸”视频,可能会涉嫌构成侵犯他人肖像权、名誉权等。AI换脸技术应用绝不能突破边界,使用者必须增强法律意识和社会责任意识,不能因为技术滥用给他人和社会公共安全带来隐患。
完善监管防范体系亟待重视起来。针对AI换脸乱象,近年来,国家网信办、各地网警、检察机关等协调配合,加大整治打击力度,出台了多项政策法规。特别是《互联网信息服务深度合成管理规定》从技术提供者、服务使用者以及监管等各方面,对深度合成技术应用提出规范。用好这些政策法规,进一步厘清边界、划定红线,完善监管防范体系,尚需相关部门通力合作、强化监管,引导AI换脸技术合规发展。
互联网平台须切实负起责任。民法典第1169条规定了教唆、帮助他人实施侵权行为的,承担连带侵权责任。一些人利用网络平台主动诱导他人学习AI换脸技术去实施侵权,平台也逃脱不了干系。因此,平台对使用上传视频服务的用户信息应当进行严格审核,AI换脸服务提供商也应在图片视频显著位置标注“人脸合成”字样以提醒大众,或留下技术水印实现可追溯、防篡改等。
此外,治理AI换脸技术滥用现象,还需加强相关风险宣传,引导公众合法安全谨慎使用AI换脸软件,保护自己生物识别信息,一旦发现类似侵权违法现象,积极举报、勇于维权。