歌手泰勒·斯威夫特再度被换脸引全球粉丝愤怒,防范 AI 技术被滥用,事关每个人的安全

资讯1个月前发布 AIGC学院
47 0

极目新闻评论员 石平

美国知名歌手泰勒·斯威夫特再度成为了AI深度伪造的受害者,近日,大量由人工智能生成的泰勒虚假、色情、血腥照片在多个社交平台疯传,浏览量已超过千万,引发社交媒体震动。

据报道,这些深度伪造的照片,是有人使用AI生成并上传到了一家不良网站上,继而在社交媒体上被疯狂传播。

这已经不是泰勒第一次被AI换脸所伤害,不久前,有不良商家用AI伪造她的声音和形象来推广商品,让她“被代言”,不仅侵犯了她的合法权益,更欺骗了广大消费者。(据1月28日紫牛新闻)

歌手泰勒·斯威夫特再度被换脸引全球粉丝愤怒,防范 AI 技术被滥用,事关每个人的安全

泰勒·斯威夫特 (图源:微博)

泰勒也早已不是AI换脸的唯一受害者,此前,“神奇女侠”盖尔·加朵就被换脸过不雅小视频,黛茜·雷德利、娜塔莉·波特曼等一众好莱坞女星都曾“中招”,斯嘉丽·约翰逊曾在接受采访时表示,因为互联网是一个巨大的黑暗虫洞,可是吞噬掉每一个人,“对于可以行使法律权利的地方,你可以要求某个人停止侵权行为。但遗憾的是,我们经常维权无果。”

这一说法虽然有些消极,但却在某种程度上,反映了无奈的现实。即便在粉丝、网友的愤怒声讨之下,连白宫都关注到了这一事件,但事情并未得到根本性地解决。部分参与传播的账号已被社交平台封禁,但漏网之鱼依然存在,有人自建网站或者通过匿名群组售卖这些照片,逃避监管,继续作恶。

明星被AI换脸引发轰动,但在互联网上,普通人被AI换脸的事情,几乎是每分每秒都在发生。有些是出于娱乐目的换着好玩,有些是为了吸引眼球赚取流量,更不乏用于电信诈骗、合成不雅视频贩卖、诽谤、敲诈勒索他人等非法目的。只不过,很多黑暗的交易都在隐秘的角落进行,甚至连受害者都不知情。正如斯嘉丽·约翰逊所言,任何人都可能遭到类似手段的攻击,只不过是时间问题。因此她也呼吁所有人站起来反抗这一技术滥用的问题,行动起来,保护自己。

AI的确是很先进的技术,但是AI换脸的门槛却非常低,技术本身是无罪的,但却经不起心怀不轨者的滥用。如果我们不想办法去遏制和干预,之后这类技术会发展得更加完善,治理和规范的难度也会进一步加大。目前,我国已经有针对AI换脸的法律约束,据2023年1月10日起施行的《互联网信息服务深度合成管理规定》,“AI换脸”属于深度合成技术,任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。违反规定者,将依照有关法律、行政法规的规定处罚,构成犯罪的,依法追究刑事责任。

法律的作用,要得到进一步有效的发挥,需要严格公正地执法,更需要技术手段的提升,如果找不到作恶的人,就很难去处罚他们,如果不能遏制非法内容蔓延,也无法维护法律的权威和尊严。所以,一定要重视这一新兴技术发展带来的副作用,以严格的监管督促技术研发者遵循科技伦理,引导技术向善,以更高的技术手段增强平台的审核甄别能力,督促社交平台对此类内容重点审核,显著标注,从而提升用户的辨别能力,避免更多人被不良信息蒙骗和坑害。

如何在发展人工智能的同时,加强对技术的合理规制,是全世界所面临的共同课题,或许我们目前还没有探索到一条完善有效的路径,去杜绝技术滥用所造成的所有不利影响,但事关每个人的安全,谁都不可能隔岸观火,各个环节都有责任去堵住漏洞,规范引导,加强自律,防止AI换脸及其他人工智能技术被滥用,防范其可能带来的深远危害。

(来源:极目新闻)

© 版权声明

相关文章

暂无评论

暂无评论...