西媒:人工智能“深度伪造”带来政治风险
参考消息网| 2023-05-30 16:20:37


(相关资料图)

参考消息网5月29日报道 据埃菲社5月21日报道,人工智能所构成的威胁还远没有达到像科幻电影中那样,在没有人类干预的情况下创造一台统治世界的机器。然而,目前存在的风险是,人工智能很有可能取代政客的身份,例如通过生成视频图像,让他们“说出”自己原本没有说过的话。

如今有了这项技术,以诽谤为目的制造假新闻或信息内容的行径,例如WhatsApp上的骗局,或者利用虚假账户在社交网络上散播谎言就变得更加轻而易举了。随着虚假视频的生成,人工智能已经成为一种更强大的政治操纵工具。

在人工智能生成的虚假照片中,西班牙前副首相巴勃罗·伊格莱西亚斯和西班牙劳工与社会经济大臣约兰达·迪亚斯在各自所属政党之间处于紧张关系的情况下手拉手;法国总统埃马纽埃尔·马克龙参与示威游行,反对他自己提出的养老金改革。这些都是人工智能对政治信誉构成风险的诸多案例中的两个。

西班牙沉浸式技术专家指出,虽然人工智能可以促进某些竞选活动,提高工作效率,例如起草政治纲领或发送电子邮件,但同样也会给竞选者的公开辩论带来风险,最主要的原因就是人工智能可能制造虚假内容,甚至盗窃竞选者身份。

开发聊天生成预训练转换器(ChatGPT)的开放人工智能研究中心(OpenAI)首席执行官萨姆·阿尔特曼上周在美国参议院公开指出:“这项技术很可能对世界造成重大损害;如果出了问题,结局可能非常、非常糟糕。”西班牙专家虽然赞同这一观点,但也有所保留。

专家解释说,到目前为止,人工智能已经被用来搅乱政治辩论,主要的手段是通过生成假新闻,如上文提到的西班牙政党的两位领导人和法国总统的虚假图像;甚至生成“深度造假”内容,即通过人工智能操纵视频,利用换脸等人工智能技术让视频影像看起来和真的无异。

专家指出,其目的是用终端用户真正听到的、看到的内容来取代政治家真实的所作所为。所幸的是,尽管人工智能构成的风险正在增长,但第一批检测算法和第一批监管法律也应运而生。(编译/刘丽菲)

【责任编辑:潘一侨】
财经
资讯
精彩新闻