西媒：人工智能“深度伪造”带来政治风险

参考消息网| 2023-05-30 16:20:37

(相关资料图)

参考消息网5月29日报道据埃菲社5月21日报道，人工智能所构成的威胁还远没有达到像科幻电影中那样，在没有人类干预的情况下创造一台统治世界的机器。然而，目前存在的风险是，人工智能很有可能取代政客的身份，例如通过生成视频图像，让他们“说出”自己原本没有说过的话。

如今有了这项技术，以诽谤为目的制造假新闻或信息内容的行径，例如WhatsApp上的骗局，或者利用虚假账户在社交网络上散播谎言就变得更加轻而易举了。随着虚假视频的生成，人工智能已经成为一种更强大的政治操纵工具。

在人工智能生成的虚假照片中，西班牙前副首相巴勃罗·伊格莱西亚斯和西班牙劳工与社会经济大臣约兰达·迪亚斯在各自所属政党之间处于紧张关系的情况下手拉手；法国总统埃马纽埃尔·马克龙参与示威游行，反对他自己提出的养老金改革。这些都是人工智能对政治信誉构成风险的诸多案例中的两个。

西班牙沉浸式技术专家指出，虽然人工智能可以促进某些竞选活动，提高工作效率，例如起草政治纲领或发送电子邮件，但同样也会给竞选者的公开辩论带来风险，最主要的原因就是人工智能可能制造虚假内容，甚至盗窃竞选者身份。

开发聊天生成预训练转换器（ChatGPT）的开放人工智能研究中心（OpenAI）首席执行官萨姆·阿尔特曼上周在美国参议院公开指出：“这项技术很可能对世界造成重大损害；如果出了问题，结局可能非常、非常糟糕。”西班牙专家虽然赞同这一观点，但也有所保留。

专家解释说，到目前为止，人工智能已经被用来搅乱政治辩论，主要的手段是通过生成假新闻，如上文提到的西班牙政党的两位领导人和法国总统的虚假图像；甚至生成“深度造假”内容，即通过人工智能操纵视频，利用换脸等人工智能技术让视频影像看起来和真的无异。

专家指出，其目的是用终端用户真正听到的、看到的内容来取代政治家真实的所作所为。所幸的是，尽管人工智能构成的风险正在增长，但第一批检测算法和第一批监管法律也应运而生。（编译/刘丽菲）

【责任编辑：潘一侨】