首尔——上周，泰勒·斯威夫特(Taylor Swift)的色情假照片在社交媒体上以令人眼花缭乱的速度传播，令政府官员、安全专家、演员和其他许多人深感震惊。人们普遍认为，这些假照片是由人工智能工具制作的。
这一备受瞩目的事件可能归咎于人们普遍预期的生成式人工智能的副作用。生成式人工智能能够利用互联网上流传的真实图像制作假照片。这就创造了一个“深度伪造”的环境，即伪造的图像或视频被用来欺骗或威胁无辜的受害者。
就在几年前，网络骗子至少要掌握基本的编辑技术，才能生成最基本的假图像。现在，通过一些相对简单的提示，可以在流行的基于人工智能的图像程序上轻松创建超现实的深度假照片。
在互联网的网络效应的帮助下，基于人工智能的强大图像和视频工具的使用得到了改善，现在势头正在增强，传播速度更快。因此，深度造假图像传播的速度也越来越快。
相比之下，有关部门和社交媒体公司在识别和打击非法伪造照片方面进展缓慢。在有问题的账户被暂停之前，一张斯威夫特的伪造照片已经在X(以前的Twitter)上被这么多用户浏览了，这很说明问题。更不用说她的照片很快就从X传到了其他平台，并被世界各地的社交媒体用户分享。
巧合的是，斯威夫特深度造假案为准备在即将到来的4月国会选举中赢得席位的韩国政策制定者和政界人士提供了及时的教训，因为韩国禁止在竞选中使用深度造假的新法律于周一生效。
去年12月，国会通过了公职选举法修改案，其内容是，从选举日前90天开始，禁止在选举运动中使用深度伪造图像。
那些使用深度假视频、照片甚至声音来增加胜算的人可能面临最高7年的监禁或高达5000万韩元(合3.7万美元)的罚款。
然而，新规定在防止深度伪造图像和视频的生成和分享方面存在明显而不可避免的局限性。考虑到社交媒体和当地网络社区很快就会与其他成员分享负面图片，当局可能会发现，追踪和删除违反相关法律产生的快速演变的虚假图像非常困难。
这是简单的数学。有太多的在线用户在尝试基于人工智能的图像生成软件。相反，中央选举管理委员会新成立的人工智能监察组只有62名职员。
通过监管漏洞泄露的篡改图像可能会对候选人产生成败攸关的影响，尤其是如果竞争对手宣布一条弄巧成拙的假新闻的深度伪造视频在竞选活动即将结束时传播的话。
要求政客及其助手不要参与深度造假的创造和扩散是不够的。选民还必须自愿远离虚假内容，并向选举监督机构报告他们可能遇到的任何有问题的图像或视频。运营大规模网络新闻的主要门户网站应该建立有效的过滤系统。
除了选举，随着生成式人工智能技术的飞速发展，政治家、名人和普通人也可能面临日益复杂的深度假威胁。今天的深度造假可能会在几年后被认为是肤浅或不成熟的。建议政策制定者在不久的将来做好准备，采取积极措施应对更先进的伪造图像和视频，包括采用强大到足以粉碎虚假输出的新人工智能解决方案。
