【ITBEAR科技资讯】4月3日消息，最近在社交媒体上出现了一组特朗普被纽约警察逮捕的照片。然而，这些照片并非真实的，而是由人工智能(AI)技术生成的合成图像。这些合成图像显示了一种新的现实，即在重大事件发生时，社交媒体上可能会充斥着虚假的图片和视频，这进一步混淆了事实、误导了公众。人们应该采取相关措施，部署相关技术并制订相关政策，对这种技术进行监管。
数字内容分析公司Truepic的穆尼尔·易卜拉欣指出，“合成内容正在快速发展，真实和虚假内容之间的差距变得越来越难分辨。”如今，各种AI图像生成工具变得触手可及，它们可在用户发出简单指令后，迅速生成海量栩栩如生的图片。例如，Midjourney这款文本到图像模型现在可生成模仿新闻机构照片风格的图像，这意味着这些AI生成的图片有望在混乱的新闻环境中“浑水摸鱼”，混淆视听。据ITBEAR科技资讯了解，这些“特朗普被捕”的照片是由荷兰的一家开源调查媒体“响铃猫”网站的创始人艾略特·希金斯用AI绘画工具Midjourney制作的。
对抗错误视觉信息的最佳方式是提高公众的意识并加强这方面的教育。希金斯认为，随着合成图像越来越难以辨别真假，社交媒体公司应该将重点放在开发能够辨别AI生成图像的新技术上，并将这种技术融入自己的平台。虽然制作和生成虚假图片的技术并不新鲜，但该领域技术的进步速度以及人们对技术的滥用值得关注。
