近期，一些照片在网络上流传，它们似乎揭示了与事实相反的情况，比如前总统唐纳德·特朗普被捕和教皇穿着时尚的白色羽绒服。然而，这些照片的制作者并非摄影师，而是人工智能系统，通过处理用户的文字提示生成逼真的图像。这展示了这些程序迅速提升的能力，足以欺骗不谙世事的观察者。
如何辨别一张照片是否由人工智能系统生成呢？专家表示，最优秀的生成器产生的图像很难，甚至不可能与真实图像区分开来。讽刺的是，人类对抗被人工智能系统愚弄的最好手段可能就是另一个人工智能系统——一个经过训练能够检测人工生成图像的系统。
“你收集一组真实图像的数据集，和一组人工智能生成图像的数据集，然后训练一个机器学习模型来区分两者，”威斯康星大学麦迪逊分校的计算机科学家李英解释道。然而，这些系统仍然存在显著缺陷，大多数是在特定生成器生成的图像上进行训练的，无法识别不同算法生成的虚假照片。
南加州大学计算机科学副教授瓦伊尔·阿布达马吉德表示，“生成图像的人工智能系统和检测生成图像的人工智能系统之间的战斗将是一场军备竞赛，我认为短期内不会有任何一方获胜。”这说明人工智能领域的发展变得极为复杂，不断涌现新的技术。
