人工智能图像生成器训练源中删除了虐待儿童图像

人工智能研究人员已经从一个用于训练流行的人工智能图像生成工具的数据库中删除了 2000 多个疑似儿童性虐待图像的网络链接。

LAION 研究数据库是一个巨大的在线图片和标题索引，是 Stable Diffusion 和 Midjourney 等领先人工智能图像生成工具的来源。不过去年的一份报告发现，该数据库包含儿童色情图片的链接，这使得一些人工智能工具能够轻而易举地制作出描绘儿童的逼真深度伪造图片。那份报告促使非营利组织 “大规模人工智能开放网络”（Large-scale Artificial Intelligence Open Network）立即删除了其数据集。八个月后，与斯坦福大学的监督组织以及加拿大和英国的反滥用组织合作，解决了这个问题，并发布了一个经过清理的数据库，供未来的人工智能研究使用。

LAION数据库的清理版本发布之际，世界各国政府正在密切关注一些技术工具是如何被用于制作或传播非法儿童图像的。