人工智能文化战争才刚刚开始

上周，谷歌被迫关闭了其最新人工智能模型 "Gemini "的图像生成功能，因为有投诉称，当被要求创建维京人、教皇和德国士兵等一般为白人和男性的历史人物形象时，该模型默认为描绘女性和有色人种。该公司公开道歉，并表示会做得更好。Alphabet 的首席执行官桑达尔-皮查伊（Sundar Pichai）也在周三向员工发出了道歉备忘录。"备忘录中写道："我知道，公司的一些回应冒犯了我们的用户，并显示出偏见。"说白了，这是完全不可接受的，我们错了。"

然而，谷歌的批评者并没有因此而沉默。最近几天，社交媒体上的保守派声音强调了Gemini公司的文字回复，他们声称这些回复暴露了自由派的偏见。周日，埃隆-马斯克（Elon Musk）在 X 上发布了截图，显示Gemini表示，即使这是避免核战争的唯一办法，错误地将凯特琳-詹纳（Caitlyn Jenner）性别化也是不可接受的。"马斯克写道："谷歌Gemini是超级种族主义者和性别歧视者。

一位熟悉情况的消息人士称，谷歌内部的一些人认为，这场骚乱反映出人工智能模型的规范仍在不断变化。该消息人士说，公司正在开展一些项目，以减少未来在Gemini中出现的问题。

谷歌过去为增加算法输出的多样性所做的努力受到的批评较少。此前，谷歌对其搜索引擎进行了调整，以提高图片的多样性。这意味着在描述首席执行官的图片中出现了更多的女性和有色人种，尽管这可能并不代表企业的实际情况。

谷歌的Gemini经常默认显示非白人和女性，这是因为该公司使用了一种名为 "微调"（fine-tuning）的程序来引导模型的反应。该公司试图弥补图像生成器中普遍存在的偏差，这些偏差是由于用于训练图像生成器的图像中存在有害的文化刻板印象造成的，其中许多图像通常来自网络，并显示出白人和西方人的偏见。如果没有这样的微调，人工智能图像生成器就会出现偏差，当要求生成描述医生或律师的图像时，会主要生成白人的图像；当要求生成罪犯的图像时，会不成比例地显示黑人的图像。看来，谷歌最终是过度补偿了，或者是没有正确测试它为纠正偏见所做调整的后果。

为什么会出现这种情况呢？也许仅仅是因为谷歌仓促上马了 "Gemini"。该公司显然正在努力寻找发布人工智能的正确节奏。在人工智能技术方面，谷歌曾经采取过更加谨慎的态度，出于道德方面的考虑，谷歌决定不发布功能强大的聊天机器人。在 OpenAI 的 ChatGPT 风靡全球之后，谷歌又换了一种方式。仓促之间，质量控制似乎受到了影响。

"普林斯顿大学教授、《机器学习中的公平性》一书的作者之一 Arvind Narayanan 说："Gemini 的行为似乎是赤裸裸的产品失败。普林斯顿大学教授、《机器学习的公平性》一书的作者之一 Arvind Narayanan 说："这些问题我们已经看到很多年了。他们在发布图像生成器时，显然从未尝试过生成历史人物的图像，这让人摸不着头脑。"

像 Gemini 和 ChatGPT 这样的聊天机器人是通过一个过程进行微调的，这个过程包括让人类测试一个模型并提供反馈意见，反馈意见可以是根据他们得到的指令提供的，也可以是根据他们自己的判断提供的。曾在 OpenAI 从事语言模型调整工作的人工智能研究员保罗-克里斯蒂亚诺（Paul Christiano）说，"Gemini "有争议的反应可能反映了谷歌试图快速训练其模型，而没有对其行为进行足够的检查。但他补充说，试图调整人工智能模型不可避免地会涉及到一些判断，而这些判断并不是每个人都会同意的。用来对付Gemini的假设性问题通常会迫使聊天机器人进入一个很难让所有人都满意的领域。他说："任何使用'更重要'或'更好'等短语的问题都会引起争议。

克里斯蒂亚诺预测，随着人工智能模型的改进和被赋予更多能力，人工智能模型的调整方式很可能会变得更具争议性和重要性。"它们会更好地学习我们教给它们的东西，并做出更重要的决定，"他说。"我认为这将是一个非常重要的社会问题。"

研究算法偏见和问责制的 Mozilla 研究员德博拉-拉吉（Deborah Raji）说，修复人工智能系统偏见的努力往往是 "创可贴"，而不是深入的系统性解决方案。谷歌曾修复过一个图像分类器，该分类器将一些黑人脸标注为大猩猩，使其对许多非人类灵长类动物视而不见。

不过，虽然拉吉认为谷歌在 "Gemini "上出了差错，但她也表示，有些人强调聊天机器人的错误是为了将人工智能偏见问题政治化。"她说："这实际上是一个两党技术问题。"我对这些政治影响者试图在社交媒体上操纵这种言论的方式感到气馁和失望。"

Hugging Face 的人工智能伦理研究员玛格丽特-米切尔（Margaret Mitchell）曾在谷歌工作过，她发布了一个主题，解释了谷歌如何避免Gemini争议。(简而言之，就是更全面地考虑如何使用该系统）。米切尔还表示，科技行业希望建立能够取悦所有人的超人人工智能模型的愿景引发了当前的不和谐。"她说："AGI议程为这种文化战争埋下了伏笔。