2024-03-04 16:00
谷歌Gemini文生图翻大车：生成人像过度追求种族多元性，涉嫌“歧视白人”，这可能是马斯克被“黑”得最惨的一次
谷歌可能是当今硅谷最卷的科技大厂，最近两个月一口气发布了三款大型的大语言模型，开源的、生图的、生成视频的，花样百出。
但是未必所有努力就能获得回报，近日可谓“屋漏偏逢连夜雨”。?
春节期间，谷歌官宣Gemini 1.5.提供百万级Tokens的上下文窗口吞吐，实力强劲却无人问津，被OpenAI的Sora视频模型大抢风头。
近日，谷歌又摊上了美国社会最敏感的「种族政治正确」问题，这一次，追求多元性的谷歌，没有惹恼有色人种，而是惹到了白人族群。
前阵子，有网友使用谷歌最新的Gemini 1.5生成历史人物的图像，竟然诞生了一个平行时空的荒诞感十足的新宇宙。?
来看下面这组网友的测试图。
生成「公元8世纪的维京人」，不再是金发碧眼、高大魁梧的影视剧经典刻板形象，而是皮肤黝黑的黑武士，坚毅的眼神依然能感受到维京战士的强悍。
生成「19世纪的德国夫妇」，人种构成十分丰富，有黑人、有印第安人，甚至还有亚裔的混合家庭，那个年代已经这么开放了么?
生成「二战时期的德军纳粹军官」，且不说女军官出现的概率有多高。既有黑人也有亚裔就相当离谱。
生成「英格兰国王」，可谓“王侯将相宁有种乎”，中世纪的英格兰国王也可以是黑人执掌权杖。
更不可思议的是，美国的开国元勋可以是黑人和印第安人，这就…?。
其他的职业也被一视同仁，在男性为主的神职人员里边，教皇可以是印度女性。
生成「19世纪的美国参议员」，出现了美国印第安原住民形象的女议员。而事实上，第一位印第安裔的女议员要在一个世纪之后才出现。
都说历史是个任人打扮的小姑娘，这次AI让你领略了重新演绎的历史观。
更有意思的是，随着深挖大模型的人像创作逻辑，这一「肤色的政治正确」不仅仅出现在历史人物上，即便是现代人物也会开启各种新姿势。
谷歌前工程师@debarghya_das发现，当你输入“美国”“英国”“德国”“瑞典”“芬兰”“澳大利亚”等以白人为主体的国家的提示词，要求生成女性形象时，输出的人像肤色往往偏黑或者偏原住民肤色。
他感慨：「让Gemini承认白人的存在是非常困难的。」
谷歌对于创作白人可以说是相当的苛刻了。
当用户要求Gemini生成「黑人家庭」图像的时候，大模型的反应飞快，秒级输出，干活也利索。
但是当轮到生成「白人家庭」的时候，就可能遭拒绝，甚至对网友说教——你的请求是强化种族刻板印象，我可以为你生成一个种族多元的家庭。?
乖乖…什么时候混血大家庭成为了社会主流…?
还有网友在尝试，到底Gemini是基于什么原则来创作多元性的族群?他开始尝试一些动物的名词——
首先，生成「白熊」是没有问题的，说明AI并不会被【White】这个词触发安全防护栏。
强调生成非洲的「祖鲁人」也是没毛病的，即便你强制输入提示词「多样性」，最终生成的结果，仍然天下乌鸦一般黑。
那么生成魔幻生物呢?
网友发现，生成「精灵」和「侏儒」都是白人形象，但「吸血鬼」和「仙女」则是多元族群，很遗憾他没有测试生成「美人鱼」。??♀️
?谁规定精灵王子就得是白人的?
看来Gemini的道行还不够深，有待与时俱进。
当舆情爆发的时候，谷歌很快站出来回应，承认一些历史图片确实存在问题，并且立即停止了Gemini的人像图像生成功能，很快会做出调整。
谷歌也解释了基本立场——强调生成多元化的人物形象，自然是一件好事，因为AI工具并不是给某一个族群使用的，不过目前有点走歪了。
「种族歧视」本身是一个在全球都很容易被当枪使的话题，因此不免有针对树大招风的谷歌大厂的阴谋论——有心人，可以刻意引导Gemini生成一些敏感题材的人像。
特斯拉CEO马斯克更是看热闹不嫌事大，他直接批评谷歌过度追求多样性，是反文明的代码编写。
他甚至晒出了一张漫画，顺便给自家的AI聊天机器人产品Grok打广告：
——「不顾批评、严格追求真理从未如此重要。」
而类似于OpenAI、微软、谷歌等公司开发的AI都是邪恶的AI。?
比他的言论更吸引人的，网友“趁乱”给马斯克上了一剂眼药——创作属于他的「政治正确」。
这可能是马斯克这辈子被「黑」得最惨的一次。
当地时间2月27日，谷歌CEO皮查伊给员工发了一封内部信，他表示，这个问题“完全不可接受”，团队正在“日夜不休”地纠正这些问题，并表示公司将进行结构性改革，以防止类似事件的发生。
最近来自谷歌内部的一次消息指出，程序员已经修复好了这个种族BUG，在测试完毕后，Gemini生成人像的服务将会重新上线。
不管怎样，AI作为一个新鲜事物，从诞生的第一天开始，就注定将改写世界的历史进程。
因吹斯汀~~~~~
相关文章
Altman
Kardashian
