机器之能报道
编辑：杨文
Grok 2，你是懂如何背刺自家老板的。
Grok 2 刚发布不到一天，就摊上事了。
事情是这样的：
昨天，马斯克旗下的 xAI 发布新一代大模型 Grok 2，并称已与初创公司 Black Forest Labs 展开合作，试验他们的 FLUX 模型。
本来是强强联合的一件好事，但由于 FLUX 模型对于生成的图像没有严格的限制，导致 X 上充斥着大量让人瞠目结舌的图像。
例如，扮作小丑的哈里斯开怀大笑：
颇具喜感的特朗普持枪火拼：
还有更离谱的，特朗普的枪口对准了一个黑人小男孩：
要知道，现在正值美国大选的敏感时期，如此恶搞的图像满天飞，势必引发诸多担忧。
有网友毫不留情地怒斥：Grok 在其图像生成上完全没有过滤机制，这是我见过的最鲁莽和最不负责任的 AI 实现之一。
xAI 意识到事情的严重性，目前已「锁定」该功能。
-1-
名人们要被玩坏了
由于 Grok 2 只有最低程度的保护措施，在发布后的几个小时里，不少网友拿它疯狂整活，名人们惨遭毒手。
比如，头戴耳机吞云吐雾的特朗普：
戴着大金链子，开着车与美女谈笑风生的马斯克：
就连那些水火不容的「政敌」，在 Grok 的撮合下，也上演「Happy Ending」。
拜登为特朗普站台：
特朗普为拜登伴舞：
还有特朗普与奥巴马的「兄弟情谊」：
最离谱的是特朗普和哈里斯这俩「死对头」，一反常态，不仅疯狂秀起恩爱：
还在前往双子塔的路上竖起大拇指（这显然暗指 9・11・袭击事件）：
不仅如此，Grok 也很懂如何背刺自家老板马斯克。
Grok 一顿操作猛如虎，硅谷钢铁侠化身 200 多斤大胖子，狂炫巧克力、冰激凌和可乐：
还有网友看不惯马斯克的碎嘴子，直接命令 Grok2 给自家老板改人设，从此两耳不闻窗外事，一心只钻研火箭：
此外，它还会生成一些包含暴力场景以及涉及版权保护的图像。例如，手持冲锋枪的皮卡丘、开枪扫射的米老鼠：
有网友锐评，我似乎闻到了即将到来诉讼的味道。
虽然 Grok 声称设置了一些限制，并承诺：
避免生成色情、过度暴力、仇恨或宣扬危险活动的图像。对创建可能侵犯现有版权或商标的图像持谨慎态度。这包括众所周知的字符、徽标或任何可以被视为知识产权但不具有变革性元素的内容。不会生成可用于欺骗或伤害他人的图像，例如旨在误导的深度伪造图像，或可能导致现实世界伤害的图像。但在实际应用中，这些规则如同虚设。
Grok 不会拒绝包含真实人物的请求，也不会在其生成的图像中添加识别水印。
相比之下，Google、OpenAI 、Meta 和 Anthropic 表现得更为审慎。
它们在其图像生成模型中均实施了严格的内容过滤和道德准则，以防止生成有害或攻击性内容。
例如，OpenAI 不仅拒绝处理涉及真实人物、纳粹标志、有害刻板印象或错误信息等潜在争议主题的请求，还为生成的图像添加了识别水印。
用户虽曾试图诱导聊天机器人生成争议图像，但这通常需要使用俚语或其他语言技巧，一旦这些漏洞被发现，它们很快就会被修补。
谷歌 Gemini 曾因对种族和性别刻板印象的矫枉过正，导致其画不出白人，由于这一失误，谷歌在2月份道歉并关闭了 Gemini 生成人物图像的功能。
截至目前，该公司仍然不允许 Gemini 生成人物图像。
或许是因为备受批评，Grok 猛踩刹车，「屏蔽」了某些敏感提示词。
-2-
任性的马斯克，「闯祸」的 Grok
Grok 的这起「闹剧」，马斯克背有很大的锅。
在马斯克的话语体系里，言论自由大过天。
想当年，马斯克斥资 440 亿美元拿下推特，为的就是一句「freedom」。
在他看来，没有什么敏感话题不能提，也没有什么禁忌言论不能碰。因此，他对人工智能和社交媒体安全规范的态度，就俩字：
蔑视。
马斯克曾明确表示，安全防护会使 AI 模型变得更不安全。他在 2022 年的一条推文中说：「训练 AI 让其觉醒 —— 换句话说，撒谎 —— 是致命的。」
这也就不难理解，为何老马做的聊天机器人 Grok，如此百无禁忌，口无遮拦，疯起来连老板都骂。
巧了，8 月 1 日新成立的人工智能图像和视频初创公司 Black Forest Labs，似乎很认同马斯克将 Grok 打造为「防唤醒聊天机器人」的愿景，它没有像 OpenAI 的 Dall-E 或谷歌的 Imagen 一样设置严格的防护措施，任由各种 AI 生成的逼真图像在社交平台上蔓延。
有了共识，双方一拍即合，老马决定将 Black Forest Labs旗下的生图模型 FLUX 嵌进 Grok 中，生成的 AI 图像也均可直接发布到 X 上，这也就有了文章开头的这场「闹剧」。
实际上，这种缺乏防护措施的策略，此前就给 X 招来了不少麻烦。早在今年年初，AI 生成的泰勒・斯威夫特不雅照在 X 上疯传，也使该平台备受批评。
此外，Grok 几乎每周都会在 X 上生成各种虚假标题，误导用户。
就在本月初，马斯克还转发了一段使用 AI 技术合成哈里斯声音的视频，使副总统看起来好像承认自己是「多样化雇员」。
上周，五位国务卿联合呼吁 X 停止散布关于哈里斯的不实信息。
欧盟委员会也已经在调查 X 平台，以确定其是否违反了《数字安全法》，该法律规范了大型在线平台如何审核内容，并且今年早些时候，它已要求 X 和其他公司提供有关减轻与 AI 相关风险的信息。
参考链接：
https://venturebeat.com/ai/elon-musk-xai-defies-woke-censorship-controversial-grok-2-ai-release/
https://www.theverge.com/2024/8/14/24220173/xai-grok-image-generator-misinformation-offensive-imges
https://techcrunch.com/2024/08/14/meet-black-forest-labs-the-startup-powering-elon-musks-unhinged-ai-image-generator/
以后我们会带来更多有趣的AI话题，也欢迎大家进群交流。
