马斯克
北京时间1月20日，彭博社消息称，近几周来，埃隆·马斯克（Elon Musk）旗下的AI聊天机器人Grok在X平台上被多次用于对他人实施“数字脱衣”行为。尽管全球监管机构对此的反对声音持续升温，但该机器人依旧在美国正常运行，政府方面的干预措施相对较少。
行业监督组织称，在本月早些时候的高峰期，Grok每小时被使用数千次，在X的公开回答中对他人进行未经同意的“脱衣化”处理，这使得一种令人不安的滥用和骚扰形式从互联网的阴暗角落蔓延至更主流的在线平台。
受害者既包括成人网站OnlyFans明星，也包括瑞典副首相。英国儿童安全组织表示，他们甚至在暗网上发现了疑似由Grok生成的AI儿童色情内容。马斯克则表示，他“并不知晓任何涉及未成年人的裸露图像”。
马斯克目前仍在推进其AI聊天机器人Grok的开发、推广与传播工作，这款产品至今在美国尚未遭遇任何法律或监管层面的干预，苹果和谷歌的应用商店也依旧保留着该应用的上架资格。面对外界争议，马斯克曾以让Grok“给自己脱衣”的玩笑方式试图淡化舆论，同时他还对批评者提出抨击，并将Grok与Adobe的Photoshop等工具类比，言下之意是问题并非出在Grok本身，而在于使用者。“很明显，Grok不会主动生成图像，它只会依据用户的要求来生成内容。”马斯克在上周三发布的内容中这样表示，还补充说明Grok会“拒绝生成任何违法内容”。
Grok
在舆论引发广泛讨论后，X平台将其图像生成工具设置了付费门槛，相当于把这一颇具争议的功能转变为付费服务。不久后，该公司对外宣称，Grok已被禁止在这个社交网络中生成此类“真人”图像，但很快就有消息指出，用户依旧能借助独立的Grok应用程序制作这类图像。彭博社的相关分析显示，在X平台上，由Grok生成的性化图像仍然存在，其中包含一些展现人物穿着丁字裤、比基尼或是暴露服饰的画面。
长期以来，马斯克与其创办的AI企业始终在持续打破常规。这位亿万富豪曾多次就AI可能引发的生存风险发出警示，并在2023年成立了xAI，旨在与OpenAI展开竞争，其使命表述较为宽泛，即“探究宇宙的真实本质”。而xAI的核心特点在于勇于接纳大胆甚至粗俗的内容，无论是“浪漫型”的AI伴侣，还是“火辣模式”下不受限制的聊天互动，都体现了这一点。
美国监管迟缓
然而，随着大量性化图像的涌现，马斯克及其公司不仅引发了xAI历史上最大规模的争议，也在对公共与私营保障体系进行压力测试。这些体系本应保护社会免受AI带来的危害。迄今为止，这些防护措施的效果仍显不足，尤其是在美国。
欧洲各国政府和监管机构迅速对马斯克的业务展开调查，并威胁针对Grok生成的性化图像采取行动，但作为X的最大市场，美国反应则相对迟缓。上周，美国参议院一致通过的《反抗法案》(Defiance Act)虽允许非自愿色情图像受害者起诉施害者，但未明确包含对平台方的追责条款。
特朗普在去年5月签署的法律要求平台在接到举报后48小时内下架非自愿性内容图像，但尚未强制要求建立统一的举报系统。加州总检察长上周三宣布就不雅图像传播问题针对xA展开调查并发出禁止令，但后续进展尚不明朗。xA目前未对此调查作出回应。
特朗普签署行政令要赢得AI竞赛
在科技平台上保护儿童安全，一直是共和党和民主党少数能够达成共识的监管领域之一。但近年来，每当国会召集科技公司CEO就儿童安全问题作证时，马斯克总是未被邀请，其中部分原因是，这些聚焦儿童安全的听证会与X关系不大，该平台年轻用户数量相对较少。
马斯克影响力大
眼下，特朗普在第二任期正努力拉拢科技界，为科技领袖提供一个几乎不受监管的环境，发展AI业务，从而在中国对手日益激烈的竞争面前保持领先地位。马斯克本人则属于特殊层级的科技高管：世界首富、重要政府承包商、曾经的特朗普亲密顾问，曾资助总统胜选，并可能在中期选举再次投入资金。
Grok是马斯克在AI竞赛中的“战马”。科技高管们一致向特朗普强调，美国必须赢得这场竞赛。特朗普正鼓励大规模AI投资与创新，这一立场使得他很难惩罚马斯克这个AI行业先锋。
“我们正处于时代思潮的重大转变中，美国政治、经济和科技精英们认定，减少主要平台尚未采取的安全措施和内容审核，对其自身及议程更为有利。而马斯克在促成这种现实方面功不可没。”康奈尔科技学院安全、信任与保障计划主任亚历克西奥斯·曼扎里斯(Alexios Mantzarlis)表示。
白宫官员向彭博社提到了X及马斯克对此事的公开声明，暗示问题已得到控制。美国政府其他部门则公开表示对Grok的支持。美国国防部长赫格塞斯上周赴SpaceX星舰发射场会晤马斯克，抨击所谓“觉醒AI”，并宣布计划将Grok整合至国防部系统。
苹果谷歌无动于衷
苹果和谷歌谷歌运营着全球两大主流移动应用商店。尽管这两家公司历来会下架允许用户对他人进行“裸体化”处理的应用，目前却对X及其Grok未作处理。
本月初，多名美国参议员致函两家公司，指出X和Grok“大规模生成针对女性儿童的非自愿性化图像”违反应用商店服务条款，要求将其下架。两家公司均未回应置评请求。
X尚未被下架
批评马斯克的人向来得冒风险，他的巨额财富和爱打官司的性子，常让批评者打退堂鼓。广告商因为马斯克收购X后的内容政策抵制平台时，他就通过诉讼逼人家回来。有一回诉讼还把某个广告行业联盟给搞散了。这月，美国音乐出版商想阻止X未经许可用受版权保护的歌曲，他也告了人家。跟马斯克作对，可能就得摊上 costly 的法律官司，不管指控站不站得住脚。
目前，艾什莉·圣克莱尔(Ashley St. Clair)是试图通过法律途径挑战Grok的人之一。她是一名保守派网红，最近刚与马斯克生下一个孩子。上周，圣克莱尔对xAI提起诉讼，称Grok生成了关于她的性化图像，而且在她提出投诉后，X公司对她实施了报复。随后，X公司也对她提起反诉，指控她违反合同，因为她没有按照公司服务条款的要求，在得克萨斯州联邦法院提起诉讼。
国际行动
在美国境外，各国政府和监管机构正加大力度对马斯克商业帝国施压。Grok已在印尼和马来西亚被封禁。在X的第二大市场日本，政府官员上周五表示已要求X平台加强防护措施，停止输出不当图像。据日本经济安全保障大臣透露，若有必要将考虑采取法律行动。
法国是最早对Grok提出谴责的国家之一。议员阿图尔·德拉波特(Arthur Delaporte)和埃里克·博托雷尔(Éric Bothorel)在1月2日向检察官报告了他们所称的“明显非法”的性化深度伪造内容。检察官随后确认正在对此事展开调查。
不久之后，欧盟的数字监管机构也启动了相关行动，依据《数字服务法》要求X保留所有与Grok有关的内部文件至今年年底，这是后续可能采取监管措施的前置环节。欧盟数字事务主管赫娜·维尔库宁（Henna Virkkunen）将Grok生成女性和儿童性化图像的能力称为“可怕”，并于上周告诫X“需在欧盟范围内整改其AI工具”，不然就会受到《数字服务法》的处罚，其中可能包括高额罚款。
英国也持类似态度，其媒体和互联网监管机构Ofcom依据《网络安全法》，已针对X启动正式调查程序。这部英国《网络安全法》的核心目标是保障公众，特别是儿童群体免受有害内容的侵害。一旦Ofcom判定X存在违法行为，该公司面临的最高罚款金额可达其全球营收的10%。若X拒绝配合整改，监管部门还可通过向法院申请相关指令，要求互联网服务提供商在英国境内屏蔽该网站。此外，加拿大隐私专员也正在对X展开调查。截至目前，X方面尚未就这些调查事宜作出回应。
英国抗议马斯克的海报
目前尚不清楚这些调查是否会产生实质性后果，即便产生，马斯克是否会遵守也不清楚。这位亿万富翁在X内容问题上与监管机构长期存在争执。欧盟就在去年12月因违反内容监管法规对该社交平台处以罚款。2024年，X在巴西曾因未遵循政府下架内容要求遭临时封禁。
马斯克会消停？
马斯克历来会屈从于政府的法律要求，但很少默然接受。在与巴西政府的交锋中，他曾称该国最高法院法官是“伪装成法官的邪恶独裁者”。本月早些时候，在英国首相斯塔默批评Grok生成“可耻”、“令人作呕”的脱衣图像后，马斯克指责英国政府是“法西斯”，并声称其意图“压制言论自由”。
尽管X已作出调整，但围绕Grok的争议似乎远未结束，特别是如果xAI继续允许该聊天机器人在其独立应用程序中对人物进行数字化“脱衣”。
“最糟糕的结果将是毫无后果，这将证明确实有人能凌驾于法律之上。”斯坦福以人为本AI研究所政策研究员里安娜·普法弗科恩(Riana Pfefferkorn)表示。
长期以来，社交媒体平台始终在竭力处理各类性化内容的管理难题，这是由于这类内容本身带有极强的主观性。人工智能的问世又带来了新的挑战：它使得人们能够更便捷、更迅速地生成并分享性化图像，而这些图像并非都以真实人物为描绘对象。普法弗科恩提到，尽管制作或存储儿童性化图像在法律层面是被明令禁止的，但Grok生成的不少图像在美国或许并不触犯法律。
普法弗科恩补充说，大多数大型AI公司可能都不愿经历马斯克目前面临的公关危机，公众的强烈抗议会促使它们建立适当的防护措施以避免此类情况。然而，Grok事件也可能为这个竞相开发更强大AI系统并寻求新盈利模式的行业树立重要先例。
当马斯克大幅裁减推特员工(包括内容审核员)时，这为其他公司采取类似(即使不那么激进)行动提供了掩护。其他AI公司此前已表露出在内容上向更大胆方向发展的意愿，这可能是为了提升用户参与度。例如，OpenAI表示打算为ChatGPT推出“成人模式”，尽管具体细节尚未公布。该功能预计将于今年第一季度推出。
【
