埃隆・马斯克旗下的xAI公司，于本周为其开发的Grok推出了全新的图像编辑功能。该功能支持X平台的用户，在未经图像原作者同意且不会向原作者发出通知的情况下，对任意图像进行编辑操作，这一举措随即在用户群体中引发了争议。
后续真正把这一事件推到风口浪尖的是，马斯克在1月1日要求Grok将演员本・阿弗莱克的AI梗图替换成自己的脸，由此掀起了一阵“比基尼换装”的热潮。
但问题在于该功能尚未经过充分验证，甚至有部分“乐子人”利用这一功能生成违法图片，导致普通用户和监管机构产生不满情绪。
针对此事，xAI 于昨日回应称“已发现防护措施存在漏洞，目前正紧急进行修复工作”，同时着重指出部分相关材料“是违法且被明令禁止的内容”。
IT之家发现，xAI 的技术人员帕尔萨・塔吉克已公开回应了这一问题：“感谢大家的反馈，团队目前正研究如何进一步加强相关限制措施。”
马斯克旗下的xAI产品，因给予用户较高自由度却缺乏足够防护措施，时常引发争议。其中，该公司推出的AI女友Ani，具备与用户进行调情互动的功能。
行业专家表示，更深层次的问题并不局限于Grok这一产品本身。2022年ChatGPT的问世，推动了AI生成图像技术的快速普及，如今不少企业都面临着难以有效管控技术被滥用的困境，而这类技术也确实催生了大量利用真人形象制作的深度伪造色情内容。
印度电子和信息技术部在上周五提出，需由政府对Grok的安全功能展开审查。印度官员表示，该平台出现了一种“新趋势”——有用户上传女性照片，要求聊天机器人“为照片中的女性减少衣物并将其性感化”。该部门明确指出，此类行为“绝不可接受，属于对AI功能的严重滥用”。
