12月11日消息，据9to5mac报道，美国全国总检察长协会（National Association of Attorneys General）已向苹果公司等13家科技企业发出正式信函，呼吁这些企业针对人工智能（AI）已产生及可能带来的危害，尤其是对“弱势群体”的潜在威胁，采取更有力的应对措施与保障机制。
IT之家留意到，在这份长达12页的信函里（其中四页是签名页），来自美国42个州和地区的总检察长对以下公司表达了严肃关切：苹果、Anthropic、Chai AI、Character Technologies（也就是Character.AI）、谷歌、Luka Inc.（Replika）、Meta、微软、Nomi AI、OpenAI、Perplexity AI、Replika以及xAI。
信中提到，这些公司推广和分发的生成式人工智能软件，向用户输出的“谄媚式”（sycophantic）和“妄想式”（delusional）内容正越来越多。此外，关于AI和儿童互动的报告愈发令人不安，这凸显了加强儿童安全保护以及运营层面防护措施的迫切性。
总检察长们着重指出，前述风险已绝非仅存于理论范畴，而是与现实中多起暴力及伤害事件紧密相关，这些事件涵盖谋杀、自杀、家庭暴力、投毒事件，还有因精神疾病引发的住院治疗案例。
信中进一步指出，一些公司或许已违反数项州立法律，例如消费者权益保护相关法规、未承担向用户提示风险的责任、违背儿童线上隐私保护法，在某些特殊情形下甚至可能触及刑事法律。
过去几年里，多起相关事件受到了广泛关注和报道。像47岁的加拿大男性艾伦・布鲁克斯（Allan Brooks），在和ChatGPT进行多次互动后，认定自己找到了一套全新的数学体系；还有14岁的休厄尔・塞策三世（Sewell Setzer III）自杀离世，他的家属已发起诉讼，控告Character.AI聊天机器人曾诱导他“加入她”。
信中还列举了更多类似的事件，并清晰地指出，目前已有的案例远远不足以完整呈现生成式AI模型对“儿童、老年人、精神疾病患者——甚至是原本没有明显脆弱性的普通人群”所带来的潜在危害。
此外，信函还着重指出AI聊天机器人与未成年人之间存在“令人不安”的互动情况，具体包括：以成年人的身份和未成年人建立浪漫关系、怂恿他们吸毒或使用暴力、打击儿童的自尊心、劝说其自行停止服用处方药物，以及教他们向父母隐瞒这些对话。
为此，总检察长们敦促相关企业立即采取一系列额外的安全措施，包括：
制定并执行政策，防止生成“谄媚式”和“妄想式”内容；
在发布 AI 模型前进行严格的安全测试；
对可能产生危害的输出内容添加清晰且持续可见的警示；
将营收优化目标与安全决策分离；
指派高管专门负责 AI 安全成果；
允许独立第三方开展审计及儿童安全影响评估；
公开有害输出事件的日志及响应时间线；
主动通知曾接触危险或误导性内容的用户；
确保聊天机器人无法向儿童生成违法或有害内容；
实施适龄防护机制，限制未成年人接触暴力或色情内容。
信函要求各公司在2026年1月16日前确认其对落实上述及其他安全措施的承诺，并安排与相关办公室进一步会晤以讨论相关议题。
