加州出台全美首个AI“伴侣”聊天机器人监管法规

加利福尼亚州成为全美首个为”伴侣”聊天机器人设立明确监管框架的州。这类人工智能程序旨在模拟友谊或亲密关系。州长加文·纽森于周一签署了参议院第243号法案，要求聊天机器人必须声明其人工智能身份，限制与未成年人讨论性和自残话题，并将检测到的自杀倾向案例上报至州自杀预防办公室。

该法案由州参议员史蒂夫·帕迪利亚（圣地亚哥民主党）起草，标志着人工智能监管开辟了新战线——重点从模型架构或数据偏见转向人机情感交互界面。法案强制企业定期提醒用户正在与软件对话，建立应对自残迹象的协议，并维护适龄内容过滤系统。

<span data-mce-type=”bookmark” style=”display:inline-block;width:0px;overflow:hidden;line-height:0″ class=”mce_SELRES_start”></span>

最终版本比帕迪利亚最初提出的法案范围更窄。早期版本要求进行第三方审计且适用于所有用户，不仅限于未成年人；这些条款在行业压力下被删除。

监管力度不足恐难见效？

多家倡议组织指出最终版本的法案监管力度过弱，难以产生实质影响。常识媒体与科技监督项目在立法者删除第三方审计和更广泛执法条款后撤回支持。一位倡议人士向《科技政策观察》表示，修订后的法案可能沦为”空头承诺而非实质政策“。

纽森辩称该法案是新兴技术的必要护栏。他在声明中表示：”聊天机器人和社交媒体等新兴技术能激发灵感、传播知识、建立联系，但若缺乏真正护栏，技术也可能剥削、误导并危害儿童。我们可在AI与技术领域持续领先，但必须负责任地推进——在每个环节保护我们的孩子。”

SB 243法案与近几周签署的一揽子法案共同构成监管体系，其中包括要求大型AI开发商公开披露安全与风险缓释策略的SB 53法案。这些举措使加州跻身州级人工智能治理前沿。

但新规在实践中可能面临挑战。开发者警告，过度宽泛的责任认定或导致企业出于谨慎限制关于心理健康或性教育的正当对话，使用户（特别是孤僻青少年）失去重要支持。

执法同样存在困难：全球性聊天机器人公司难以验证加州未成年人身份，亦无法监控每日数百万次对话。如同加州诸多首创法规，这份善意监管在验证实效前就推广至全国的风险始终存在。

通用智能通讯

由生成式AI模型Gen讲述的每周AI旅程
您的邮箱
立即订阅！
立即订阅！