加州签署全美首个 AI 陪伴聊天机器人法案：年龄要验、色情要拦、自杀要防

（由多段落组成）：

近年来，随着人工智能技术的迅猛发展，AI陪伴型聊天机器人逐渐走入大众生活，尤其在青少年群体中广受欢迎。然而，随之而来的安全风险也日益凸显。2024年10月14日，美国加利福尼亚州州长加文·纽森正式签署《参议院第243号法案》（SB 243），标志着加州成为全美首个对AI情感陪伴类聊天机器人实施强制性安全监管的州。这项具有里程碑意义的立法旨在防范AI技术对未成年人和心理脆弱用户可能造成的伤害，要求相关企业必须落实一系列保护机制，否则将面临法律责任。

SB 243法案由加州参议员史蒂夫·帕迪拉与乔什·贝克尔于年初提出，其推动背景源于多起令人痛心的社会事件。例如，一名青少年长期与OpenAI的ChatGPT进行涉及自杀倾向的对话后不幸离世；另有内部文件曝光Meta旗下的AI助手曾与未成年用户展开带有“浪漫”甚至“情欲”色彩的交流。更严重的是，科罗拉多州一家庭已对初创公司Character AI提起诉讼，指控其13岁女儿在与AI机器人进行多次含有性暗示的对话后选择轻生。这些案例引发了公众对AI伦理与儿童网络安全的高度关注，也为该法案赢得广泛支持。

根据SB 243的规定，自2026年1月1日起，所有在加州运营的AI聊天机器人服务提供商，无论规模大小，都必须遵守严格的安全标准。其中包括：部署有效的年龄验证系统，防止未成年人接触不当；明确告知用户对话由AI生成，不得冒充医生、心理咨询师等专业角色；禁止向青少年推送或生成色情图像；并设置定时休息提醒功能，避免过度沉迷。此外，平台还需建立针对自残、自杀等高危行为的应急响应机制，并定期向加州公共卫生部门提交危机干预数据报告。

为强化法律威慑力，法案还大幅提高了对非法利用深度伪造（deepfake）技术牟利行为的处罚力度，单次违规最高可被处以25万美元罚款（约合人民币178.4万元）。同时，纽森州长强调，科技创新不应以牺牲儿童安全为代价。他在公开声明中指出：“AI有能力连接世界、启发思维，但若缺乏必要监管，也可能沦为剥削与误导的工具。我们必须在推动技术进步的同时，确保每一步都守护好下一代的成长环境。”

面对日益严格的监管趋势，部分科技企业已开始主动调整产品策略。OpenAI近期为其ChatGPT推出了家长控制功能、过滤系统以及青少年自残行为识别模型，以提升安全性。Character AI则表示，其聊天机器人内置了清晰的免责声明，强调所有互动均为虚构，并承诺将积极配合监管政策，包括遵循SB 243的各项规定。该公司发言人向TechCrunch透露：“我们支持构建负责任的AI生态，愿与立法者共同探索行业规范。”

此次SB 243的通过，是加州在人工智能治理领域迈出的关键一步。它不仅是继9月底SB 53法案之后，加州短期内推出的第二项重要AI监管法规——后者要求Anthropic、Google DeepMind、Meta和OpenAI等大型AI实验室公开安全测试流程并保护举报人权益——更反映出地方层面正在填补联邦监管空白的紧迫行动。目前，伊利诺伊州、内华达州和犹他州也相继出台政策，禁止将AI聊天机器人用于替代持证心理健康服务。专家认为，这场关于AI伦理与责任的讨论正从加州蔓延至全美，或将催生全国性的监管框架。

AI聊天机器人监管, 加州SB 243法案, 人工智能儿童安全, 深度伪造处罚, AI心理健康风险

本文来源：