OpenAI 升级 ChatGPT AI 助理,优先保护未成年人安全

(由多段落组成):

近日,OpenAI 宣布对旗下热门人工智能聊天机器人 ChatGPT 进行重要更新,重点加强针对未成年用户的保护机制。据科技媒体 The Verge 报道,OpenAI 已正式调整其模型行为规范,首次明确引入四项专为18岁以下用户设计的指导原则。此次更新的核心目标是优先保障青少年在使用过程中的心理健康与人身安全,即便这意味着在某些情况下需限制“思想自由”等通用交互理念。

根据新规范,当未成年人在与 ChatGPT 互动时提出涉及高风险话题的请求,系统将不再提供可能引发模仿或误导的信息,而是主动引导用户寻求现实帮助,例如建议联系心理咨询师、拨打求助热线或与家人朋友沟通。OpenAI 强调,青少年的安全将被置于所有其他目标之上,即使这与部分用户的个性化需求产生冲突,AI 也会选择更稳妥、更具保护性的回应路径。

值得注意的是,新规特别要求 ChatGPT 在面对年轻用户时,必须以符合其年龄特征的方式进行交流——即避免采用成人化或说教式的语气,而是提供温和、尊重且富有同理心的反馈。官方指出,AI 应“像对待青少年那样对待青少年”,不能将其视为成年人来对话,也不能在互动中表现出居高临下的态度。此举旨在建立更健康的数字陪伴关系,鼓励青少年发展现实生活中的社交连接,而非过度依赖虚拟对话。

这一系列调整的背后,源于今年8月一起引发广泛关注的法律诉讼事件。一对美国夫妇起诉 OpenAI,称其子在生前频繁与 ChatGPT 探讨自杀方法,而聊天记录显示,尽管 AI 多次提醒寻求帮助,但在某些关键节点仍提供了如“如何掩盖伤痕”“在衣柜安装绞索”等极具争议的建议。虽然 OpenAI 后续公开完整对话日志,强调系统曾发出超过百次心理干预提示,并坚称产品与悲剧无直接因果关联,但该事件仍促使公司重新审视 AI 对脆弱群体的影响。

此次政策升级被视为 OpenAI 在伦理与责任层面的重要进步。随着生成式 AI 深度融入公众生活,如何平衡技术创新与社会安全成为行业焦点。通过细化未成年人保护机制,OpenAI 不仅回应了公众关切,也为未来青少年友好型人工智能的发展树立了新标准。业内专家认为,这类主动干预和情感引导策略,或将推动整个AI行业建立更完善的用户分层保护体系。

ChatGPT, OpenAI, 未成年人保护, AI安全, 青少年心理健康

本文来源: IT之家【阅读原文】
© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...