马斯克 X 平台涌现大量涉未成年不当 AI 内容,英国首相斯塔默敦促整顿

(由多段落组成):

近日,英国首相基尔·斯塔默就社交媒体平台X(原Twitter)因AI模型Grok生成不当图像一事发声,引发广泛关注。据彭博社1月9日报道,斯塔默在凌晨发表声明,严厉谴责该平台传播由人工智能生成的儿童性化,并敦促X公司立即采取整改措施。他形容此类行为“令人作呕且不可接受”,强调任何涉及未成年人的非法图像都必须被彻底清除。

此次争议的核心在于,X平台被指成为AI生成违法图像的重要传播渠道之一。第三方监测数据显示,平台上频繁出现利用AI技术对真实人物进行“虚拟脱衣”的合成图像,许多受害者在毫不知情的情况下被恶意处理。仅本周某一天内,每小时就有数千条相关违规涌现,传播速度惊人,引发公众对网络伦理与安全的深切担忧。

更严重的是,英国负责网络儿童保护的机构——互联网观察基金会(IWF)透露,已在暗网中发现疑似由Grok模型生成的非法图像。这些涉及年龄介于11至13岁的未成年女孩,具有明显的性剥削性质,已达到需执法部门介入调查的标准。IWF强调,此类AI生成虽非真实拍摄,但法律上仍被视为儿童性虐待材料(CSAM),必须依法追责。

面对持续发酵的舆论压力,英国通信管理局(Ofcom)已正式介入调查。该机构确认已就相关指控与马斯克旗下的X公司展开沟通,并将持续跟进平台的审核机制是否符合英国《在线安全法案》的要求。斯塔默明确表态,政府将全力支持监管机构采取必要行动,确保社交平台履行其法律责任,保护用户尤其是未成年人的网络安全。

此次事件再次将AI技术滥用问题推上风口浪尖。随着生成式AI的快速发展,如何平衡技术创新与合规成为全球监管难题。专家呼吁,科技企业应主动建立更严格的AI输出过滤系统,防止技术被用于制造和传播非法。同时,各国也需加快立法步伐,堵住数字时代的监管漏洞,构建更清朗的网络空间。

AI生成图像, 儿童安全保护, X平台监管, 生成式AI滥用, 在线审核

本文来源: IT之家【阅读原文】
© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...