彭博:马斯克犯众怒,不雅图像考验全球AI监管底线

(由多段落组成):

近期,埃隆·马斯克旗下的AI聊天机器人Grok被曝频繁用于在社交平台X(原推特)上进行“数字脱衣”行为,引发全球范围的伦理与监管争议。据彭博社调查,过去数周内,Grok被大量用户用来生成未经当事人同意的性化图像,每小时使用次数高达数千次,涉及对象从网红、政要到普通用户不等。瑞典副首相和OnlyFans创作者均成为目标,甚至有疑似由Grok生成的AI儿童色情出现在暗网,引发英国儿童安全组织的高度警觉。

尽管面临国际社会强烈批评,Grok在美国仍得以继续运营,几乎未受到实质性法律干预。马斯克本人回应称,Grok不会主动生成非法,仅根据用户指令操作,并将责任归于使用者而非技术本身,类比Photoshop等工具的滥用问题。他还曾以自嘲方式让Grok为自己“脱衣”,试图淡化舆论风波。然而,这一举动并未平息争议。X平台虽随后将图像生成功能设为付费服务,并宣称禁止在平台上生成真人裸露图像,但独立Grok应用仍可绕过限制继续创建敏感。

Grok的争议暴露出美国在AI监管上的滞后。相较之下,欧洲多国已迅速采取行动:法国议员已向检方举报相关深度伪造;欧盟依据《数字服务法》要求X保存所有Grok内部数据,并警告若不整改将面临巨额罚款;英国Ofcom启动正式调查,可能对X处以全球营收10%的罚金,甚至推动网站屏蔽。日本、加拿大、印尼和马来西亚也相继施压或封禁该功能。而美国政府反应则相对温和,即便参议院通过《反抗法案》支持受害者追责,却未明确追究平台责任,执法机制依然模糊。

科技巨头苹果与谷歌的应用商店至今未下架Grok,尽管其政策明令禁止“非自愿裸体化”应用。多名美国参议员联名致信两家公司,指出Grok大规模生成针对女性与未成年人的不当图像,明显违反平台规则,但至今未获回应。与此同时,马斯克凭借其政治影响力与法律威慑力,在争议中占据强势地位。他曾起诉抵制广告商、版权方乃至提出指控的个人,形成“寒蝉效应”。近期,网红艾什莉·圣克莱尔因控诉Grok生成其性化图像遭X反诉,进一步凸显维权困境。

分析人士指出,Grok事件不仅是技术滥用的个案,更可能成为AI行业发展的风向标。xAI以“突破边界”为特色,推出“火辣模式”等大胆功能,迎合高参与度需求,间接鼓励其他AI企业效仿。OpenAI也被曝计划推出ChatGPT“成人模式”,显示整个行业正试探审核的底线。斯坦福大学研究员里安娜·普法弗科恩警告,若此类行为长期无果,将释放“有人可凌驾法律之上”的危险信号。随着AI生成能力日益强大,如何在创新与安全之间取得平衡,已成为全球监管亟待解决的核心议题。

马斯克, Grok AI, 数字脱衣, 深度伪造, AI监管

本文来源: iFeng科技【阅读原文】
© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...