霍启刚形象被AI盗用：提取声线、利用样貌生成短视频

（由多段落组成）：

近日，全国政协委员、香港立法会议员霍启刚在社交媒体平台公开发声，直指其个人形象正遭遇大规模AI滥用。据他透露，在刚刚过去的周末，网络上再次集中涌现大量以他为原型生成的深度伪造（Deepfake）视频——这些视频不仅高度还原其面部特征与说话口型，甚至精准模拟了其标志性声线和语调节奏，但所传播的观点、立场及言论却完全未经本人授权，且多与事实相悖。更值得警惕的是，部分视频逼真度极高，连其身边长期共事的同事都曾误以为真，观看数分钟后才察觉异常。此类“以假乱真”的AI，已对公众认知造成实质性干扰，严重损害个人声誉，也加剧了社会信任危机。

面对持续泛滥的AI盗用现象，霍启刚团队已启动系统性应对机制：累计下架、举报并推动平台处置虚假超3000条；专门抽调工作人员成立专项小组，每日高频次提交侵权投诉、留存证据链，并协同网信、公安等监管部门溯源追责。然而，由于AI生成门槛持续降低、分发渠道隐蔽多元，新变体仍呈“野火式”反复出现，治理难度远超传统谣言管控。

这一事件折射出AI技术狂奔时代下的深层治理短板。当“眼见为实”不再可靠，“耳听为真”亦成幻觉，AI换脸、AI拟声、AI克隆人等技术若缺乏伦理边界与法律约束，极易沦为不法分子实施精准诈骗、政治抹黑、金融诱导的“数字武器”。专家指出，当前亟需构建“技术+制度+平台+用户”四维协同防线：一方面，社交平台须强化AI生成强制标识制度（如显性水印、元数据标注），优化基于行为模型的异常账号识别系统；另一方面，应建立动态IP轨迹监测与登录风险预警机制——当同一账号在短时内跨地域、跨设备高频发布高危时，自动触发二次身份核验或临时冻结流程，从源头压缩诈骗生存空间。

值得关注的是，国内《生成式人工智能服务管理暂行办法》及《互联网信息服务深度合成管理规定》已明确要求：提供AI生成服务必须显著标识，不得侵害他人人格权。霍启刚此次发声，不仅是对个体权益的坚决捍卫，更是一次面向全社会的AI素养警示：在享受技术红利的同时，每个网民都应提升“数字辨伪力”，平台企业须压实主体责任，监管机构更要加快细化AI侵权认定标准与快速响应通道。唯有多方共治，方能让技术向善而行，而非为恶所用。

AI换脸诈骗,深度伪造治理,霍启刚AI盗用,生成式AI合规,社交媒体安全

本文来源： 快科技【阅读原文】