标签：数据安全

在AGI时代，大模型技术正引领行业变革，其快速发展依赖于大量数据支持。然而，这种技术在创造价值的同时，也引发了数据安全和隐私的担忧。数据提供者因担心大模型泄露训练数据的价值而犹豫提供专业数据，用户信息也可能在使用大模型时遭受侵犯。为了解决这些问题，隐私计算扮演着关键角色。2024年7月6日，「2024 WAIC 隐私计算：助力大模型与数据可信融合发展论坛」将在上海举行，由多个知名机构联合主办。该论坛已连续四年举办，旨在建立年度隐私计算交流平台，今年将关注隐私计算如何保障大模型的安全应用和跨行业数据流通...

北京智源大会，作为人工智能领域的权威盛会，自2019年以来已成功举办五届，吸引了全球众多顶尖专家和研究者。大会以其独特的全球视野，促进了不同国家和地区之间的技术交流，历年共有11位图灵奖得主参与。历届大会中，2023年首次出现了Geoffrey Hinton、Sam Altman、Yann LeCun等国际专家与中国专家同台，引发了对“AI安全”的广泛关注。此外，大会还见证了“大模型”概念的诞生，这一概念现已成为各行各业的标准。 2024年，第六届北京智源大会将于6月14日至15日在中关村国家自主创新示范区会议中心举行，线上线下相结合。大会...

全国网络安全标准化技术委员会最近在其官方网站上发布了《网络安全技术 生成式人工智能服务安全基本要求》征求意见稿，旨在强化生成式人工智能开发和应用的安全性。该标准分为三个部分：标准文本、意见汇总处理表和编制说明。标准文本详细规定了训练数据安全、模型安全等方面的要求。公众可以在2024年7月22日前向国家网安标委秘书处提出反馈意见。 2023年7月，我国七部门发布了《生成式人工智能服务管理暂行办法》，为生成式AI的健康发展提供了法规支持。本次发布的标准进一步细化了《办法》中的安全规定，涵盖了网络安全、...

AI技术的精准定位能力已经达到了惊人的水平，通过分析照片中的细微线索，如光线、植物、建筑和天气，可以精确识别出照片拍摄的地理位置，甚至精确到经纬度。一个名为GeoSpy的工具由俄罗斯黑客开发，声称能通过照片分析来判断位置，使用了地理空间视觉大语言模型的技术。GeoSpy的功能类似于游戏GeoGuessr，玩家需要在地图上找到街景图片的坐标。近期，一位GeoGuessr的职业玩家Gavin与GeoSpy进行了在线对决，展示了AI与人类在定位技能上的较量。 在比赛中，Gavin凭借对细节的敏锐观察，成功识别出一些地点，但AI GeoSpy的定位...

可解释AI（XAI）作为人工智能的新趋势，旨在揭示AI决策背后的逻辑，提升系统的透明度和可靠性。随着复杂大模型的崛起，可解释性成为AI可持续发展的关键。最近，IEEE发布了可解释AI体系结构标准P2894，旨在开启AI的“黑匣子”。这一标准由包括微众银行、华为、京东等在内的多家企业与机构共同参与制定，旨在提供构建、部署和管理机器学习模型的蓝图，确保AI的透明度和可信度。 标准定义了可解释AI的架构框架，涵盖其描述、应用场景及性能评估方法，促进了不同领域的实践交流。此外，这一标准也是“可信联邦学习”发展的重要里程...