标签：微软

微软近日公开了其Python风险管理工具——PyRIT，这是一个专为安全专家和AI开发者设计的自动化框架，旨在识别并防止生成式人工智能可能带来的安全隐患，确保AI系统的可控性。微软的内部AI安全团队，即AI Red Team，已运用此工具对包括Copilot在内的生成式AI系统进行了风险评估。 AI Red Team的角色类似网络安全领域的“红队”，即模拟对手进行实战演练，以提升产品的安全性能。微软组建的这个跨学科专家团队，专注于策划复杂的攻击测试，以增强AI的安全性。 PyRIT框架的操作机制简洁高效：PyRIT Agent向目标Gen AI系统发送潜在...