微软将AI反抗AI安全评估工具开源

微软已经将其AI安全风险评估工具Counterfit开放源代码,任何人都可以免费开始使用该工具。当前,组织可以使用Counterfit来自动进行安全风险评估,以确保他们使用的保护是最重要的。

Microsoft发布Counterfit作为开源工具

微软最初将Counterfit开发为一种内部工具,可以快速评估AI和机器学习系统的安全性。它以脚本的集合开始,然后迅速转变为操作员可以用来“攻击多个AI系统”的通用AI自动化。

微软现在定期将Counterfit用作其AI红色团队运营的核心工具。由于Counterfit不受环境,模型和数据的影响,因此该工具可以提供精确的评估而不会产生阻抗。

该工具本身旨在供安全专业人员使用。 Counterfit使用与其他流行的红队工具(例如Metasploit或PowerShell Empyre)类似的工作流程,并广泛支持脚本编写,预加载的攻击算法,漏洞扫描,高级日志记录等,可通过命令行访问。

微软还与安全专业人员和大型组织广泛合作,以更好地开发Counterfit。空中客车公司高级网络安全研究员Matilda Rhode在Microsoft安全博客上说:

人工智能在工业中的使用越来越多。至关重要的是,要确保这种技术的安全,尤其是要了解在问题空间中可以实现特征空间攻击的位置。微软等组织为安全从业人员发布开放源代码工具以评估AI系统的安全性既是受欢迎的,又清楚地表明该行业正在认真对待此问题。

您可以在其官方GitHub上找到开源Microsoft Counterfit

相关: AI永远不会完成的工作

为什么反身健身很有用?

即使对于像Microsoft这样规模的公司,要进行有效的安全评估也不容易,尤其是当那些公司都是《财富》 500强领导人,政府,非营利组织等等。微软先前的一项研究发现,许多企业无法准确测试其AI系统。

我们发现28家企业中有25家表示他们没有合适的工具来保护自己的AI系统,并且安全专业人员正在该领域寻求具体指导。

抵消使完成这些评估变得更加容易,从而使分析和测试过程自动化。

相关:使用AI技术改善业务的方法

此外, Gartner最近发表的一项研究将AI安全性采用列为公司可以采取的最重要的安全措施之一,以提高保护水平。同一项研究指出,“到2024年,实施专门的AI风险管理控制的组织将成功避免负面的AI结果,是避免负面结果的两倍。”

简而言之,Counterfit成为开源AI安全评估工具应有助于使整个世界变得更加安全。