微软推出开源机器学习安全框架

机器学习不仅在金融，医学和军事领域取得了飞跃，而且对公民的生活也产生了重大影响。但是，尽管人们对机器学习的兴趣日益浓厚，但微软还是发布了一个企业开放框架（Adversarial ML威胁矩阵），该框架可以检测，响应和纠正机器学习攻击，并指出针对机器学习系统的网络攻击的对策还不够。

微软确认，自2016年以来，针对商用机器学习系统的网络攻击正在迅速增加，市场研究公司Gartner还使用AI应对了网络攻击，并在2022年针对了机器学习的攻击，例如学习数据污染攻击。它宣布了一项预测达到总数的30％。

机器学习受到网络攻击的风险日益增加，但另一方面，关于机器学习的危机感却没有增加。根据微软的一项调查，在接受调查的28家公司中，有25家表示他们没有机器学习系统安全工具。为了克服这种现象，Microsoft与MITRE合作发布了一种用于机器学习的开源安全框架，MITRE是一家受美国政府支持的非营利性研究机构，据悉为漏洞标识符CVE编号。

该工具供具有安全人员的企业使用。它提供了一个框架来应对对机器学习系统的新威胁，并采用类似于安全专家常用的MITER ATT＆CK框架的结构。微软和MITRE表示，他们正在确定生产环境中的漏洞和攻击集，并调查该工具的有效性。

由于对机器学习的攻击是一个重要的研究领域，因此Microsoft正在收集多伦多大学，卡迪夫大学和卡内基梅隆大学的专家的意见，并在该工具发布时收集有关此框架的反馈。相关信息可以在这里找到。