据外媒报道，美国麻省理工学院、斯坦福大学和宾夕法尼亚大学的研究人员研发了一种方法，可以预测关键安全机器学习系统的故障率，以及有效确定故障发生率。安全关键机器学习系统可以为自动驾驶汽车、机器人手术、心脏起搏器、直升机以及飞机等自动化飞行技术做出决策。与人工智能技术帮助写邮件或推荐歌曲不同，安全关键系统一旦出现故障就会导致严重的伤亡事件。此类机器学习系统导致的问题还有可能导致SpaceX错失降落在着陆平台上，从而导致重大经济损失事件。
研究人员表示，他们提出的神经桥采样法可以为监管机构、学术机构和行业专家提供一个参考，以解决在安全关键环境中部署复杂机器学习系统的相关风险。此外，该方法既可以满足公众对系统经过严格测试的知情权，也可以满足组织机构将AI模型视为商业机密的意愿。事实上，有些AI初创公司和大型科技公司都拒绝使用原始模型进行测试和验证，担心会因此泄露专有信息。
安全关键系统的故障率越低，就越难计算故障率，系统就会越好，但也越难进行预测。为了预测到故障率，研究人员采用了新型马尔科夫链蒙特卡洛（MCMC）方法，以识别接近故障事件发生的分布区域。
该项神经桥采样方法采用了几十年前的统计方法，以及最近推出的仿真测试框架，以评估自动驾驶系统的黑匣子。除了神经桥分布，研究人员也支持隐私意识技术的发展，比如联邦学习和差别隐私，并敦促更多具有技术知识的研究人员和人们加入监管对话，帮助制定政策。
免责声明：
1.本平台目的本着服务汽车外观件行业上下游企业之间交流商机的桥梁，如出现虚假宣传，违反法律法规，侵权他人知识产权，请第一时间来电或致函告之,本平台会及时回复改进并协助解决一切违法违规问题
热点推荐
