西山农场居委会 首页
海淀中关村:美加强人工智能推理解释能力研究

随着硅谷私企引领人工智能(AI)爆发式发展,美国国防部发布报告称,将“立即采取行动”加速AI和自动化技术研发。美国国防高级研究计划局(DARPA)已经着手资助13个科研团队,赋予AI另一项本领——在机器学习技术基础上拥有更强的推理和解释能力。


  深度学习和其他机器学习技术已经大大提高了AI的声音识别和图片分类等能力,并在越来越多领域展开应用。但深度学习技术通常只擅长从大数据中找到线索,理解并得出想要的结论仍是无法完成的任务。比如,深度学习系统能识别出照片中的一只猫,但它不能“说出”猫的胡须、眼睛等具体信息,甚至可能将印有猫图案的毛毯误认为一只猫。


  对于需要识别潜在目标进行攻击的军用AI来说,这类错误和模棱两可是零容忍的。在自动驾驶军用汽车和无人机等重要应用领域,AI需要学会推理和解释。在获得DARPA研发投入的研究团队中,一家公司正在研发的新型深度学习系统,能对分类图片中的每个位置进行分析解释;另一个安装机器学习系统的计算机界面已进入实验阶段,它能对数据、视频和人类语言等进行解释。同时,拥有推理解释能力的AI不局限于军用,医药、法律和教育领域等都对AI的可靠性有更高要求。