Raytheon工程研究员加布里埃尔·科米正在进行研究，以使人工智能更值得信赖。

1 一个非常调皮捣蛋又无法管教的小孩是父母的噩梦

当一个顽劣的孩子无法解释他们行为的动机时，很难防止他们做出错误的选择。人工智能提出了类似的挑战。当今的人工智能很多只是简单地接收信息并推送数据，管理大量数据的软件用户需要准确理解系统如何做出决策。为了相信日益复杂的人工智能系统并使其更加可靠。政府、工业界和学术界正在研究这些机器如何做出决策。雷神公司正在资助一项可能提供一些答案的内部研究项目。

2 可解释的人工智能

雷神公司工程研究员加布里埃尔·科米说：“人们对依靠人工智能进行关键决策制造犹豫不决，因为它无法解释原因。我的团队的研究为迈向可信赖的解决方案迈出了第一步。”科米正在研究一种名为“可解释的人工智能”的概念，使用他称之为“AI低声说话者”的软件。编写代码是为了系统而彻底地查询另一个计算机程序。使用来自主题软件的响应，AI语音器映射提供的与产生输出最相关的信息。像研究人员一样，科米的很大一部分工作是尝试多种配置，以确定哪种配置最佳。

3 “人工智能低语者”的目标

科米的研究旨在确保人类操作员充分利用人工智能技术。“我们的目标是让人们比我们的对手更有效率，更快地工作。这不是要放弃我们的权威。随着信息数据量呈指数增长，我们需要这样的工具来缩小差距。要做到这一点，我们需要依靠并信任人工智能和机器学习。”根据科米的说法，人工智能取决于概率和相关性，而不是确定性和相关性。研究他们的决策过程有助于让机器以我们能够理解的方式对他们学到的东西负责。科米说：“随着人工智能继续发展，我们需要能够解释我们的答案，以证明我们正确地得出了这些答案。当我们的老师告诉我们展示我们的工作时，这是我们在小学时所经历的事情。”当前的技术不能像数学课那样展示它的工作，因为没有办法让程序解释它为什么会产生答案。这就是他的工作正在发生变化。 如果科米的原型成功，它可以大大提高人机系统的信任度，美国国防部等人希望探索。人机组合将帮助国防部部队跟上不断变化的威胁形势。

即将到来的结果将是惊人的。

-END-