人工智能AI 域的进步主要基于神经网络的使用

发布日期：2019-07-08 浏览次数：38

　　人工智能（AI）域的进步主要基于神经网络的使用。类似于人类大脑的功能，它们将数学上定义的单元相互组合。到目前为止，人们还不知道神经网络如何做出决策。在研究人员弗劳恩霍夫海因里希赫兹研究所HHI和柏林工业大学，现在已经开发，其检测标准AI系统作出决策的技术。基于Layer-Wise Relevance Propagation技术的新颖方法Spectral Relevance Analysis（SpRAy）允许查看“黑匣子”。

　　AI在许多生产，广告和传播域发挥着重要作用。例如，公司使用学习和联网的人工智能系统来预测需求并预测客户行为。

　　此外，在卫生服务中，人们使用人工智能的特定活动，例如在基于结构化数据进行预测时。这里，例如，这涉及图像识别：X射线图像作为AI系统的输入给出，输出是诊断。在自动驾驶中捕获图像内容也是至关重要的，其中必须检测交通标志，树木，行人和骑车者而没有错误。这是个问题。在医疗诊断或安全关键域等应用中，AI必须提供可靠的问题解决策略。

　　到目前为止，人工智能系统如何做出决策是不可理解的。此外，预测基于输入数据的质量。在弗劳恩霍夫研究所电信，海因里希赫兹研究所（HHI）和柏林技术大学的研究人员现在已经开发与逐层关联传播（LRP）的技术，使得AI预测可以解释和揭示不确定的解决问题的策略。标识LRP技术，称为频谱分析的相关性（喷）的发展，并量化了广泛了解到决策行为，从而也承认了巨大的数据集不必要的决策。

　　透明AI

　　在实践中，该技术识别用于预测的各个输入元素。例如，当组织图像输入到AI系统时，每个像素对分类结果的影响被量化。因此，对“组织图像”如何“癌性”或“非癌性”的预测补充了该分类的基础的指示。“不仅结果应该是正确的，而且解决方案也是如此。到目前为止，人工智能系统已被用作黑匣子，“博士说。Wojciech Samek，弗劳恩霍夫HHI研究组“机器学习”的负责人。人们相信这些系统正在做正确的事情。研究人员现已成功使用他们的开源软件，使人工智能系统的解决方案发现变得易于理解。“通过LRP，我们可视化和解释神经网络和其他机器学习模型。利用LRP，我们测量每个输入变量对整体预测的影响，并分解分类器的决策，“博士补充道。Klaus-RobertMüller，柏林工业大学机器学习教授。

　　不安全的解决方案策略

　　只有了解神经网络如何工作的人才能信任结果。研究团队的测试证明了AI系统并不总能提出有意义的解决方案。例如，着名的AI系统基于上下文对图像进行分类。如果图片中可以看到很多水，它会分配船类照片。即使大多数图像被正确识别，识别船只的实际任务也没有解决它。“许多人工智能算法都采用不安全的策略，并且没有什么有意义的解决方案，”Samek调查结果说。

　　思考时观察神经网络

　　LRP技术破译了神经网络的功能，并将马的特征识别为马而不是驴或牛。在网络的每个节点，它识别信息如何流经网络。因此，甚至可以检查非常深的神经网络。

　　目前，Fraunhofer HHI和TU Berlin的研究团队正在开发新的算法来研究更多问题，并使AI系统更安全，更健壮。