经过剖析大批训练数据来学习执行计算任务的神经网站，曾经成为人力智能最令人感官深切的全新进展，包括语言声音辩别和自动翻译体系。

然则，在训练时期，神经网站不停地以其创作者没有办法解释的形式调度其里面设计。最近的众多计算机科学的事业要点是聪明的技艺用于确定不过如何神经网站做它们做甚么。

在最近的几篇论文中，来源麻省理工学院计算机科学与人力智能实验室(CSAIL)和卡塔尔计算探讨所的探讨人士运用了最近开发的解释技艺，该技艺已利用于其它范畴，用于剖析通过机器翻译和语言声音培训的神经网站。承认。

它们寻到了对于网站可能如何运作的少许常见直觉的经历扶持。比如，在调转方向更顶级别的任务(比如转录或语义解释)此前，体系仿佛专注于较轻等级的任务，比如声响辩别或词性辩别。

“在机器翻译中，历史上，有一个不同档次的金字塔，”CSAIL顶级探讨科学家吉姆·格拉斯说，他与麻省理工学院电子工程和计算机科学探讨生Yonatan Belinkov一同达成了这种名目。“在最低层，有个词，外表造成，金字塔的顶部是某种语际表明，你有不同的层，你在做语法，语义。这是一种十分抽象的概念，但想法是你在金字塔中走得越高，翻译成新言语就越简单，接下来再一次下调。因而，Yonatan正好做的一部分是试图弄明白这种概念的哪些方面正好网站中被编码。“

最近在世界当然言语料理结合会议上的两篇论文中推荐了机器翻译的事业。一方面，Belinkov是第一作者，Glass是顶级作者，另一方面，Belinkov是合着者。两者皆是卡塔尔计算探讨所(QCRI)的探讨人士，包括LluísMàrquez，Hassan Sajjad，Nadir Durrani，Fahim Dalvi和Stephan Vogel。Belinkov和Glass是剖析语言声音辩别体系的独一作者，Belinkov上周在神经消息料理研讨会上发表了这一论文。

神经网之是以如许命名是由于他们大致挨近人脑的构造。平常，他们被排列成层，每层由众多容易的料理单元构成 - 节点 - 每个节点接连到上下层中的几个节点。数据被送入最低层，最低层的节点料理它并将其传导给下一层。层之中的接连具备不同的“权重”，其确定全部一种节点的输出在下一种节点执好的计算中的数量。

在训练时期，不停从新调度节点之中的权重。在网站训练以后，其组建者可行确定全部接连的权重，可是数千甚而数百万个节点，以及他们之中甚而更多的接连，推断这点权重编码的算法差不多是不可能的。

麻省理工学院和QCRI探讨人士的技艺包括采纳训练有素的网站并运用每个层的输出，以响应个别训练样例，训练另一种神经网站执行特定任务。这使它们能够确定每个图层的改良任务。

在语言声音辩别网站的概况下，Belinkov和Glass运用单个层的输出去训练体系以辩别“手机”，特定于口语的特异语言声音单元。比如，“茶”，“树”和“可是”这两个词中的“t”听起来可能被归类为单独的手机，但语言声音辩别体系必需运用字母“t”来转录他们。实是上，Belinkov和Glass发觉，较轻等级的网站在辩别电话方面比在较顶级别上更好，此中可能的区分不那末要紧。

同样，在昨年夏天在计算言语学协会年会上发表的早期论文中，Glass，Belinkov和它们的QCRI同事表达，较轻等级的机器翻译网站特别擅长辩别词性和形态。 - 时态，数字和共轭等功效。