1. 身体如何进行内部通信
人体是一个非常精妙的有机生命体。面对环境中的刺激，人体会非常迅速的做出适应性的反应。举一个例子，你正驾车行驶在蜿蜒的山路上，前方一辆车突然直冲你而来。你甚至无需思考，赶紧朝反方向紧打方向盘，避开了对方。你怎么能这样迅速的做出反应，避开危险的呢？这就涉及到我们身体如何进行内部通信？
人体有两套通信系统：行动迅速的神经系统和行动较为迟缓的内分泌系统。神经系统具有遍布周身的神经细胞网络，并且以电冲动和化学能的形式将信息传到身体的各个部分。在你遇到危险时，正是这个系统首先反应，让你迅速采取行动，避开危险。
我们先看一下神经系统的基本建构。神经元是神经系统的基本构成单位，它是一种专门用来接收，处理和传送信息的细胞。一个典型的神经元可以从上千个细胞那里接收信息，并且在几分之一秒内做出决定，将信息以每秒100米的速度传送给上千个，有时甚至多达上万个神经元。
生物心理学家根据神经元所处位置和功能的不同将神经元分为三大类，感觉神经元，运动神经元和中间神经元。感觉神经元也叫传入神经元，负责将各种感觉体验（ 包括视觉，听觉，味觉，触觉，嗅觉，疼痛感和平衡感 ）从感觉器官传递给脑。运动神经元也叫传出神经元，负责将信息从脑传递到肌肉，器官和腺体。感觉神经元和运动神经元很少直接互相传递信息，除非在最简单的反射回路中，它们之间的通信通常依赖于中间启腊虚神经元。在脑和脊髓的数＋亿细胞中大多数都是中间神经元。来自感觉神经元的信息，由中间神经元接替，传递给其他的中间神经元和运动神经元，有时传递的路线非常复杂。其实脑在很大程度上是一个由数十亿中间神经元巧妙连接起来的网络。
在驾车这个例子中，感觉神经元将我们眼睛看到的信息（前面一辆车直冲而来）传递给中间神经元，中间神经元将朝反方向紧打方向盘的指令通过运动神经元传达到手，从而使我们避开了危险。
神经元传递信息的速度如此之快，是与它的结构密切相关的。一个神经元包括胞体和突起两个部分，突起又有两种，长而少的突起叫轴突，短而多的突起叫树突。树突尤如一张情报网，负责收集来自外部刺激（比如压力、光和声音）或者是邻近神经元的活动。树突通过将传入的信息传递到胞体这一神经元的中心部分来完成自己的任务。胞体不仅含有神经元的细胞核和维持其生命的系统，而且还要承担评估来自于树突以悄燃及直接来自于其他神经元的信息。在这一过程中，来自某个突触的信息并不重要，因为一个典型的神经元要从数以百计，甚至是千计的其他神经元接受信息。更复杂的是，这些信息有些是让神经元触发的兴奋性的信息，另一些则是不让神经元触发的抑制性的信息。胞体到底被唤起到什么程度，取决于其接收到信息的总和。当神经元接收到的兴奋信号多于抑制信号的时候，神经元就会被唤起，并发出一个自己的信号，该信号由单一的发射纤维即轴突发送。
神经细胞间的间隙叫做突触，主要起到电绝缘体的作用，防止沿轴突传递下来的电荷跳到下一个细胞。为了让信息能够跨越突触间隙继续传递，神经元必须启动在终扣内发生的进程。终扣是轴突末端内的球状结构。随后被称为突触传递的一系列重要活动会把电信号转变为能够在神经元之间的突触间隙自如传递的化学信号。神经递质便是在神经元之间进行通信的化学物质。神经学科学家已经鉴别出许多种不同的神经递质，下面会介绍七种被证明对心理功能特别重要的神经递质。局陪而且这些递质的失衡被认为会导致某种心理障碍。同时，这些神经递质的行为会受到一些化学物质的影响，这也是药物治疗心理障碍的机理。这七种神经递质分别是：1、多巴胺 让人产生愉悦和回报的感觉，与随意运动有关的中枢神经系统神经元使用该神经递质。当多巴胺不平衡时，就会导致精神分裂症、帕金森氏症。多巴胺的会受到可卡因，安非他明，酒精等物质的影响。
2、血清素 调节睡梦，心情、疼痛，攻击行为，食欲和性行为。不平衡时会导致抑郁症，某种焦虑症，强迫症。百忧解、致幻剂会影响血清素的行为。
3、去甲肾上腺素 植物性神经系统中，以及几乎脑所有区域中的神经元都使用该神经递质。去甲肾上腺素的失衡会导致高血压，抑郁症。三环类抗抑郁药，β受体阻滞剂会影响它的行为。
4、乙酰胆碱 运动神经元将信息从中枢神经系统传出所使用的主要神经递质。某些学习和记忆过程也使用该神经递质。失衡时会引起某些肌肉障碍，老年痴呆症。 黑寡妇蜘蛛的毒液和肉毒杆菌毒素，箭毒、尼古丁等会影响该神经递质的行为。
5、r－氨基丁酸 是中枢神经系统神经元中最普遍的抑制性神经递质。失衡时会导致焦虑症，癫痫症。巴比妥类药物、弱镇定剂（如安定，利眠宁）等会影响该神经递质的行为。
6、谷氨酸 中枢神经系统中有关学习和记忆的主要兴奋型神经递质。中风后过量谷氨酸的释放显然会导致脑损伤。五氯酚会影响它的行为。
7、内啡肽 使人产生愉悦感和对疼痛的控制。吸食鸦片上瘾会导致该神经递质水平降低。鸦片类药物如鸦片，海洛因，吗啡和美沙酮会影响该神经递质的行为。
神经元有一个非常重要的特性，叫做可塑性。它既可以与其它的细胞建立新的连接，也可以加强现有的连接。这说明神经系统，特别是脑，会随着人的经历而发生功能上和生理结构上的改变。
胶质细胞是为神经元提供支持的细胞。它为神经元提供结构性的支持，并且帮助其形成新的突触。新的证据还显示，他们还可能是学习过程的重要部分。胶质细胞还会形成髓鞘。髓鞘是脑和脊髓中许多轴突周围的脂肪绝缘物质。就像电线外面的包漆一样，髓鞘隔绝和保护神经细胞，并且帮助神经冲动沿着轴突加速传导。不幸的是，某些疾病（如多发性硬化症）会攻击髓鞘，特别是运动通路中的髓鞘，结果会导致神经冲动难以正常传导，因此，患有此病的病人会难以控制动作。
所以你的神经系统有两种主要的构建单元：具有惊人可塑性的神经元和保护它们并帮助它们传递信息的支持性胶质细胞。不过，虽然这些细胞个体非常神奇，我们还要指出，从行为和心理过程的全局来看，单独一个细胞做不了什么，要想产生思维，感觉和情感，需要数以千计，甚至是数以百万计的神经元以同步波形反复触发它们的电子化学信号，并在脑无比复杂的神经网络中传递这些信号。相似的，人体的所有动作都是由通过神经系统传导到你肌肉，腺体和器官的神经冲动波所激发的。精神活性药物如镇静剂，抗抑郁药物，镇痛药物的效果依赖于在个体细胞和它们突触的层面改变神经冲动波的化学性质。
神经系统又可以分为中枢神经系统和周围神经系统两大类。中枢神经系统包括脑和脊髓，是身体的司令部。它负责各种复杂的决策，协调身体的各项功能，并启动我们的各种行为。脊髓将脑和周围神经系统的各个部分连接起来。同时它还负责一些简单而迅速的反射，这些反射不需要脑的强大能力进行处理。随意运动需要脑的参与。这就是为何对脊髓神经的损伤会导致肢体瘫痪的原因。瘫痪的程度取决于损伤的位置，一般而言，损伤的位置越高，瘫痪的程度就越高。
周围神经系统又分为体神经系统和植物性神经系统。体神经系统是脑和外部世界相连的沟通渠道。其感觉组成部分，将感觉器官与脑相连，而其运动组成部分则将中枢神经系统与控制随意运动的骨骼肌相连。所以当你看见一块披萨饼的时候，体神经系统的传入神经系统会将披萨饼的图象传递给脑，随后如果一切正常，传出神经系统会将脑发出的指令传给肌肉，把那块披萨饼送入你的嘴巴。
植物性神经系统传递控制内脏的信号，告诉内脏完成诸如调节消化，呼吸，心率和唤起水平的工作。令人惊讶的是，所有这些并不需要我们意识的参与便能自动完成。即便你在入睡，亦或是昏迷的时候，植物性神经系统依然可以让维持生命的基本身体机能正常工作。
生物心理学家将植物性神经系统进一步分为交感神经和副交感神经。它们功能相反（交感神经负责唤起，副交感神经负责平复），又共同合作，就像是翘翘板两头的孩子一样。
2. 人体内神经网络有多大
神经，对我们人体来说是至关重要的。神经可以传递信息，使我们感知身体接触的一切。如果你的困侍手被刺扎了一下，手就会向后猛地一抽，这就是神经的快速反应。神经信号绕过你的大脑直接通过你的脊髓传达到肌肉，这才使你纳尺高尽可能快地将手缩回来。
经解剖学家测定，大约有75公里长的神经蜿蜒穿过我们的身体。像蜘蛛网一样的神经网络在我们的脑、脊髓和身体之间传递着各种信息。这种信洞尺息以微小电信号的形式存在着。
3. AlphaGo的神奇全靠它，详解人工神经网络!
- 01
Alphago在不被看好的情况下，以4比1击败了围棋世界冠军李世石，令其名震天下。随着AlphaGo知名度的不断提高，人们不禁好奇，究竟是什么使得AlphaGo得以战胜人类大脑？AlphaGo的核心依托——人工神经网络。
什么是神经网络?
人工神经网络是一种模仿生物神经网络(动物的中枢神经系统，特别是大脑)的结构型大昌和功能的数学模型或计算模型。神经网络由大量的人工神经元联结进行计算。大多数情况下人工神经网络能在外界信息的基础上改变内部结构，是一种自适应系统。现代神经网络是一种非线性统计性数据建模工具，常用来对输入和输出间复杂的关系进行建模，或用来探索数据的模式。
神经网络是一种运算模型，由大量的节点（或称“神经元”，或“单元”）和之间相互联接构成。每个节点代表一种特仿返定的输出函数，称为激励函数。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。
例如，用于手写识别的一个神经网络是被可由一个输入图像的像素被激活的一组输入神经元所定义的。在通过函数（由网络的设计者确定）进行加权和变换之后，这些神经元被激活然后被传递到其他神经元。重复这一过程，直到最后一个输出神经元被激活。这样决定了被读取的字。
它的构筑理念是受到人或其他动物神经网络功能的运作启发而产生的。人工神经网络通常是通过一个基于数学统计学类型的学习方法得以优化，所以人工神经网络也是数学统计学方法的一种实际应用，通过统计学的标准数学方法我们能够得到大量的可以用函数来表达的局部结构空间，另一方面在人工智能学的人工感知领域，我们通过数学统计学的应用可以来做人工感知方面的决定问题(也就是说通过统计学的方法，人工神经网络能够类似人一样具有简单的决定能力和简单的判断能力)，这种方法比起正式的逻辑学推理演算更具有优势。
人工神经网络是一个能够学习，能够总结归纳的系统，也就是说它能够通过已知数据的实验运用来学习和归纳总结。人工神经网络通过对局部情况的对照比较（而这些比较是基于不同情况下的自动学习和要实际解决问题的复杂性所决定的），它能够推理产生一个可以自动识别的系统。与之不同的基于符号系统下的学习方法，它们也具有推理功能，只是它们是建立在逻辑算法的基础上，也就是说它们之所以能够推理，基础是需要有一个推理算法则的集合。
2AlphaGo的原理回顶部
AlphaGo的原理
首先，AlphaGo同优秀的选手进行了150000场比赛，通过人工神经网络找到这些比赛的模式。然后通过总结，它会预测选手在任何位置高概率进行的一切可能。AlphaGo的设计师通过让其反复卜扒的和早期版本的自己对战来提高神经网络，使其逐步提高获胜的机会。
从广义上讲，神经网络是一个非常复杂的数学模型，通过对其高达数百万参数的调整来改变的它的行为。神经网络学习的意思是，电脑一直持续对其参数进行微小的调整，来尝试使其不断进行微小的改进。在学习的第一阶段，神经网络提高模仿选手下棋的概率。在第二阶段，它增加自我发挥，赢得比赛的概率。反复对极其复杂的功能进行微小的调整，听起来十分疯狂，但是如果有足够长的时间，足够快的计算能力，非常好的网络实施起来并不苦难。并且这些调整都是自动进行的。
经过这两个阶段的训练，神经网络就可以同围棋业余爱好者下一盘不错的棋了。但对于职业来讲，它还有很长的路要走。在某种意义上，它并不思考每一手之后的几步棋，而是通过对未来结果的推算来决定下在哪里。为了达到职业级别，AlphaGp需要一种新的估算方法。
为了克服这一障碍，研究人员采取的办法是让它反复的和自己进行对战，以此来使其不断其对于胜利的估算能力。尽可能的提高每一步的获胜概率。（在实践中，AlphaGo对这个想法进行了稍微复杂的调整。）然后，AlphaGo再结合多线程来使用这一方法进行下棋。
我们可以看到，AlphaGo的评估系统并没有基于太多的围棋知识，通过分析现有的无数场比赛的棋谱，以及无数次的自我对战练习，AlphaGo的神经网络进行了数以十亿计的微小调整，即便每次只是一个很小的增量改进。这些调整帮助AlphaGp建立了一个估值系统，这和那些出色围棋选手的直觉相似，对于棋盘上的每一步棋都了如指掌。
此外AlphaGo也使用搜索和优化的思想，再加上神经网络的学习功能，这两者有助于找到棋盘上更好的位置。这也是目前AlphaGo能够高水平发挥的原因。
3神经网络的延伸和限制回顶部
神经网络的延伸和限制
神经网络的这种能力也可以被用在其他方面，比如让神经网络学习一种艺术风格，然后再将这种风格应用到其他图像上。这种想法很简单：首先让神经网络接触到大量的图像，然后来确认这些图像的风格，接着将新的图像带入这种风格。
这虽然不是伟大的艺术，但它仍然是一个显着的利用神经网络来捕捉直觉并且应用在其他地方的例子。
在过去的几年中，神经网络在许多领域被用来捕捉直觉和模式识别。许多项目使用神经这些网络，涉及的任务如识别艺术风格或好的视频游戏的发展战略。但也有非常不同的网络模拟的直觉惊人的例子，比如语音和自然语言。
由于这种多样性，我看到AlphaGo本身不是一个革命性的突破，而是作为一个极其重要的发展前沿：建立系统，可以捕捉的直觉和学会识别模式的能力。此前计算机科学家们已经做了几十年，没有取得长足的进展。但现在，神经网络的成功已经大大扩大，我们可以利用电脑攻击范围内的潜在问题。
事实上，目前现有的神经网络的理解能力是非常差的。神经网络很容易被愚弄。用神经网络识别图像是一个不错的手段。但是实验证明，通过对图像进行细微的改动，就可以愚弄图像。例如，下面的图像左边的图是原始图，研究人员对中间的图像进行了微小的调整后，神经网络就无法区分了，就将原图显示了出来。
另一个限制是，现有的系统往往需要许多模型来学习。例如，AlphaGo从150000场对战来学习。这是一个很庞大额度数字！很多情况下，显然无法提供如此庞大的模型案例。
4. 人工神经网络概述（更新中）
智能： 从感觉到记忆再到思维的过程称为“智慧”，智慧的结果是语言和行为。行为和语言予以表达称为“能力”。智慧和能力的总称为“智能”。感觉、记忆、思维、行为、语言的过程称为“智能过程”。
人工智能： 人工构建的智能系统。
人工智能是研究和开发用于模拟、延伸和扩展人类智能的理论、方法、技术及应用的技术学科，其主要研究内容可以归纳为以下四个方面。
人工神经网络是基于生物神经元网络机制提出的一种计算结构，是生物神经网络的某种模拟、简化和抽象。神经元是这一网络的“节点”，即“处理单元”。
人工神经网络可用于逼近非线性映射、分类识别、优化计算以及知识挖掘。近年来，人工神经网络在模式识别、信号处理、控制工程和优化计算领域得到了广泛的应用。
M-P模型由心理学家McCulloch和数学家W. Pitts在1943年提出。
M-P模型结构是一个多输入、单输出的非线性元件。其I/O关系可推述为
其中， 表示从其他神经元传来的输入信号; 表示从神经元 到神经元 的连接权值; 表示阈值; 表示激励函数或转移函数; 表示神乱袭经元 的输出信号。
作为一种最基本的神经元数学模型，M-P模型包括了加权、求和和激励（转移）三部分功能。
神经元的数据模型主要区别于采用了不同的激励函数。
概率型函数的输入和输出之间的关系是不确定的。分布律如下
其中， 被称为温度参数。
感知机（Perceptron）是美国学者Rosenblatt于1957年提出的一种派腔用于模式分类的神经网络模型。
M-P模型通常叫做单输出的感知机。按照M-P模型的要求，该人工神经元的激活函数为阶跃函数。为了方便表示，M-P模型表示为下图所示的结构。
用多个这样的单输入感知机可以构成一个多输出的感知机，其结构如下
对于二维平面，当输入/输出为 线性可分 集合时，一定可以找到一条直线将模式分成两类。此时感知机的结构图3所示，显然通过调整感知机的权值及阈值可以修改两类模式的分界线:
线性可分： 这里的线性可分是指两类样本可以用直线、平面或超平面分开，否则称为线性不可分。
感知机的基本功能是对外部信号进行感知和识别，这就是当外部 个刺激信号或来自其它 个神经元（的信号）处于一定的状态时，感知机就处于兴奋状态，而外部 个信号或 个神经元的输出处于另一个状态时，感知机就呈现抑制状态。
如果 、 是 中两个互不相交的集合，且有如下方程成立
则称集合 为感知机的 学习目标 。根据感知机模型，学习算法实际上是要寻找权重 、 满足下述要求：
感知机的训练过程是感知机权值的逐步调整过程，为此，用 表示每一次调整的序号。 对哗羡兄应于学习开始前的初始状态，此时对应的权值为初始化值。
5. 人工神经网络综述
文章主要分为：
一、人工神经网络的概念；
二、人工神经网络的发展历史；
三、人工神经网络的特点；
四、人工神经网络的结构。
。。
人工神经网络（Artificial Neural Network，ANN）简称神经网络(NN)，是基于生物学中神经网络的基本原理，在理解和抽象了人脑结构和外界刺激响应机制后，以网络拓扑知识为理论基础，模拟人脑的神经系统对复杂信息的处理机制的一种数学模型。该模型以并行分布的处理能力、高容错性、智能化和自学习等能力为特征，将信息的加工和存储结合在一起，以其独特的知识表示方式和智能化的自适应学习能力，引起各学科领域的关注。它实际上是一个有大量简单元件相互连接而成的复杂网络，具有高度的非线性，能够进行复杂的逻辑操作和非线性关系实现的系统。
神经网络是一种运算模型，由大量的节点（或称神经元）之间相互联接构成。每个节点代表一种特定的输出函数，称为激活函数（activation function）。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重（weight），神经网络就是通过这种方式来模拟人类的记忆。网络的输出则取决于网络的结构、网络的连接方式、权重和激活函数。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。神经网络的构筑理念是受到生物的神经网络运作启发而产生的。人工神经网络则是把对生物神经网络的认识与数学统计模型相结合，借助数学统计工具来实现。另一方面在人工智能学的人工感知领域，我们通过数学统计学的方法，使神经网络能够具备类似于人的决定能力和简单的判断能力，这种方法是对传统逻辑学演算的进一步延伸。
人工神经网络中，神经元处理单元可表示不同的对象，例如特征、字母、概念，或者一些有意义的抽象模式。网络中处理单元的类型分为三类：输入单元、输出单元和隐单元。输入单元接受外部世界的信号与数据；输出单元实现系统处理结果的输出；隐单元是处在输入和输出单元之间，不能由系统外部观察的单元。神经元间的连接权值反映了单元间的连接强度，信息的表示和处理体现在网络处理单元的连接关系中。人工神经网络是一种非程序化、适应性、大脑风格的信息处理，其本质是通过网络的变换和动力学行为得到一种并行分布式的信息处理功能，并在不同程度和层次上模仿人脑神经系统的信息处理功能。
神经网络，是一种应用类似于大脑神经突触连接结构进行信息处理的数学模型，它是在人类对自身大脑组织结合和思维机制的认识理解基础之上模拟出来的，它是根植于神经科学、数学、思维科学、人工智能、统计学、物理学、计算机科学以及工程科学的一门技术。
在介绍神经网络的发展历史之前，首先介绍一下神经网络的概念。神经网络主要是指一种仿造人脑设计的简化的计算模型，这种模型中包含了大量的用于计算的神经元，这些神经元之间会通过一些带有权重的连边以一种层次化的方式组织在一起。每一层的神经元之间可以进行大规模的并行计算，层与层之间进行消息的传递。
下图展示了整个神经网络的发展历程：
神经网络的发展有悠久的历史。其发展过程大致可以概括为如下4个阶段。
(1)、M-P神经网络模型：20世纪40年代，人们就开始了对神经网络的研究。1943 年，美国心理学家麦克洛奇（Mcculloch）和数学家皮兹（Pitts）提出了M-P模型，此模型比较简单，但是意义重大。在模型中，通过把神经元看作个功能逻辑器件来实现算法，从此开创了神经网络模型的理论研究。
(2)、Hebb规则：1949 年，心理学家赫布（Hebb）出版了《The Organization of Behavior》（行为组织学），他在书中提出了突触连接强度可变的假设。这个假设认为学习过程最终发生在神经元之间的突触部位，突触的连接强度随之突触前后神经元的活动而变化。这一假设发展成为后来神经网络中非常着名的Hebb规则。这一法则告诉人们，神经元之间突触的联系强度是可变的，这种可变性是学习和记忆的基础。Hebb法则为构造有学习功能的神经网络模型奠定了基础。
(3)、感知器模型：1957 年，罗森勃拉特（Rosenblatt）以M-P 模型为基础，提出了感知器（Perceptron）模型。感知器模型具有现代神经网络的基本原则，并且它的结构非常符合神经生理学。这是一个具有连续可调权值矢量的MP神经网络模型，经过训练可以达到对一定的输入矢量模式进行分类和识别的目的，它虽然比较简单，却是第一个真正意义上的神经网络。Rosenblatt 证明了两层感知器能够对输入进行分类，他还提出了带隐层处理元件的三层感知器这一重要的研究方向。Rosenblatt 的神经网络模型包含了一些现代神经计算机的基本原理，从而形成神经网络方法和技术的重大突破。
(4)、ADALINE网络模型： 1959年，美国着名工程师威德罗（B.Widrow）和霍夫（M.Hoff）等人提出了自适应线性元件(Adaptive linear element，简称Adaline)和Widrow-Hoff学习规则（又称最小均方差算法或称δ规则）的神经网络训练方法，并将其应用于实际工程，成为第一个用于解决实际问题的人工神经网络，促进了神经网络的研究应用和发展。ADALINE网络模型是一种连续取值的自适应线性神经元网络模型，可以用于自适应系统。
人工智能的创始人之一Minsky和Papert对以感知器为代表的网络系统的功能及局限性从数学上做了深入研究，于1969年发表了轰动一时《Perceptrons》一书，指出简单的线性感知器的功能是有限的，它无法解决线性不可分的两类样本的分类问题，如简单的线性感知器不可能实现“异或”的逻辑关系等。这一论断给当时人工神经元网络的研究带来沉重的打击。开始了神经网络发展史上长达10年的低潮期。
(1)、自组织神经网络SOM模型：1972年，芬兰的KohonenT.教授，提出了自组织神经网络SOM(Self-Organizing feature map)。后来的神经网络主要是根据KohonenT.的工作来实现的。SOM网络是一类无导师学习网络，主要用于模式识别﹑语音识别及分类问题。它采用一种“胜者为王”的竞争学习算法，与先前提出的感知器有很大的不同，同时它的学习训练方式是无指导训练，是一种自组织网络。这种学习训练方式往往是在不知道有哪些分类类型存在时，用作提取分类信息的一种训练。
(2)、自适应共振理论ART：1976年，美国Grossberg教授提出了着名的自适应共振理论ART(Adaptive Resonance Theory)，其学习过程具有自组织和自稳定的特征。
(1)、Hopfield模型：1982年，美国物理学家霍普菲尔德（Hopfield）提出了一种离散神经网络，即离散Hopfield网络，从而有力地推动了神经网络的研究。在网络中，它首次将李雅普诺夫（Lyapunov）函数引入其中，后来的研究学者也将Lyapunov函数称为能量函数。证明了网络的稳定性。1984年，Hopfield 又提出了一种连续神经网络，将网络中神经元的激活函数由离散型改为连续型。1985 年，Hopfield和Tank利用Hopfield神经网络解决了着名的旅行推销商问题（Travelling Salesman Problem）。Hopfield神经网络是一组非线性微分方程。Hopfield的模型不仅对人工神经网络信息存储和提取功能进行了非线性数学概括，提出了动力方程和学习方程，还对网络算法提供了重要公式和参数，使人工神经网络的构造和学习有了理论指导，在Hopfield模型的影响下，大量学者又激发起研究神经网络的热情，积极投身于这一学术领域中。因为Hopfield 神经网络在众多方面具有巨大潜力，所以人们对神经网络的研究十分地重视，更多的人开始了研究神经网络，极大地推动了神经网络的发展。
(2)、Boltzmann机模型：1983年，Kirkpatrick等人认识到模拟退火算法可用于NP完全组合优化问题的求解，这种模拟高温物体退火过程来找寻全局最优解的方法最早由Metropli等人1953年提出的。1984年，Hinton与年轻学者Sejnowski等合作提出了大规模并行网络学习机，并明确提出隐单元的概念，这种学习机后来被称为Boltzmann机。
Hinton和Sejnowsky利用统计物理学的感念和方法，首次提出的多层网络的学习算法，称为Boltzmann 机模型。
(3)、BP神经网络模型：1986年，儒默哈特（D.E.Ru melhart）等人在多层神经网络模型的基础上，提出了多层神经网络权值修正的反向传播学习算法----BP算法（Error Back-Propagation），解决了多层前向神经网络的学习问题，证明了多层神经网络具有很强的学习能力，它可以完成许多学习任务，解决许多实际问题。
(4)、并行分布处理理论：1986年，由Rumelhart和McCkekkand主编的《Parallel Distributed Processing：Exploration in the Microstructures of Cognition》，该书中，他们建立了并行分布处理理论，主要致力于认知的微观研究，同时对具有非线性连续转移函数的多层前馈网络的误差反向传播算法即BP算法进行了详尽的分析，解决了长期以来没有权值调整有效算法的难题。可以求解感知机所不能解决的问题，回答了《Perceptrons》一书中关于神经网络局限性的问题，从实践上证实了人工神经网络有很强的运算能力。
(5)、细胞神经网络模型：1988年，Chua和Yang提出了细胞神经网络（CNN）模型，它是一个细胞自动机特性的大规模非线性计算机仿真系统。Kosko建立了双向联想存储模型（BAM），它具有非监督学习能力。
(6)、Darwinism模型：Edelman提出的Darwinism模型在90年代初产生了很大的影响，他建立了一种神经网络系统理论。
(7)、1988年，Linsker对感知机网络提出了新的自组织理论，并在Shanon信息论的基础上形成了最大互信息理论，从而点燃了基于NN的信息应用理论的光芒。
(8)、1988年，Broomhead和Lowe用径向基函数(Radialbasis function, RBF)提出分层网络的设计方法，从而将NN的设计与数值分析和线性适应滤波相挂钩。
(9)、1991年，Haken把协同引入神经网络，在他的理论框架中，他认为，认知过程是自发的，并断言模式识别过程即是模式形成过程。
(10)、1994年，廖晓昕关于细胞神经网络的数学理论与基础的提出，带来了这个领域新的进展。通过拓广神经网络的激活函数类，给出了更一般的时滞细胞神经网络(DCNN)、Hopfield神经网络（HNN）、双向联想记忆网络（BAM）模型。
(11)、90年代初，Vapnik等提出了支持向量机(Supportvector machines, SVM)和VC(Vapnik-Chervonenkis)维数的概念。
经过多年的发展，已有上百种的神经网络模型被提出。
深度学习(Deep Learning,DL)由Hinton等人于2006年提出，是机器学习的一个新领域。深度学习本质上是构建含有多隐层的机器学习架构模型，通过大规模数据进行训练，得到大量更具代表性的特征信息。深度学习算法打破了传统神经网络对层数的限制，可根据设计者需要选择网络层数。
突触是神经元之间相互连接的接口部分，即一个神经元的神经末梢与另一个神经元的树突相接触的交界面，位于神经元的神经末梢尾端。突触是轴突的终端。
大脑可视作为1000多亿神经元组成的神经网络。神经元的信息传递和处理是一种电化学活动．树突由于电化学作用接受外界的刺激，通过胞体内的活动体现为轴突电位，当轴突电位达到一定的值则形成神经脉冲或动作电位；再通过轴突末梢传递给其它的神经元．从控制论的观点来看；这一过程可以看作一个多输入单输出非线性系统的动态过程。
神经元的功能特性：（1）时空整合功能；（2）神经元的动态极化性；（3）兴奋与抑制状态；（4）结构的可塑性；（5）脉冲与电位信号的转换；（6）突触延期和不应期；（7）学习、遗忘和疲劳。
神经网络从两个方面模拟大脑：
(1)、神经网络获取的知识是从外界环境中学习得来的。
(2)、内部神经元的连接强度，即突触权值，用于储存获取的知识。
神经网络系统由能够处理人类大脑不同部分之间信息传递的由大量神经元连接形成的拓扑结构组成，依赖于这些庞大的神经元数目和它们之间的联系，人类的大脑能够收到输入的信息的刺激由分布式并行处理的神经元相互连接进行非线性映射处理，从而实现复杂的信息处理和推理任务。
对于某个处理单元（神经元）来说，假设来自其他处理单元（神经元）i的信息为Xi，它们与本处理单元的互相作用强度即连接权值为Wi, i=0,1,…,n-1,处理单元的内部阈值为θ。那么本处理单元（神经元）的输入为：
，而处理单元的输出为：
式中，xi为第i个元素的输入，wi为第i个处理单元与本处理单元的互联权重即神经元连接权值。f称为激活函数或作用函数，它决定节点（神经元）的输出。θ表示隐含层神经节点的阈值。
神经网络的主要工作是建立模型和确定权值，一般有前向型和反馈型两种网络结构。通常神经网络的学习和训练需要一组输入数据和输出数据对，选择网络模型和传递、训练函数后，神经网络计算得到输出结果，根据实际输出和期望输出之间的误差进行权值的修正，在网络进行判断的时候就只有输入数据而没有预期的输出结果。神经网络一个相当重要的能力是其网络能通过它的神经元权值和阈值的不断调整从环境中进行学习，直到网络的输出误差达到预期的结果，就认为网络训练结束。
对于这样一种多输入、单输出的基本单元可以进一步从生物化学、电生物学、数学等方面给出描述其功能的模型。利用大量神经元相互连接组成的人工神经网络，将显示出人脑的若干特征，人工神经网络也具有初步的自适应与自组织能力。在学习或训练过程中改变突触权重wij值，以适应周围环境的要求。同一网络因学习方式及内容不同可具有不同的功能。人工神经网络是一个具有学习能力的系统，可以发展知识，以至超过设计者原有的知识水平。通常，它的学习(或训练)方式可分为两种，一种是有监督(supervised)或称有导师的学习，这时利用给定的样本标准进行分类或模仿；另一种是无监督(unsupervised)学习或称无导师学习，这时，只规定学习方式或某些规则，而具体的学习内容随系统所处环境(即输入信号情况)而异，系统可以自动发现环境特征和规律性，具有更近似于人脑的功能。
在人工神经网络设计及应用研究中，通常需要考虑三个方面的内容，即神经元激活函数、神经元之间的连接形式和网络的学习(训练)。
6. 人工神经网络的应用分析
经过几十年的发展，神经网络理论在模式识别、自动控制、信号处理、辅助决策、人工智能等众多研究领域取得了广泛的成功。下面介绍神经网络在一些领域中的应用现状。 在处理许多问题中，信息来源既不完整，又包含假象，决策规则有时相互矛盾，有时无章可循，这给传统的信息处理方式带来了很大的困难，而神经网络却能很好的处理这些问题，并给出合理的识别与判断。
1.信息处理
现代信息处理要解决的问题是很复杂的，人工神经网络具有模仿或代替与人的思维有关的功能， 可以实现自动诊断、问题求解，解决传统方法所不能或难以解决的问题。人工神经网络系统具有很高的容错性、鲁棒性及自组织性，即使连接线遭到很高程度的破坏， 它仍能处在优化工作状态，这点在军事系统电子设备中得到广泛的应用。现有的智能信息系统有智能仪器、自动跟踪监测仪器系统、自动控制制导系统、自动故障诊断和报警系统等。
2. 模式识别
模式识别是对表征事物或现象的各种形式的信息进行处理和分析，来对事物或现象进行描述、辨认、分类和解释的过程。该技术以贝叶斯概率论和申农的信息论为理论基础，对信息的处理过程更接近人类大脑的逻辑思维过程。现在有两种基本的模式识别方法，即统计模式识别方法和结构模式识别方法。人工神经网络是模式识别中的常用方法，近年来发展起来的人工神经网络模式的识别方法逐渐取代传统的模式识别方法。经过多年的研究和发展，模式识别已成为当前比较先进的技术，被广泛应用到文字识别、语音识别、指纹识别、遥感图像识别、人脸识别、手写体字符的识别、工业故障检测、精确制导等方面。 由于人体和疾病的复杂性、不可预测性，在生物信号与信息的表现形式上、变化规律（自身变化与医学干预后变化）上，对其进行检测与信号表达，获取的数据及信息的分析、决策等诸多方面都存在非常复杂的非线性联系，适合人工神经网络的应用。目前的研究几乎涉及从基础医学到临床医学的各个方面，主要应用在生物信号的检测与自动分析，医学专家系统等。
1. 生物信号的检测与分析
大部分医学检测设备都是以连续波形的方式输出数据的，这些波形是诊断的依据。人工神经网络是由大量的简单处理单元连接而成的自适应动力学系统， 具有巨量并行性，分布式存贮，自适应学习的自组织等功能，可以用它来解决生物医学信号分析处理中常规法难以解决或无法解决的问题。神经网络在生物医学信号检测与处理中的应用主要集中在对脑电信号的分析，听觉诱发电位信号的提取、肌电和胃肠电等信号的识别，心电信号的压缩，医学图像的识别和处理等。
2. 医学专家系统
传统的专家系统，是把专家的经验和知识以规则的形式存储在计算机中，建立知识库，用逻辑推理的方式进行医疗诊断。但是在实际应用中，随着数据库规模的增大，将导致知识“爆炸”，在知识获取途径中也存在“瓶颈”问题，致使工作效率很低。以非线性并行处理为基础的神经网络为专家系统的研究指明了新的发展方向， 解决了专家系统的以上问题，并提高了知识的推理、自组织、自学习能力，从而神经网络在医学专家系统中得到广泛的应用和发展。在麻醉与危重医学等相关领域的研究中，涉及到多生理变量的分析与预测，在临床数据中存在着一些尚未发现或无确切证据的关系与现象，信号的处理，干扰信号的自动区分检测，各种临床状况的预测等，都可以应用到人工神经网络技术。 1. 市场价格预测
对商品价格变动的分析，可归结为对影响市场供求关系的诸多因素的综合分析。传统的统计经济学方法因其固有的局限性，难以对价格变动做出科学的预测，而人工神经网络容易处理不完整的、模糊不确定或规律性不明显的数据，所以用人工神经网络进行价格预测是有着传统方法无法相比的优势。从市场价格的确定机制出发，依据影响商品价格的家庭户数、人均可支配收入、贷款利率、城市化水平等复杂、多变的因素，建立较为准确可靠的模型。该模型可以对商品价格的变动趋势进行科学预测，并得到准确客观的评价结果。
2. 风险评估
风险是指在从事某项特定活动的过程中，因其存在的不确定性而产生的经济或财务的损失、自然破坏或损伤的可能性。防范风险的最佳办法就是事先对风险做出科学的预测和评估。应用人工神经网络的预测思想是根据具体现实的风险来源， 构造出适合实际情况的信用风险模型的结构和算法，得到风险评价系数，然后确定实际问题的解决方案。利用该模型进行实证分析能够弥补主观评估的不足，可以取得满意效果。 从神经网络模型的形成开始，它就与心理学就有着密不可分的联系。神经网络抽象于神经元的信息处理功能，神经网络的训练则反映了感觉、记忆、学习等认知过程。人们通过不断地研究， 变化着人工神经网络的结构模型和学习规则，从不同角度探讨着神经网络的认知功能，为其在心理学的研究中奠定了坚实的基础。近年来，人工神经网络模型已经成为探讨社会认知、记忆、学习等高级心理过程机制的不可或缺的工具。人工神经网络模型还可以对脑损伤病人的认知缺陷进行研究，对传统的认知定位机制提出了挑战。
虽然人工神经网络已经取得了一定的进步，但是还存在许多缺陷，例如：应用的面不够宽阔、结果不够精确；现有模型算法的训练速度不够高；算法的集成度不够高；同时我们希望在理论上寻找新的突破点， 建立新的通用模型和算法。需进一步对生物神经元系统进行研究，不断丰富人们对人脑神经的认识。
7. 神经网络的来源
神经网络技术起源于上世纪五、六十年代，当时叫 感知机 （perceptron），包含有输入层、输出层和一个隐藏层。输入的特征向量通过隐藏层变换到达输出层，由输出层得到分类结果。但早期的单层感知机存在一个严重的问题——它对稍微复杂一些的函数都无能为力（如异或操作）。直到上世纪八十年代才被Hition、Rumelhart等人发明的多层感知机克服，就是具有多层隐藏层的感知机。
多层感知机可以摆脱早期离散传输函数的束缚，使用sigmoid或tanh等连续函数模拟神经元对激励的响应，在训练算法上则使用Werbos发明的反向传播BP算法。这就是现在所说的神经网络NN。
神经网络的层数直接决定了它对现实的刻画能力 ——利用每层更少的神经元拟合更加复杂的函源脊戚数。但问题出现了——随着神经网络层数的加深， 优化函数越来越容易陷入局部最优解 ，并且这个“陷阱”越来越偏离真正的全局最优。利用有限数据训练的深层网络，性能还不如较浅层网络。同时，另一个不可忽略的问题是随着网络层数增加， “梯度消失”现象更加严重 。（具体来说，我们常常使用sigmoid作为神经元的输入输出函数。对于幅度为1的信号，在BP反向传播梯度时，每传递一层，梯度衰减为原来的0.25。层数一多，梯度指数衰减后低层基本上接受不到有效的训练野拦信号。）
2006年，Hition提出了深度学习的概念，引发了深度学习的热潮。具体是利用预训练的方式缓解了局部最优解的问题，将隐藏层增加到了7层，实现了真正意义上的“深度”。
DNN形成
为了克服梯度消失，ReLU、maxout等传输函数代替了sigmoid，形成了如今DNN的基本形式。结构跟多层感知机一样，如下图所示：
我们看到 全连接DNN的结构里下层神经元和所有上层神经元都能够形成连接，从而导致参数数量膨胀 。假设输入的是一幅像素为1K*1K的图像，隐含层有1M个节点，光这一层就有10^12个权重需要训练，这不仅容易过拟合，而且极容易陷入局部最优。
CNN形成
由于图像中存在固有的局部模式（如人脸中的眼睛、鼻子、嘴巴等），所以将图像处理和神将网络结合引出卷积神经网络CNN。CNN是通过卷积核将上下层进行链接，同一个卷积核在所有图像中是共享的，图像通过卷积操作后仍然保留原先的位置关系。
通过一个例子简单说明卷积神经网络的结构。假设我们需雹陵要识别一幅彩色图像，这幅图像具有四个通道ARGB（透明度和红绿蓝，对应了四幅相同大小的图像），假设卷积核大小为100*100，共使用100个卷积核w1到w100(从直觉来看，每个卷积核应该学习到不同的结构特征)。
用w1在ARGB图像上进行卷积操作，可以得到隐含层的第一幅图像;这幅隐含层图像左上角第一个像素是四幅输入图像左上角100*100区域内像素的加权求和，以此类推。
同理，算上其他卷积核，隐含层对应100幅“图像”。每幅图像对是对原始图像中不同特征的响应。按照这样的结构继续传递下去。CNN中还有max-pooling等操作进一步提高鲁棒性。
注意到最后一层实际上是一个全连接层，在这个例子里，我们注意到输入层到隐藏层的参数瞬间降低到了100*100*100=10^6个！这使得我们能够用已有的训练数据得到良好的模型。题主所说的适用于图像识别，正是由于CNN模型限制参数了个数并挖掘了局部结构的这个特点。顺着同样的思路，利用语音语谱结构中的局部信息，CNN照样能应用在语音识别中。
RNN形成
DNN无法对时间序列上的变化进行建模。然而，样本出现的时间顺序对于自然语言处理、语音识别、手写体识别等应用非常重要。为了适应这种需求，就出现了大家所说的另一种神经网络结构——循环神经网络RNN。
在普通的全连接网络或CNN中，每层神经元的信号只能向上一层传播，样本的处理在各个时刻独立，因此又被成为前向神经网络(Feed-forward Neural Networks)。而在RNN中，神经元的输出可以在下一个时间段直接作用到自身，即第i层神经元在m时刻的输入，除了(i-1)层神经元在该时刻的输出外，还包括其自身在(m-1)时刻的输出！表示成图就是这样的：
为方便分析，按照时间段展开如下图所示：
（t+1）时刻网络的最终结果O（t+1）是该时刻输入和所有历史共同作用的结果！这就达到了对时间序列建模的目的。RNN可以看成一个在时间上传递的神经网络，它的深度是时间的长度!正如我们上面所说，“梯度消失”现象又要出现了，只不过这次发生在时间轴上。
所以RNN存在无法解决长时依赖的问题。为解决上述问题，提出了LSTM（长短时记忆单元），通过cell门开关实现时间上的记忆功能，并防止梯度消失，LSTM单元结构如下图所示：
除了DNN、CNN、RNN、ResNet（深度残差）、LSTM之外，还有很多其他结构的神经网络。如因为在序列信号分析中，如果我能预知未来，对识别一定也是有所帮助的。因此就有了双向RNN、双向LSTM，同时利用历史和未来的信息。
事实上，不论是哪种网络，他们在实际应用中常常都混合着使用，比如CNN和RNN在上层输出之前往往会接上全连接层，很难说某个网络到底属于哪个类别。不难想象随着深度学习热度的延续，更灵活的组合方式、更多的网络结构将被发展出来。
参考链接：https://www.leiphone.com/news/201702/ZwcjmiJ45aW27ULB.html
8. 人工智能：什么是人工神经网络
许多 人工智能 计算机系统的核心技术是人工神经网络(ANN)，而这种网络的灵感来源于人类大脑中的生物结构。
通过使用连接的“神经元”结构，这些网络可以通过“学习”并在没有人类参与的情况下处理和评估某些数据。
这样的实际实例之一是使用人工神经网络(ANN)识别图像中的对象。在构建一个识别“猫“图像的一个系统中，将在包含标记为“猫”的图像的数据集上训练人工神经网络，该数据集可用作任何进行分析的参考点。正如人们可能学会根据尾巴或皮毛等独特特征来识别狗一样，人工神经网络(ANN)也可以通过将每个图像分解成不同的组成部分(如颜色和形状)进行识别。
实际上，神经网络提供了位于托管数据之上的排序和分类级别，可基于相似度来辅助数据的聚类和分组。可以使用人工神经网络(ANN)生成复杂的垃圾邮件过滤器，查找欺诈行为的算法以及可以精确了解情绪的客户关系工具。
人工神经网络如何工作
人工神经网络的灵感来自人脑的神经组织，使用类似于神经元的计算节点构造而成，这些节点沿着通道(如神经突触的工作方式)进行信息交互。这意味着一个计算节点的输出将影响另一个计算节点的处理。
神经网络标志着人工智能发展的巨大飞跃，在此之前，人工智能一直依赖于使用预定义的过程和定期的人工干预来产生所需的结果。人工神经网络可以使分析负载分布在多个互连层的网络中，每个互连层包含互连节点。在处理信息并对其进行场景处理之后，信息将传递到下一个节点，然后向下传递到各个层。这个想法是允许将其他场景信息接入网络，以通知每个阶段的处理。
单个“隐藏”层神经网络的基本结构
就像渔网的结构一样，神经网络的一个单层使用链将处理节点连接在一起。大量的连接使这些节点之间的通信得到增强，从而提高了准确性和数据处理吞吐量。
然后，人工神经网络将许多这样的层相互叠放以分析数据，从而创建从第一层到最后一层的输入和输出数据流。尽管其层数将根据人工神经网络的性质及其任务而变化，但其想法是将数据从一层传递到另一层，并随其添加附加的场景信息。
人脑是用3D矩阵连接起来的，而不是大量堆叠的图层。就像人类大脑一样，节点在接收到特定刺激时会在人工神经网络上“发射”信号，并将信号传递到另一个节点。但是，对于人工神经网络，输入信号定义为实数，输出为各种输入的总和。
这些输入的值取决于它们的权重，该权重用于增加或减少与正在执行的任务相对应的输入数据的重要性。其目标是采用任意数量的二进制数值输入并将其转换为单个二进制数值输出。
更复杂的神经网络提高了数据分析的复杂性
早期的神经网络模型使用浅层结构，其中只使用一个输入和输出层。而现代的系统由一个输入层和一个输出层组成，其中输入层首先将数据输入网络，多个“隐藏”层增加了数据分析的复杂性。
这就是“深度学习”一词的由来——“深度”部分专门指任何使用多个“隐藏”层的神经网络。
聚会的例子
为了说明人工神经网络在实际中是如何工作的，我们将其简化为一个实际示例。
想象一下你被邀请参加一个聚会，而你正在决定是否参加，这可能需要权衡利弊，并将各种因素纳入决策过程。在此示例中，只选择三个因素——“我的朋友会去吗?”、“聚会地点远吗?”、“天气会好吗?”
通过将这些考虑因素转换为二进制数值，可以使用人工神经网络对该过程进行建模。例如，我们可以为“天气”指定一个二进制数值，即‘1'代表晴天，‘0'代表恶劣天气。每个决定因素将重复相同的格式。
然而，仅仅赋值是不够的，因为这不能帮助你做出决定。为此需要定义一个阈值，即积极因素的数量超过消极因素的数量。根据二进制数值，合适的阈值可以是“2”。换句话说，在决定参加聚会之前，需要两个因素的阈值都是“1”，你才会决定去参加聚会。如果你的朋友要参加聚会(‘1')，并且天气很好(‘1')，那么这就表示你可以参加聚会。
如果天气不好(‘0')，并且聚会地点很远(‘0')，则达不到这一阈值，即使你的朋友参加(‘1')，你也不会参加聚会。
神经加权
诚然，这是神经网络基本原理的一个非常基本的例子，但希望它有助于突出二进制值和阈值的概念。然而，决策过程要比这个例子复杂得多，而且通常情况下，一个因素比另一个因素对决策过程的影响更大。
要创建这种变化，可以使用“神经加权”——-通过乘以因素的权重来确定因素的二进制值对其他因素的重要性。
尽管示例中的每个注意事项都可能使你难以决策，但你可能会更重视其中一个或两个因素。如果你不愿意在大雨中出行去聚会，那恶劣的天气将会超过其他两个考虑因素。在这一示例中，可以通过赋予更高的权重来更加重视天气因素的二进制值：
天气= w5
朋友= w2
距离= w2
如果假设阈值现在已设置为6，则恶劣的天气(值为0)将阻止其余输入达到所需的阈值，因此该节点将不会“触发”(这意味着你将决定不参加聚会)。
虽然这是一个简单的示例，但它提供了基于提供的权重做出决策的概述。如果要将其推断为图像识别系统，则是否参加聚会(输入)的各种考虑因素将是给定图像的折衷特征，即颜色、大小或形状。例如，对识别狗进行训练的系统可以对形状或颜色赋予更大的权重。
当神经网络处于训练状态时，权重和阈值将设置为随机值。然后，当训练数据通过网络传递时将不断进行调整，直到获得一致的输出为止。
神经网络的好处
神经网络可以有机地学习。也就是说，神经网络的输出结果并不受输入数据的完全限制。人工神经网络可以概括输入数据，使其在模式识别系统中具有价值。
他们还可以找到实现计算密集型答案的捷径。人工神经网络可以推断数据点之间的关系，而不是期望数据源中的记录是明确关联的。
它们也可以是容错的。当神经网络扩展到多个系统时，它们可以绕过无法通信的缺失节点。除了围绕网络中不再起作用的部分进行路由之外，人工神经网络还可以通过推理重新生成数据，并帮助确定不起作用的节点。这对于网络的自诊断和调试非常有用。
但是，深度神经网络提供的最大优势是能够处理和聚类非结构化数据，例如图片、音频文件、视频、文本、数字等数据。在分析层次结构中，每一层节点都在前一层的输出上进行训练，深层神经网络能够处理大量的这种非结构化数据，以便在人类处理分析之前找到相似之处。
神经网络的例子
神经网络应用还有许多示例，可以利用它从复杂或不精确数据中获得见解的能力。
图像识别人工神经网络可以解决诸如分析特定物体的照片等问题。这种算法可以用来区分狗和猫。更重要的是，神经网络已经被用于只使用细胞形状信息来诊断癌症。
近30年来，金融神经网络被用于汇率预测、股票表现和选择预测。神经网络也被用来确定贷款信用评分，学习正确识别良好的或糟糕的信用风险。而电信神经网络已被电信公司用于通过实时评估网络流量来优化路由和服务质量。
9. 什么是人体神经网络
神经系统
概述
神经系统nervous system是机体内起主导作用的系统。内、外环境的各种信息，由感受器接受后，通过周围神经传递到脑和脊髓的各级中枢进行整合，再经周围神经控制和调节机体各系统器官的活动，以维持机体与内、外界环境的相对平衡。
人体各器官、系统的功能都是直接或间接处于神经系统的调节控制之下，神经系统是整体内起主导作用的调节系统。人体是一个复杂的机体，各器官、系统的功能不是孤立的，它们之间互相联系、互相制约；同时，人体生活在经常变化的环境中，环境的变化随时影响着体蔽慧内的各种功能。这就需要对体内各种功能不断作出迅速而完善的调节，使机体适应内外环境的变化。实现这一调节功能的系统主要就是神经系统。
神经系的基本结构
神经系统是由神经细胞（神经元）和神经胶质所组成。
1．神经元。
神经元neuron是一种高度特化的细胞，是神经系统的基本结构和功能单位，它具有感受刺激和传导兴奋的功能。神经元由胞体和突起两部分构成。胞体的中央有细胞核，核的周围为细胞质，胞质内除有一般细胞所具有的细胞器如线粒体、内质网等外，还含有特有的神经原纤维及尼氏体。神经元的突起根据形状和机能又分为树突dendrite和轴突axon。树突较短但分支较多，它接受冲动，并将冲动传至细胞体，各类神经元树突的数目多少不等，形态各异。每个神经元只发出一条轴突，长短不一，胞体发生出的冲动则沿轴突传出。
根据突起的数目，可将神经元从形态上分为假单极神经元、双极神经元和培灶多极神经元三大类。
根据神经元的功能，可分为感觉神经元、运动神经元和联络神经元。感觉神经元又称传入神经元，一般位于外周的感觉神经节内，为假单极或双极神经元，感觉神经元的周围突接受内外界环境的各种刺激，经胞体和中枢突将冲动传至中枢；运动神经元又名传出神经元，一般位于脑、脊髓的运动核内或周围的植物神经节内，为多极神经元，它将冲动从中枢传至肌肉或腺体等效应器配并扮；联络神经元又称中间神经元，是位于感觉和运动神经元之间的神经元，起联络、整合等作用，为多极神经元。
2．神经胶质。
神经胶质neuroglia数目较神经元，突起无树突、轴突之分，胞体较小，胞浆中无神经原纤维和尼氏体，不具有传导冲动的功能。神经胶质对神经元起着支持、绝缘、营养和保护等作用，并参与构成血脑屏障。
3．突触。
神经元间联系方式是互相接触，而不是细胞质的互相沟通。该接触部位的结构特化称为突触synapse，通常是一个神经元的轴突与另一个神经元的树突或胞体借突触发生机能上的联系，神经冲动由一个神经元通过突触传递到另一个神经元。
神经系统的构成
神经系统分为中枢神经系统和周围神经系统两大部分。中枢神经系统包括脑和脊髓。脑和脊髓位于人体的中轴位，它们的周围有头颅骨和脊椎骨包绕。这些骨头质地很硬，在人年龄小时还富有弹性，因此可以使脑和脊髓得到很好的保护。脑分为端脑、间脑、小脑和脑干四部分。脊髓主要是传导通路，能把外界的刺激及时传送到脑，然后再把脑发出的命令及时传送到周围器官，起到了上通下达的桥梁作用。周围神经系统包括脑神经、脊神经和植物神经。脑神经共有12对，主要支配头面部器官的感觉和运动。人能看到周围事物，听见声音，闻出香臭，尝出滋味，以及有喜怒哀乐的表情等，都必须依靠这12对脑神经的功能。 脊神经共有31对，其中包括颈神经8对，胸神经12对，腰神经5对，骶神经5对，尾神经 1对。脊神经由脊髓发出，主要支配身体和四肢的感觉、运动和反射。植物神经也称为内脏神经，主要分布于内脏、心血管和腺体。心跳、呼吸和消化活动都受它的调节。植物神经分为交感神经和副交感神经两类，两者之间相互桔抗又相互协调，组成一个配合默契的有机整体，使内脏活动能适应内外环境的需要。
神经系统
神经系统是人体内由神经组织构成的全部装置。主要由神经元组成。神经系统由中枢神经系统和遍布全身各处的周围神经系统两部分组成。中枢神经系统包括脑和脊髓，分别位于颅腔和椎管内，是神经组织最集中、构造最复杂的部位。存在有控制各种生理机能的中枢。周围神经系统包括各种神经和神经节。其中同脑相连的称为脑神经，与脊髓相连的为脊神经，支配内脏器官的称植物性神经。各类神经通过其末梢与其他器官系统相联系。神经系统具有重要的功能，是人体内起主导作用的系统。一方面它控制与调节各器官、系统的活动，使人体成为一个统一的整体。另一方面通过神经系统的分析与综合，使机体对环境变化的刺激作出相应的反应，达到机体与环境的统一。神经系统对生理机能调节的基本活动形式是反射。人的大脑的高度发展，使大脑皮质成为控制整个机体功能的最高级部位，并具有思维、意识等生理机能。神经系统发生于胚胎发育的早期，由外胚层发育而来。
小脑、大脑和神经系统
大脑的功能主要有：进行理论性的思考、判断事物、说话、掌管本能以及掌管情感。神经的功能是传递脑部的指令到身体各部位，再由末梢神经和中枢神经将身体各部位所收集的情报回传到大脑进行资料分析的。
小脑的功能是由旧小脑负责保持身体的平衡，例如站立、行走、运动。而新小脑是负责将大脑所传达的粗略运动指令进行仔细调整后，通过神经细胞，以电脑的速度和准确性，传到身体的每个部位。小脑皮质每1mm2聚集了50万个神经细胞，之所以我们能够使全身的肌肉协调地进行各种动作，例如挥杆自如，全部都是因为新小脑，即神经细胞的聚合体，以千分之一秒的速度来准确地处理了大脑发出的运动指令，如果这里出了问题，就无法巧妙用手握住物体，又或无法做到协调的动作了。
保护脑部的正常运作
大家对脑部和神经粗略地了解了一些主要功能，现在我们要学习如何去保护及保证脑部及神经系统能发挥正常的功能。因为当它们正常操作时，我们的高尔夫球和生活才能好好享受。首先要了解脑部会有机会出现一些疾病和原因，脑部常见的疾病有脑血管阻塞或破裂即是脑中风，但它并不是单一的疾病，而是脑梗塞、脑出血、蜘蛛膜下出血等会使脑血管产生障碍的各种疾病的总称。而这些病的背景都是动脉硬化，再加上精神过度紧张、饮酒、身体过度疲劳而身体已到了最危险的时候，一触即发而造成出血的结果。
而神经有可能出现的疾病就是神经痛，例如三叉神经痛、枕神经痛、肋间神经痛和坐骨神经痛等等，根据一些医书的解释是由于某些部位的神经受到压迫，例如：肌肉的过份紧张收缩和骨的移位而令某些神经受到过大的压力而痛，又或者由于颈椎、腰椎、脊椎变形、又或者由于肿痛等原因而导致神经痛，而引起这些病的根本原因通常是由于长期身体处于高度的精神紧张、饮食不健康、长期缺乏运动，而长期累积太多有害物质又排不出体外，加上工作的压力就很容易令身体去到危险程度。
希望大家能够提醒自己，用聪明的方法消除精神和身体的疲劳，同时要让身体摄取各种营养素、维他命、氨基酸、矿物质等等，以及多做运动去消除精神上的压力，令坏胆固醇无法在身体囤积，同时听音乐或出去旅行，又或者种种花草、浸浸温泉、做做运动按摩和多做伸展运动和多在清新空气的地方做深呼吸，以达到最健康。