A. 神經系統中的信號傳遞
心理學為什麼要研究神經系統？
心理學課程是研究行為、思想和情感的。人們的心理活動都會通過神經系統進行傳遞，以突觸作為媒介。如果你改變正常的突觸活動，你就將改變人們行為、思考和感覺的方式。
神經系統是依靠電化學信號來處理和傳遞信息的。這些信號為人類的知識、感覺、慾望和創造能力提供基礎。
神經元是如何產生反應的？
每個神經元將接收到興奮性輸入和抑制性輸入的平衡，前者表達為發放，後者表達為不發放。
動作電位的生物化學基礎
所有神經傳導都必須通過稱為離子的帶電粒子穿過細胞膜的流動而產生。
靜息電位，細胞內鉀離子的濃度更高，而細胞外鈉離子濃度更高。
動作電位，讓鈉離子流入細胞內，改變極性。
動作電位的性質
全或無定律，動作電位的大小不受閾上刺激強度變化的影響，一旦興奮性輸入的總和達到閾值，動作電位就會產生，如果沒有達到閾值，動作電位就不產生。後果：動作電位大小沿軸突傳播時並不減弱。
不應期，當動作電位傳過一個軸突節段後，神經元這部分就進入不應期。
絕對不應期，無論進一步的刺激有多強烈都不會引起另一個動作電位的產生。
相對不應期，神經元只對較為強烈的刺激發放沖動。
不應期保證動作電位只能沿軸突向下傳播，他不能反向傳播。
突觸包括，突觸前膜（發送信息神經元的終扣）和突觸後膜（接受信息神經元的樹突或胞體的表面）以及兩者之間的間隙。
信息傳遞過程：通過突觸囊泡釋放神經遞質，高州神經遞質與受體結合進行信息傳遞。
結合必須滿足兩個條件：1、不能有其他神經遞質或化學分子附著到受體分子上；2、神經遞質必須和受體相匹配。
同一種神經遞質在一種突戚念蔽觸產生興奮作用，在另一種突觸產生抑製作用。因此，一種神經遞質產生興奮或抑制高局作用，取決於受體分子。
每個神經元需要整合它與1000到10000個其他神經元得到的信息，再決定它是否發出另一個動作電位。
神經調制，能夠改變或調節突觸後神經元活動的物質。（人類體內沒有的物質？）
B. 人的一生神經傳遞信號是額定的嗎
人的大腦神經是通過神經元接收外界信號的。
神經元是大腦神經的基本組成單位，它們通過電信號來傳遞信息。當一個神經元接收到刺激時，它會產生一個電信號，並通過軸突傳遞給相鄰的神經元。這樣，神經元之間的信息傳遞就可以形成一條神經路徑，並通過大量的神經路徑之間的交互來產生思維。
當一個神經元接收到外界刺激時，它會產生一個電信號。這個電信號是由神經元內部的離子流動產生的。在神經元內部，鈉離子和鉀離子會在細胞膜上通過離子通道進行交換，從而悶舉橋產答猜生一個電流。當這個電流通過神經元時，它就會產生一個電信號，並通過軸突傳遞給相鄰的神經元。
總的來說，人的大腦神經是通過神經元產生的電信號來接收外界信號的。這個過程涉及到大量復雜的螞猛神經機制，並且隨著人類對大腦的認識不斷深入，我們對這一過程的理解也在不斷加深。
C. 人工神經網路（ANN）簡述
我們從下面四點認識人工神經網路（ANN: Artificial Neutral Network）：神經元結構、神經元的激活函數、神經網路拓撲結構、神經網路選擇權值和學習演算法。
1. 神經元：
我們先來看一組對比圖就能了解是怎樣從生物神經元建模為人工神經元。
下面分別講述:
生物神經元的組成包括細胞體、樹突、軸突、突觸。樹突可以看作輸入端，接收從其他細胞傳遞過來的電信號；軸突可以看作輸出端，傳遞電荷給其他細胞；突觸可手瞎以看作I/O介面，連接神經元，單個神經元可以和上千個神經元連接。細胞體內有膜電位，從外界傳遞過來的電流使膜電位發生變化，並且不斷累加，當膜電位升高到超過一個閾值時，神經元被激活，產生一個脈沖，傳遞到下一個神經元。
為了更形象理解神經元傳遞信號過程，把一個神經元比作一個水桶。水桶下側連著多根水管（樹突），水管既可以把桶里的水排出去（抑制性），又可以將其他水桶的水輸進來（興奮性），水管的粗細不同，對桶中水的影響程度不同（權重），水管對水桶水位（膜電位）的改變就是水桶內水位的改變，當桶中水達到一定高度時，就能通過另一條管道（軸突）排出去。
按照這個原理，科學家提出了M-P模型（取自兩個提出者的姓名首字母），M-P模型是對生物神經元的建模，作為人工神經網路中的一個神經元。
由MP模型的示意圖，我們可以看到與生物神經元的相似之處，x_i表示多個輸入，W_ij表示每個輸入的權值，其正負模擬了生物神經元中突出的興奮和抑制；sigma表示將全部輸入信號進行累加整合，f為激活函數，O為輸出。下圖可以看到生物神經元和MP模型的類比：
往後誕生的各種神經元模型都是由MP模型演變過來。
2. 激活函數
激活函數可以看作濾波器，接收外界各種各樣的信號，通過調整函數，輸出期望值。ANN通常採用三類激活函數:閾值穗州函數、分段函數、雙極性連續函數（sigmoid，tanh）：
3. 學習演算法
神經網路的學習也稱為訓練，通過神經網路所在環境的刺激作用調整神經網路的自由參數（如連接權值），使神經網路以一種新的方式對外部環境做出反應的一個過程。每個神經網路都有一個激活函數y=f(x)，訓練過程就是通過給定的海量x數據和y數據，擬合出激活函數f。學習過程分為有導師學習和無導師學習，有導師學習是給定猜薯蔽期望輸出，通過對權值的調整使實際輸出逼近期望輸出；無導師學習給定表示方法質量的測量尺度，根據該尺度來優化參數。常見的有Hebb學習、糾錯學習、基於記憶學習、隨機學習、競爭學習。
4. 神經網路拓撲結構
常見的拓撲結構有單層前向網路、多層前向網路、反饋網路，隨機神經網路、競爭神經網路。
5. 神經網路的發展
（不能貼公式不好解釋啊 -_-!）sigma是誤差信號，yita是學習率，net是輸入之和，V是輸入層到隱含層的權重矩陣，W是隱含層到輸出層的權重矩陣。
之後還有幾種
隨著計算機硬體計算能力越來越強，用來訓練的數據越來越多，神經網路變得越來越復雜。在人工智慧領域常聽到DNN（深度神經網路）、CNN（卷積神經網路）、RNN（遞歸神經網路）。其中，DNN是總稱，指層數非常多的網路，通常有二十幾層，具體可以是CNN或RNN等網路結構。
參考資料 ：
D. 電腦通電才能工作，那麼人類大腦是如何工作的呢
實際上人體大腦的工作同樣需要電流的作用，這個電流依靠的是人體內的離子進行導電。
大腦是人體的控制中心，基本上我們所有的行為都要受到我們大腦的控制，而這個控制信息的傳遞，依靠的就是神經細胞的導電作用。
例如，當有一隻兇猛的老虎出現在我們面前，我們先是從視覺上看見它，我們的大腦便知道了到了老虎的存在。在這個過程中，我們眼睛所看見的老虎就是通過視覺神經傳遞給我們的大腦，而這個信息的載體就是神經電流。
當大腦知道了我們的面前有一隻老虎時，我們就會變得很緊張春野，實際上這也是大腦控制我們的行為，首先大腦接收到老虎存在的信息，於是又會通過電流來刺激我們的腎上腺分泌腎上腺素，腎上腺素可以導致我們心率加快，肌肉收縮，造成恐懼的反應。
這樣一個簡單的例子我們就知道了，我們大腦的工作同樣離不開電流。
我們知道了人體電流對大返物腦的重要性，那麼我們再來了解一下這個電流是如何傳遞的。
神經電流的傳遞並不像電腦工作時電子的流動那麼簡單，這其中包含了很多生理過程。電流在神經元中傳遞並不是依靠電子的流動，而是依靠離子的轉移，並且主要是依靠鉀離子K＋和鈉離子Na＋。
上圖就是神經元細胞的結構，電流就是通過無數個這樣的細胞進行傳遞。在正常沒有受到刺激的神經細胞中，細胞膜外正離子較多，細胞膜內負離子較多。細胞膜上的不同的蛋白質會負責不同離子的運輸，控制每種離子的流入與流出。
當神經受到刺激時，細胞膜上的通道蛋白會迅速做出響應，讓Na＋快速通過通道蛋白，從而透過細胞膜進入細胞內，於是改變了細胞膜內外電荷的分布，導致與相鄰的細胞膜產生電位差，這個電位差會繼續刺激相鄰的細胞膜中的通道蛋白做出反應，於是這個電流就一直傳遞下去。
而當一個神經元傳遞到了末梢，於是它會釋放出神經遞質刺激下一個神經元做出反應，整個過程雖然復雜，但是非常迅速。
通過上面的介紹，我們就知道了， 大腦的工作時時刻刻都離不開電的作用。不僅僅是大腦，我們整個人體都傳輸著各種生物電， 例如醫院的心電圖也是依靠人體內電流的變化來反映出病人的身體狀況。電流在人體中無處不在。
總結：通過上面的介紹，我們知道了人體的生理活動離不開電流，大腦的運作更需要電流作用。
以上就是關於這個問題的回答，希望對你能夠有所幫助。
大千世界，無窮無盡。眼觀六路，耳聽八方，人們無不每時每刻都在身臨其境，體會到大自然的種種景像，最後由大腦發出喜怒哀樂的指導思想。
人類大腦面對事物的瞬間決斷，可能是這世界上最快的反應了。雖然人類大腦的活動也是一種生物放電現像，但是這個大腦反應速度之快，讓人感覺到比光速還要快。
人的大腦也能放電嗎？是的。要麼我們為什麼會有思想。通常腦部的檢查，都會做腦電圖。世界上所有的生物都擁有產生強弱有別的放電功能。有的動物瞬間放出的高壓電流足足可以讓對方斃命。
人體為什麼會產生電能？這個問題好回答，但過程很復雜。我們每天都會食用大量的各種食物，這些食物含有豐富的澱粉，蛋白質，脂肪等大分子化合物，經過胃酶的消化，這些大分子化合物變成了小分子的營養成份被人體吸收扒世喊。並產生了熱量，這些熱量的揮發，也就是人體的放電現像。要不就會堆積為脂肪，使人發胖，最後導致病況。
正是源源不斷的能量輸入到大腦，使大腦的細胞有了記憶，思維，判斷，最終做出指導思想。大腦的所有活動，包括晚間的美夢，無不是大腦的放電現像。
人的大腦就是台精密機器，人的大腦由80%的水及其它生物化學物資構成。
人的大腦包含在比較堅硬的腦殼中，大腦由腦干、大腦、小腦、右半腦、左半腦、頂葉、額葉、枕葉等部位（零件）組成。大腦最主要的工作，就是讓自已活著。大腦一旦出現致命故障，便會通知心臟不再跳動，人的「靈魂」也就脫離陽間，人便死去了。
大腦每個部位都有自已的工作內容，題主提問及夲者應答，即都是通過左半腦的工作。
電腦通電才能工作，人腦工作的能量來之於不間斷的空氣，身體所需淡水、食物及各種不可或缺化學物質。
誰都不會不明白，世上太多事物，都是人腦指揮手腳創造發明的。電腦所需電源是人創造發明的，很多「能工作」的 科技 產品，包括電腦，都是人腦辛勤思索，指揮人的手腳工作後，才賦於了它們「生命」。
如果我們仔細查看一下人口數的變化，就會發現人口數在18世紀開始發生了指數級增長，這其實是因為第一次工業革命導致的；緊接著我們還會發現19世紀，再一次發生人口指數級的增長，而且比之前更加劇烈，這一次其實是第二次工業革命導致的。
第一次工業革命其實得利於牛頓力學和熱力學的發展。而第二次工業革命則是得利於電磁學的發展。如今家家戶戶都在使用電，而且往往越發達的地方，如果我們從天上往下看，就越會發現夜晚是燈火通明的。這是因為從第二次工業革命開始，人類進入了電氣時代，開始使用了電腦。
人類用電似乎是19世紀以後的事情，但實際上並非如此。人類其實自身就是一個帶電體，只是這個電很微弱而已，而且人類的大腦就是依靠電力驅動的，也就是說，自從有人類出現，人類就開始使用電，只是我們自己不知道而已。
那具體是咋回事呢？我們今天就聊一聊這個問題。
按照目前主流的科學理論，我們知道萬物都是演化而來的，這也就是進化論的觀點。演化其實是一個很慢的過程，都是以幾十萬，甚至是幾百萬年為單位在變化。如今我們知道，人類是由古猿演化而來的，但是在演化的過程中，我們很難去定義什麼時候是古猿，什麼時候是人類。
為了研究方便， 科學家把腦容量達到600ml~650ml作為一個判斷是否是人類的標准 ，除了這個標准之外，還有直立行走。
而如今現代人類其實屬於智人，我們的腦容量大概在1400ml左右。也就是說，人類其實一直在朝著腦容量越來越大演化。當然，這里要補充一點，生物並沒有能力自己選擇演化的方向，而是腦容量大的被自然選擇篩選出來了而已。那為什麼大腦會如此重要呢？
實際上，我們每天能夠完成所有的工作，或者最基本的吃喝拉撒都需要依靠大腦來作為神經中樞發號指令。那大腦是如何完成工作的呢？
這里就不得不提到神經元。神經元是大腦的一個基本單位。人類的大腦當中大概有860億個神經元，這么多的神經元構成了一個神經網路，我們的動作、反應都是依靠著神經元來傳遞信息。
那神經元是如何傳遞信息的呢？我們下來看一下一個神經元是什麼樣的。
從這張圖我們可以看到，神經元其實有兩個部分構成，一個是細胞體，一個是細胞突起。而細胞突起又是由三部分構成的，分別是樹突、軸突和髓鞘。
那信息是如何在實現傳遞的呢？
首先在一個神經元上面， 信號的傳遞是通過電信號來傳遞，這個過程有電荷的轉移 。所以， 神經纖維上的信息傳遞其實是依靠電位差的，會有局部電流 。
而神經元和神經元之間的傳遞這是通過神經遞質。在軸突末梢上的一些小分支，而被為突觸小體。這個突出小體可以和其他神經元的細胞體相接觸。
當神經纖維上的電信號傳遞過來時，需要將這個電信號傳遞給下一個神經元，這時候突觸小體就會釋放出神經遞質，把這個神經遞質傳遞到另一個神經元的細胞體上，這個時候另一個神經元得到神經遞質之後，又會轉化成電信號，在神經纖維上傳遞。
通過這樣就可以構成一個基本的控制單位，我們的一些列動作和反應其實都是依靠神經元的信息傳遞來實現的。
曾經有一部科幻電影叫做黑客帝國。在這個電影當中就有一個設定，當時人工智慧戰勝了人類，但是人工智慧需要用到電，於是就養了一群人，利用人體的生物電來給他們供電。但實際上這樣的供電方式是相當低效的，這是因為人體真的是一個低能耗的存在。
人類的大腦占據人體重量的2%，但卻消耗了人體總能量消耗的20%。如果計算下來，我們就會發現，一天耗能大概在1,600,000多焦耳，換算成功率就是20瓦左右。
而同樣是處理信息的電腦，CPU類似於人體大腦的功能，僅僅是CPU這個中央處理器，功率就不低，往低了算大概至少也要100瓦左右，一天耗能在8,000,000多焦耳，耗能至少是大腦的5倍以上。
所以，相比CPU，人類的大腦是相當節省能耗的。
人類大腦工作是需要消耗能量的，據科學研究人腦的重量雖然只佔人體重量的2％左右，但是大腦消耗的能量卻佔全身消耗能量的20％。
目前的大腦的工作原理還沒有定論，因為大腦的復雜程度遠比想像中復雜（這里有個細思極恐的畫面，我們的大腦想像大腦是怎麼工作的，相當於大腦研究大腦自己），所以大腦的研究目前還在研究階段。
右腦半球控制左半身的活動，左腦半球則控制右半身的活動，因此，如果右腦半球受損，左半身便無法正常的活動。 左右大腦半球有各自的稱為側腦室的腔隙。側腦室與間腦的第三腦室，以及小腦和延腦及腦橋之間的第四腦室之間有孔道連通。腦室中的脈絡叢產生腦的液體稱為腦脊液。腦脊液在各腦室與蛛網膜下腔之間循環，如果腦室的通道阻塞，腦室中的腦脊液積多，將形成腦積水。
人的大腦沒有能量就死翹翹。
人的大腦比電腦不知道要復雜多少倍，因此消耗的能量也大，人每天汲取的食物轉化為能量，每口呼吸得到的氧同樣也轉化為能量，這些能量的25%供應給腦了。
所以一些程序員一動不動，每天只在用腦子，但吃起來也不比運動員少。
因為運動員只是運動四肢，而程序員必須開動腦筋馬達，消耗能量有得一拼。
某種意義上說，人腦和電腦一樣，也是需要通電才能夠工作的。
人的能量也會轉變為電能，神經的傳遞的信號主要就是電信號。
這里要說明一下，世界上一切物質，除了引力作用，宏觀力主要就是電磁作用力。
要知道所有的物質都是由原子組成，而原子是原子核和電子組成。
電力就是一個閉環的導線通過切割磁力線發生的磁通量變化而產生的，電勢差導致電場產生，而電場驅動自由電子做定向移動，就產生了電流。
一切生物都是由原子組成的，人體同樣是由原子組成的。因此，通過電信號來使機體保持運行狀態，並且新陳代謝，是生物的基本功能。
不過生物電不像常規電力能那樣傳輸，而是有特別的運行機理。
人體由約60萬億個細胞組成，每個活細胞都存在細胞膜電位。細胞在膜電位的作用下，使周圍鈉、鉀、氯離子形成梯度排列，通過離子交換進行代謝活動。
通過細胞的代謝活動，我們可以得知活動電位所依靠最重要部分就是各種礦物質離子。因此如果人體缺乏某些礦物質，體內電位就不能平衡，就會生病。
比如缺鉀或缺鈉，多鉀或多納，都會導致機體平衡失調，造成病症甚至生命危險。
而人腦是人體最重要的器官，也是最復雜的器官。
人類之所以進化出智慧，成為地球的主宰者，最主要的就是大腦進化發達的結果。
人腦與其他動物大腦從重量、結構、功能都有較大差異，特別是結構和功能的復雜程度是任何其他動物都無法比擬的。
大腦是人的意識、思維、記憶的總機關，是感知感覺、反應行為的收集、決策和指揮中心，一旦腦子壞了，這個人也就完了。
大腦復雜的結構和功能說起來佔用篇幅很大，這里就不啰嗦了。
這里只說說大腦神經元。
大腦的整個活動，都是依靠大腦神經元輸送養分、新陳代謝、傳導信息，據估計，人類中樞神經系統中有約1000億個神經元，僅大腦皮層就有約140億個。
這些神經元是特異化的，具有放電功能的細胞類型，神經元之間由突觸相互連接。神經信號在神經元內通過動作電位的方式進行電傳導，而在神經元之間則通過傳遞化學遞質在突觸間傳導。
大腦就是從對外界的感知感覺中獲得刺激信息，經過處理，在分門別類的進行處理，或儲存，或記憶，或反饋，並指揮軀體應對各種感知感覺和刺激。
要維持大腦高效運行，是需要能量的。
當人們用大腦思考時，數百萬的神經細胞就會忙忙碌碌緊張的進行信息傳遞，有人用「燒腦」來形容緊張的思考一點也不誇張，而且恰如其分。
「燒腦」消耗的能量很大，大腦重量只佔人體體重的2%，但每天流經大腦的血液達到2000毫升，是全身血液流量的15%；消耗的能量達到全身總血糖的20%，肝臟血糖的75%；耗氧量佔全身的25%。
據測算，大腦用電量相當一個25瓦的白熾燈電燈泡。
感謝閱讀，歡迎討論。
大腦是人間的奇跡，自然的傑作，有人說宇宙是一個超級大腦，這不是神話傳說，也不是武俠世界，而是自然科學，大腦本身就是自然的產物，必定符合自然科學，人腦之所以能夠工作，無非是一系列的化學反應，宇宙操控萬物，是科學的反應，電腦使用的是電能，人腦使用的是生物能，就是通過化學反應創造能量，實際上是化學能，電能比較簡單，方便人們工作，但是它沒有智商，不能維持自己的能量，除非一個機器人能夠自己進行充電，這其實就是智商的一種表現，早在上個世紀，智商就已經被用在了機器上，我的一個朋友，曾經參加過新四軍，親眼目睹軍隊裡面的機器人管理人員，它可以根據你的反應做出極其准確的反應，堪稱完美，但是由於各種原因限制了 科技 的發展，也許害怕給人類帶來不必要的災難，所以這方面的話題，到現在還是模模糊糊，甚至是禁忌
血管供能量。
電腦通電才能工作，人腦通過皮毛傳光熱也才能動！你做個實驗，閉眼，大腦沒有接收光熱，人腦同樣不能工作，疾呆光熱傳不到大腦啊！趕快治療悟空啊！
血液流動產生微磁電交互傳輸。
E. 神經網路淺談
人工智慧技術是當前炙手可熱的話題，而基於神經網路的深度學習技術更是熱點中的熱點。去年穀歌的Alpha Go 以4:1大比分的優勢戰勝韓國的李世石九段，展現了深度學習的強大威力，後續強化版的Alpha Master和無師自通的Alpha Zero更是在表現上完全碾壓前者。不論你怎麼看，以深度學習為代表的人工智慧技術正在塑造未來。
下圖為英偉達（NVIDIA）公司近年來的股價情況， 該公司的主要產品是「圖形處理器」（GPU），而GPU被證明能大大加快神經網路的訓練速度，是深度學習必不可少的計算組件。英偉達公司近年來股價的飛漲足以證明當前深度學習的井噴之勢。
好，話不多說，下面簡要介紹神經網路的基本原理、發展脈絡和優勢。
神經網路是一種人類由於受到生物神經細胞結構啟發而研究出的一種演算法體系，是機器學習演算法大類中的一種。首先讓我們來看人腦神經元細胞：
一個神經元通常具有多個樹突 ，主要用來接受傳入信息，而軸突只有一條，軸突尾端有許多軸突末梢，可以給其他多個神經元傳遞信息。軸突末梢跟其他神經元的樹突產生連接，從而傳遞信號。
下圖是一個經典的神經網路（Artificial Neural Network,ANN）：
乍一看跟傳統互聯網的拓撲圖有點類似，這也是稱其為網路的原因，不同的是節點之間通過有向線段連接，並且節點被分成三層。我們稱圖中的圓圈為神經元，左邊三個神經元組成的一列為輸入層，中間神經元列為隱藏層,右邊神經元列為輸出層，神經元之間的箭頭為權重。
神經元是計算單元，相當於神經元細胞的細胞核，利用輸入的數據進行計算，然後輸出，一般由一個線性計算部分和一個非線性計算部分組成；輸入層和輸出層實現數據的輸入輸出，相當於細胞的樹突和軸突末梢；隱藏層指既不是輸入也不是輸出的神經元層，一個神經網路可以有很多個隱藏層。
神經網路的關鍵不是圓圈代表的神經元，而是每條連接線對應的權重。每條連接線對應一個權重，也就是一個參數。權重具體的值需要通過神經網路的訓練才能獲得。我們實際生活中的學習體現在大腦中就是一系列神經網路迴路的建立與強化，多次重復的學習能讓迴路變得更加粗壯，使得信號的傳遞速度加快，最後對外表現為「深刻」的記憶。人工神經網路的訓練也借鑒於此，如果某種映射關系出現很多次，那麼在訓練過程中就相應調高其權重。
1943年，心理學家McCulloch和數學家Pitts參考了生物神經元的結構，發表了抽象的神經元模型MP：
符號化後的模型如下：
Sum函數計算各權重與輸入乘積的線性組合，是神經元中的線性計算部分，而sgn是取符號函數，當輸入大於0時，輸出1，反之輸出0，是神經元中的非線性部分。向量化後的公式為z=sgn(w^T a)（w^T=(w_1,w_2,w_3)，a=〖(a_1,a_2,a_3)〗^T）。
但是，MP模型中，權重的值都是預先設置的，因此不能學習。該模型雖然簡單，並且作用有限，但已經建立了神經網路大廈的地基
1958年，計算科學家Rosenblatt提出了由兩層神經元組成(一個輸入層，一個輸出層)的神經網路。他給它起了一個名字–「感知器」（Perceptron）
感知器是當時首個可以學習的人工神經網路。Rosenblatt現場演示了其學習識別簡單圖像的過程，在當時引起了轟動，掀起了第一波神經網路的研究熱潮。
但感知器只能做簡單的線性分類任務。1969年，人工智慧領域的巨擘Minsky指出這點，並同時指出感知器對XOR（異或，即兩個輸入相同時輸出0，不同時輸出1）這樣的簡單邏輯都無法解決。所以，明斯基認為神經網路是沒有價值的。
隨後，神經網路的研究進入低谷，又稱 AI Winter 。
Minsky說過單層神經網路無法解決異或問題，但是當增加一個計算層以後，兩層神經網路不僅可以解決異或問題，而且具有非常好的非線性分類效果。
下圖為兩層神經網路（輸入層一般不算在內）：
上圖中，輸出層的輸入是上一層的輸出。
向量化後的公式為：
注意：
每個神經元節點默認都有偏置變數b，加上偏置變數後的計算公式為：
同時，兩層神經網路不再使用sgn函數作為激勵函數，而採用平滑的sigmoid函數：
σ(z)=1/(1+e^(-z) )
其圖像如下：
理論證明： 兩層及以上的神經網路可以無限逼近真實的對應函數，從而模擬數據之間的真實關系 ，這是神經網路強大預測能力的根本。但兩層神經網路的計算量太大，當時的計算機的計算能力完全跟不上，直到1986年，Rumelhar和Hinton等人提出了反向傳播（Backpropagation，BP）演算法，解決了兩層神經網路所需要的復雜計算量問題，帶動了業界使用兩層神經網路研究的熱潮。
但好景不長，演算法的改進僅使得神經網路風光了幾年，然而計算能力不夠，局部最優解，調參等一系列問題一直困擾研究人員。90年代中期，由Vapnik等人發明的SVM（Support Vector Machines，支持向量機）演算法誕生，很快就在若干個方面體現出了對比神經網路的優勢：無需調參；高效；全局最優解。
由於以上原因，SVM迅速打敗了神經網路演算法成為主流。神經網路的研究再一次進入低谷， AI Winter again 。
多層神經網路一般指兩層或兩層以上的神經網路（不包括輸入層），更多情況下指兩層以上的神經網路。
2006年，Hinton提出使用 預訓練 」（pre-training）和「微調」(fine-tuning)技術能優化神經網路訓練，大幅度減少訓練多層神經網路的時間
並且，他給多層神經網路相關的學習方法賦予了一個新名詞–「 深度學習 」，以此為起點，「深度學習」紀元開始了：）
「深度學習」一方面指神經網路的比較「深」，也就是層數較多；另一方面也可以指神經網路能學到很多深層次的東西。研究發現，在權重參數不變的情況下，增加神經網路的層數，能增強神經網路的表達能力。
但深度學習究竟有多強大呢？沒人知道。2012年，Hinton與他的學生在ImageNet競賽中，用多層的卷積神經網路成功地對包含一千類別的一百萬張圖片進行了訓練，取得了分類錯誤率15%的好成績，這個成績比第二名高了近11個百分點，充分證明了多層神經網路識別效果的優越性。
同時，科研人員發現GPU的大規模並行矩陣運算模式完美地契合神經網路訓練的需要，在同等情況下，GPU的速度要比CPU快50-200倍，這使得神經網路的訓練時間大大減少，最終再一次掀起了神經網路研究的熱潮，並且一直持續到現在。
2016年基於深度學習的Alpha Go在圍棋比賽中以4:1的大比分優勢戰勝了李世石，深度學習的威力再一次震驚了世界。
神經網路的發展歷史曲折盪漾，既有被捧上神壇的高潮，也有無人問津的低谷，中間經歷了數次大起大落，我們姑且稱之為「三起三落」吧，其背後則是演算法的改進和計算能力的持續發展。
下圖展示了神經網路自發明以來的發展情況及一些重大時間節點。
當然，對於神經網路我們也要保持清醒的頭腦。由上圖，每次神經網路研究的興盛期持續10年左右，從最近2012年算起，或許10年後的2022年，神經網路的發展將再次遇到瓶頸。
神經網路作為機器學習的一種，其模型訓練的目的，就是使得參數盡可能的與真實的模型逼近。理論證明，兩層及以上的神經網路可以無限逼近真實的映射函數。因此，給定足夠的訓練數據和訓練時間，總能通過神經網路找到無限逼近真實關系的模型。
具體做法：首先給所有權重參數賦上隨機值，然後使用這些隨機生成的參數值，來預測訓練數據中的樣本。假設樣本的預測目標為yp ，真實目標為y，定義值loss，計算公式如下：
loss = (yp -y) ^2
這個值稱之為 損失 （loss），我們的目標就是使對所有訓練數據的損失和盡可能的小，這就轉化為求loss函數極值的問題。
一個常用方法是高等數學中的求導，但由於參數不止一個，求導後計算導數等於0的運算量很大，所以常用梯度下降演算法來解決這樣的優化問題。梯度是一個向量，由函數的各自變數的偏導數組成。
比如對二元函數 f =(x,y)，則梯度∇f=(∂f/∂x,∂f/∂y)。梯度的方向是函數值上升最快的方向。梯度下降演算法每次計算參數在當前的梯度，然後讓參數向著梯度的反方向前進一段距離，不斷重復，直到梯度接近零時截止。一般這個時候，所有的參數恰好達到使損失函數達到一個最低值的狀態。下圖為梯度下降的大致運行過程：
在神經網路模型中，由於結構復雜，每次計算梯度的代價很大。因此還需要使用 反向傳播 （Back Propagation）演算法。反向傳播演算法利用了神經網路的結構進行計算，不一次計算所有參數的梯度，而是從後往前。首先計算輸出層的梯度，然後是第二個參數矩陣的梯度，接著是中間層的梯度，再然後是第一個參數矩陣的梯度，最後是輸入層的梯度。計算結束以後，所要的兩個參數矩陣的梯度就都有了。當然，梯度下降只是其中一個優化演算法，其他的還有牛頓法、RMSprop等。
確定loss函數的最小值後，我們就確定了整個神經網路的權重，完成神經網路的訓練。
在神經網路中一樣的參數數量，可以用更深的層次去表達。
由上圖，不算上偏置參數的話，共有三層神經元，33個權重參數。
由下圖，保持權重參數不變，但增加了兩層神經元。
在多層神經網路中，每一層的輸入是前一層的輸出，相當於在前一層的基礎上學習，更深層次的神經網路意味著更深入的表示特徵，以及更強的函數模擬能力。更深入的表示特徵可以這樣理解，隨著網路的層數增加，每一層對於前一層次的抽象表示更深入。
如上圖，第一個隱藏層學習到「邊緣」的特徵，第二個隱藏層學習到「邊緣」組成的「形狀」的特徵，第三個隱藏層學習到由「形狀」組成的「圖案」的特徵，最後的隱藏層學習到由「圖案」組成的「目標」的特徵。通過抽取更抽象的特徵來對事物進行區分，從而獲得更好的區分與分類能力。
前面提到， 明斯基認為Rosenblatt提出的感知器模型不能處理最簡單的「異或」（XOR）非線性問題，所以神經網路的研究沒有前途，但當增加一層神經元後，異或問題得到了很好地解決，原因何在？原來從輸入層到隱藏層，數據發生了空間變換，坐標系發生了改變，因為矩陣運算本質上就是一種空間變換。
如下圖，紅色和藍色的分界線是最終的分類結果，可以看到，該分界線是一條非常平滑的曲線。
但是，改變坐標系後，分界線卻表現為直線，如下圖：
同時，非線性激勵函數的引入使得神經網路對非線性問題的表達能力大大加強。
對於傳統的樸素貝葉斯、決策樹、支持向量機SVM等分類器，提取特徵是一個非常重要的前置工作。在正式訓練之前，需要花費大量的時間在數據的清洗上，這樣分類器才能清楚地知道數據的維度，要不然基於概率和空間距離的線性分類器是沒辦法進行工作的。然而在神經網路中，由於巨量的線性分類器的堆疊（並行和串列）以及卷積神經網路的使用，它對雜訊的忍耐能力、對多通道數據上投射出來的不同特徵偏向的敏感程度會自動重視或忽略，這樣我們在處理的時候，就不需要使用太多的技巧用於數據的清洗了。有趣的是，業內大佬常感嘆，「你可能知道SVM等機器學習的所有細節，但是效果並不好，而神經網路更像是一個黑盒，很難知道它究竟在做什麼，但工作效果卻很好」。
人類對機器學習的環節干預越少，就意味著距離人工智慧的方向越近。神經網路的這個特性非常有吸引力。
1) 谷歌的TensorFlow開發了一個非常有意思的神經網路 入門教程 ，用戶可以非常方便地在網頁上更改神經網路的參數，並且能看到實時的學習效率和結果，非常適合初學者掌握神經網路的基本概念及神經網路的原理。網頁截圖如下：
2) 深度學習領域大佬吳恩達不久前發布的《 神經網路和深度學習 》MOOC，現在可以在網易雲課堂上免費觀看了，並且還有中文字幕。
3) 《神經網路於深度學習》（Michael Nielsen著）、《白話深度學習與TensorFlow》也是不錯的入門書籍。
F. 人工神經網路
本文討論的神經網路是從生物學領域引入計算機科學和工程領域的一個仿生學概念，又稱人工神經網路（英語：artificial neural network，縮寫ANN）。是一種模判橡仿生物神經網路（動物的中樞神經系統，特別是大腦）的結構和功能的數學模型或計算模型，用於對函數進行估計或近似。參考 wiki定義 。
如圖，一個神經元通常具有多個樹突，主要用來接受傳入信息；而軸突只有一條，軸突尾端有許多軸突末梢可以給其他多個神經元傳遞信息。軸突末梢跟其他神經元的樹突產生連接，從而傳遞信號。這個連接的位置在生物學上叫做「突觸」。
基於此，1943年，心理學家McCulloch和數學家Pitts參考了生物神經元的結構，發表了抽象的神經元模型MP，神經元模型是一個包含輸入，輸出與計算功能的模型。輸入可以類比為神經元的樹突，而輸出可以類比為神經元的軸突，計算則可以類比為細胞核。如下圖：
圖中X代表輸入信號，W代表權重，∑代表將X和W的矩陣運算，ψ對運算結果應用sgn函數，最終得到輸出y。
然而，改模型對許可權W是通過指定好的，因此不存在在計算工程中動態調配許可權W的能力，也就是不存在學習的能力。
1958年，計算科學家Rosenblatt提出了由兩層神經元組成的神經網路：「啟沖芹感知器」（Perceptron）。
可以看到，一個感知器有如下組成部分：
輸入權值： 一個感知器可以接收多個輸入，每個輸入上有一個權值，此外還有一個偏置項，就是上圖中的。
激活函數： 感知器的激活函數可以有很多選擇，比如我們可以選擇Sigmoid函數來作為激活函數。
其中，因為生物學上，外接信號傳導到神經元上，神經元不會立刻做出反應，而是會抑制輸入，直到輸入增強，強大到可以觸發輸出。也就是說，在產生輸出之前，輸入必須達到一個閾值。在數學上，這種隨著變數值增大，函數值發生跳躍的函數成為激活函數。下圖是一個常用的激活函數，Sigmoid函數曲線圖：
上節我們看到，感知器其實是單層的神經網路，神經網路可以理解成多個感知器組合而成的一個結構，如下圖：
神經網路的學習過程就是對權重矩陣的更新過程。所謂的訓練過程就是比較當前網路的預測值和我們真正想要的目標值，再根據兩者差異來更新每一層的權重矩陣。因此，必須先定義好如何比較預測值和目標值的差異，這便是損失函數（loss function）。損失函數輸出值loss越高表示差異性越大，神經網路的訓練就變成了盡可能的縮小loss的過程。悄畢
所謂梯度下降法，就是通過使loss值向當前點對應梯度點反方向不斷移動，來降低loss。一次移動多少通過學習率（learning rate）控制。
通俗來講，所謂梯度下降法，其實就如同漆黑的夜晚拿著手電筒站在山頂，每次只能看到眼前的一米遠距離，想要下到山腳，我們採用每次都選擇最陡峭的地方向下挪動，反復這一過程，最終到達山腳。
G. 人體內神經網路有多大
神經，對我們人體來說是至關重要的。神經可以傳遞信息，使我們感知身體接觸的一切。如果你的困侍手被刺扎了一下，手就會向後猛地一抽，這就是神經的快速反應。神經信號繞過你的大腦直接通過你的脊髓傳達到肌肉，這才使你納尺高盡可能快地將手縮回來。
經解剖學家測定，大約有75公里長的神經蜿蜒穿過我們的身體。像蜘蛛網一樣的神經網路在我們的腦、脊髓和身體之間傳遞著各種信息。這種信洞尺息以微小電信號的形式存在著。
H. 神經電信號和神經遞質各傳遞什麼信息啊
神經電信號傳遞興奮，這種電信號也叫神經沖動。神經遞質由突觸前膜釋放後立即與相應的突觸後膜受體結合，產生突觸去極化電位或超極化電位，導致突觸後神核蔽經興奮性升高或降低。神經遞質本身不攜帶信息塵氏中
只派山是傳遞一個神經信號。
I. AlphaGo的神奇全靠它，詳解人工神經網路!
- 01
Alphago在不被看好的情況下，以4比1擊敗了圍棋世界冠軍李世石，令其名震天下。隨著AlphaGo知名度的不斷提高，人們不禁好奇，究竟是什麼使得AlphaGo得以戰勝人類大腦？AlphaGo的核心依託——人工神經網路。
什麼是神經網路?
人工神經網路是一種模仿生物神經網路(動物的中樞神經系統，特別是大腦)的結構型大昌和功能的數學模型或計算模型。神經網路由大量的人工神經元聯結進行計算。大多數情況下人工神經網路能在外界信息的基礎上改變內部結構，是一種自適應系統。現代神經網路是一種非線性統計性數據建模工具，常用來對輸入和輸出間復雜的關系進行建模，或用來探索數據的模式。
神經網路是一種運算模型，由大量的節點（或稱“神經元”，或“單元”）和之間相互聯接構成。每個節點代表一種特仿返定的輸出函數，稱為激勵函數。每兩個節點間的連接都代表一個對於通過該連接信號的加權值，稱之為權重，這相當於人工神經網路的記憶。網路的輸出則依網路的連接方式，權重值和激勵函數的不同而不同。而網路自身通常都是對自然界某種演算法或者函數的逼近，也可能是對一種邏輯策略的表達。
例如，用於手寫識別的一個神經網路是被可由一個輸入圖像的像素被激活的一組輸入神經元所定義的。在通過函數（由網路的設計者確定）進行加權和變換之後，這些神經元被激活然後被傳遞到其他神經元。重復這一過程，直到最後一個輸出神經元被激活。這樣決定了被讀取的字。
它的構築理念是受到人或其他動物神經網路功能的運作啟發而產生的。人工神經網路通常是通過一個基於數學統計學類型的學習方法得以優化，所以人工神經網路也是數學統計學方法的一種實際應用，通過統計學的標准數學方法我們能夠得到大量的可以用函數來表達的局部結構空間，另一方面在人工智慧學的人工感知領域，我們通過數學統計學的應用可以來做人工感知方面的決定問題(也就是說通過統計學的方法，人工神經網路能夠類似人一樣具有簡單的決定能力和簡單的判斷能力)，這種方法比起正式的邏輯學推理演算更具有優勢。
人工神經網路是一個能夠學習，能夠總結歸納的系統，也就是說它能夠通過已知數據的實驗運用來學習和歸納總結。人工神經網路通過對局部情況的對照比較（而這些比較是基於不同情況下的自動學習和要實際解決問題的復雜性所決定的），它能夠推理產生一個可以自動識別的系統。與之不同的基於符號系統下的學習方法，它們也具有推理功能，只是它們是建立在邏輯演算法的基礎上，也就是說它們之所以能夠推理，基礎是需要有一個推理演算法則的集合。
2AlphaGo的原理回頂部
AlphaGo的原理
首先，AlphaGo同優秀的選手進行了150000場比賽，通過人工神經網路找到這些比賽的模式。然後通過總結，它會預測選手在任何位置高概率進行的一切可能。AlphaGo的設計師通過讓其反復卜扒的和早期版本的自己對戰來提高神經網路，使其逐步提高獲勝的機會。
從廣義上講，神經網路是一個非常復雜的數學模型，通過對其高達數百萬參數的調整來改變的它的行為。神經網路學習的意思是，電腦一直持續對其參數進行微小的調整，來嘗試使其不斷進行微小的改進。在學習的第一階段，神經網路提高模仿選手下棋的概率。在第二階段，它增加自我發揮，贏得比賽的概率。反復對極其復雜的功能進行微小的調整，聽起來十分瘋狂，但是如果有足夠長的時間，足夠快的計算能力，非常好的網路實施起來並不苦難。並且這些調整都是自動進行的。
經過這兩個階段的訓練，神經網路就可以同圍棋業余愛好者下一盤不錯的棋了。但對於職業來講，它還有很長的路要走。在某種意義上，它並不思考每一手之後的幾步棋，而是通過對未來結果的推算來決定下在哪裡。為了達到職業級別，AlphaGp需要一種新的估算方法。
為了克服這一障礙，研究人員採取的辦法是讓它反復的和自己進行對戰，以此來使其不斷其對於勝利的估算能力。盡可能的提高每一步的獲勝概率。（在實踐中，AlphaGo對這個想法進行了稍微復雜的調整。）然後，AlphaGo再結合多線程來使用這一方法進行下棋。
我們可以看到，AlphaGo的評估系統並沒有基於太多的圍棋知識，通過分析現有的無數場比賽的棋譜，以及無數次的自我對戰練習，AlphaGo的神經網路進行了數以十億計的微小調整，即便每次只是一個很小的增量改進。這些調整幫助AlphaGp建立了一個估值系統，這和那些出色圍棋選手的直覺相似，對於棋盤上的每一步棋都了如指掌。
此外AlphaGo也使用搜索和優化的思想，再加上神經網路的學習功能，這兩者有助於找到棋盤上更好的位置。這也是目前AlphaGo能夠高水平發揮的原因。
3神經網路的延伸和限制回頂部
神經網路的延伸和限制
神經網路的這種能力也可以被用在其他方面，比如讓神經網路學習一種藝術風格，然後再將這種風格應用到其他圖像上。這種想法很簡單：首先讓神經網路接觸到大量的圖像，然後來確認這些圖像的風格，接著將新的圖像帶入這種風格。
這雖然不是偉大的藝術，但它仍然是一個顯著的利用神經網路來捕捉直覺並且應用在其他地方的例子。
在過去的幾年中，神經網路在許多領域被用來捕捉直覺和模式識別。許多項目使用神經這些網路，涉及的任務如識別藝術風格或好的視頻游戲的發展戰略。但也有非常不同的網路模擬的直覺驚人的例子，比如語音和自然語言。
由於這種多樣性，我看到AlphaGo本身不是一個革命性的突破，而是作為一個極其重要的發展前沿：建立系統，可以捕捉的直覺和學會識別模式的能力。此前計算機科學家們已經做了幾十年，沒有取得長足的進展。但現在，神經網路的成功已經大大擴大，我們可以利用電腦攻擊范圍內的潛在問題。
事實上，目前現有的神經網路的理解能力是非常差的。神經網路很容易被愚弄。用神經網路識別圖像是一個不錯的手段。但是實驗證明，通過對圖像進行細微的改動，就可以愚弄圖像。例如，下面的圖像左邊的圖是原始圖，研究人員對中間的圖像進行了微小的調整後，神經網路就無法區分了，就將原圖顯示了出來。
另一個限制是，現有的系統往往需要許多模型來學習。例如，AlphaGo從150000場對戰來學習。這是一個很龐大額度數字！很多情況下，顯然無法提供如此龐大的模型案例。
J. 人工智慧：什麼是人工神經網路
許多 人工智慧 計算機系統的核心技術是人工神經網路(ANN)，而這種網路的靈感來源於人類大腦中的生物結構。
通過使用連接的「神經元」結構，這些網路可以通過「學習」並在沒有人類參與的情況下處理和評估某些數據。
這樣的實際實例之一是使用人工神經網路(ANN)識別圖像中的對象。在構建一個識別「貓「圖像的一個系統中，將在包含標記為「貓」的圖像的數據集上訓練人工神經網路，該數據集可用作任何進行分析的參考點。正如人們可能學會根據尾巴或皮毛等獨特特徵來識別狗一樣，人工神經網路(ANN)也可以通過將每個圖像分解成不同的組成部分(如顏色和形狀)進行識別。
實際上，神經網路提供了位於託管數據之上的排序和分類級別，可基於相似度來輔助數據的聚類和分組。可以使用人工神經網路(ANN)生成復雜的垃圾郵件過濾器，查找欺詐行為的演算法以及可以精確了解情緒的客戶關系工具。
人工神經網路如何工作
人工神經網路的靈感來自人腦的神經組織，使用類似於神經元的計算節點構造而成，這些節點沿著通道(如神經突觸的工作方式)進行信息交互。這意味著一個計算節點的輸出將影響另一個計算節點的處理。
神經網路標志著人工智慧發展的巨大飛躍，在此之前，人工智慧一直依賴於使用預定義的過程和定期的人工干預來產生所需的結果。人工神經網路可以使分析負載分布在多個互連層的網路中，每個互連層包含互連節點。在處理信息並對其進行場景處理之後，信息將傳遞到下一個節點，然後向下傳遞到各個層。這個想法是允許將其他場景信息接入網路，以通知每個階段的處理。
單個「隱藏」層神經網路的基本結構
就像漁網的結構一樣，神經網路的一個單層使用鏈將處理節點連接在一起。大量的連接使這些節點之間的通信得到增強，從而提高了准確性和數據處理吞吐量。
然後，人工神經網路將許多這樣的層相互疊放以分析數據，從而創建從第一層到最後一層的輸入和輸出數據流。盡管其層數將根據人工神經網路的性質及其任務而變化，但其想法是將數據從一層傳遞到另一層，並隨其添加附加的場景信息。
人腦是用3D矩陣連接起來的，而不是大量堆疊的圖層。就像人類大腦一樣，節點在接收到特定刺激時會在人工神經網路上「發射」信號，並將信號傳遞到另一個節點。但是，對於人工神經網路，輸入信號定義為實數，輸出為各種輸入的總和。
這些輸入的值取決於它們的權重，該權重用於增加或減少與正在執行的任務相對應的輸入數據的重要性。其目標是採用任意數量的二進制數值輸入並將其轉換為單個二進制數值輸出。
更復雜的神經網路提高了數據分析的復雜性
早期的神經網路模型使用淺層結構，其中只使用一個輸入和輸出層。而現代的系統由一個輸入層和一個輸出層組成，其中輸入層首先將數據輸入網路，多個「隱藏」層增加了數據分析的復雜性。
這就是「深度學習」一詞的由來——「深度」部分專門指任何使用多個「隱藏」層的神經網路。
聚會的例子
為了說明人工神經網路在實際中是如何工作的，我們將其簡化為一個實際示例。
想像一下你被邀請參加一個聚會，而你正在決定是否參加，這可能需要權衡利弊，並將各種因素納入決策過程。在此示例中，只選擇三個因素——「我的朋友會去嗎?」、「聚會地點遠嗎?」、「天氣會好嗎?」
通過將這些考慮因素轉換為二進制數值，可以使用人工神經網路對該過程進行建模。例如，我們可以為「天氣」指定一個二進制數值，即『1'代表晴天，『0'代表惡劣天氣。每個決定因素將重復相同的格式。
然而，僅僅賦值是不夠的，因為這不能幫助你做出決定。為此需要定義一個閾值，即積極因素的數量超過消極因素的數量。根據二進制數值，合適的閾值可以是「2」。換句話說，在決定參加聚會之前，需要兩個因素的閾值都是「1」，你才會決定去參加聚會。如果你的朋友要參加聚會(『1')，並且天氣很好(『1')，那麼這就表示你可以參加聚會。
如果天氣不好(『0')，並且聚會地點很遠(『0')，則達不到這一閾值，即使你的朋友參加(『1')，你也不會參加聚會。
神經加權
誠然，這是神經網路基本原理的一個非常基本的例子，但希望它有助於突出二進制值和閾值的概念。然而，決策過程要比這個例子復雜得多，而且通常情況下，一個因素比另一個因素對決策過程的影響更大。
要創建這種變化，可以使用「神經加權」——-通過乘以因素的權重來確定因素的二進制值對其他因素的重要性。
盡管示例中的每個注意事項都可能使你難以決策，但你可能會更重視其中一個或兩個因素。如果你不願意在大雨中出行去聚會，那惡劣的天氣將會超過其他兩個考慮因素。在這一示例中，可以通過賦予更高的權重來更加重視天氣因素的二進制值：
天氣= w5
朋友= w2
距離= w2
如果假設閾值現在已設置為6，則惡劣的天氣(值為0)將阻止其餘輸入達到所需的閾值，因此該節點將不會「觸發」(這意味著你將決定不參加聚會)。
雖然這是一個簡單的示例，但它提供了基於提供的權重做出決策的概述。如果要將其推斷為圖像識別系統，則是否參加聚會(輸入)的各種考慮因素將是給定圖像的折衷特徵，即顏色、大小或形狀。例如，對識別狗進行訓練的系統可以對形狀或顏色賦予更大的權重。
當神經網路處於訓練狀態時，權重和閾值將設置為隨機值。然後，當訓練數據通過網路傳遞時將不斷進行調整，直到獲得一致的輸出為止。
神經網路的好處
神經網路可以有機地學習。也就是說，神經網路的輸出結果並不受輸入數據的完全限制。人工神經網路可以概括輸入數據，使其在模式識別系統中具有價值。
他們還可以找到實現計算密集型答案的捷徑。人工神經網路可以推斷數據點之間的關系，而不是期望數據源中的記錄是明確關聯的。
它們也可以是容錯的。當神經網路擴展到多個系統時，它們可以繞過無法通信的缺失節點。除了圍繞網路中不再起作用的部分進行路由之外，人工神經網路還可以通過推理重新生成數據，並幫助確定不起作用的節點。這對於網路的自診斷和調試非常有用。
但是，深度神經網路提供的最大優勢是能夠處理和聚類非結構化數據，例如圖片、音頻文件、視頻、文本、數字等數據。在分析層次結構中，每一層節點都在前一層的輸出上進行訓練，深層神經網路能夠處理大量的這種非結構化數據，以便在人類處理分析之前找到相似之處。
神經網路的例子
神經網路應用還有許多示例，可以利用它從復雜或不精確數據中獲得見解的能力。
圖像識別人工神經網路可以解決諸如分析特定物體的照片等問題。這種演算法可以用來區分狗和貓。更重要的是，神經網路已經被用於只使用細胞形狀信息來診斷癌症。
近30年來，金融神經網路被用於匯率預測、股票表現和選擇預測。神經網路也被用來確定貸款信用評分，學習正確識別良好的或糟糕的信用風險。而電信神經網路已被電信公司用於通過實時評估網路流量來優化路由和服務質量。