Skip to main content

一種表達智能的方法

· 5 min read
Wei Ji

智能體的本質

What is intelligence?

這是許多從事人工智慧研究的人會問的問題。 讓我們站在一些基本的自然科學前提上看待這個問題。

熱力學時間箭頭

熱力學時間箭頭來自熱力學第二定律,這一定律認為一個孤立系統的熵只能隨著時間流易不斷增加,而不會減少。熵被認為是無序的量度,因此第二定律隱含著一種由孤立系統的有序度變化所指定的時間方向(也就是說,隨著時間流易,系統總是越來越無序)。這種不對稱性可用於區分過去和未來1,因此產生了因果關係。

「因」與「果」的映射關係

因果之間的映射關係可以用布林函數表示,如下:

CBEBCnEC \in \Bbb B \\ E \in \Bbb B \\ C^{n} \to E

or

e:=f(c1,c2,c3....,cn)e:=f(c_1, c_2, c_3...., c_n)

其中:

  • C: 因
  • E: 果

生物的智能

生物的智能只是一個與環境信息發生反應的邏輯系統,智能的本質是一種映射關係;來自環境的信息是因,而生物的反應則是果。 因此,我們可以通過大型且複雜的布爾函數來表達生物的智能。

神經網路

不可否認,人工神經網絡具有創建多種邏輯映射關係的靈活性,但是其基於浮點數定義的算法導致許多資訊丟失,計算機花費大量的時間和算力在在計算我們最後沒用到的資訊。

當然在運算布林代數時也有資訊會丟失,但是這是萃取有價值的訊息的必要過程,與人工神經網絡不同,布林代數具有更多的可解釋性,我們可以翻譯輸入和輸出之間的關係。

為什麼不同時使用人工神經網絡和布爾代數呢? 這是人工神經網絡的神經元公式:

y=i=1nxiwi+by=\sum^{n}_{i=1} x_i w_i + b

然後這是 BNN(boolean neural network)神經元的公式:

y=ni(xiwi)y = \underset{i}{\overset{n}{ \land }} (x_i \oplus w_i)

何不使用邏輯陣列?

因 BNN 具有邏輯陣列所沒有的一些特性:邏輯陣列結構上沒有遞歸 (recurrent) 的功能。 但是主要的問題是可解釋性,眾所周知人工神經網絡中的隱藏層可以視作抽取特徵的過程,並透過組合低級特徵成為更高級的特徵或是從抽象概念組合成更具體的概念,然而邏輯陣列並沒有樹狀結構來實現這一點。

通用邏輯單元

就像生物學一樣,我們觀察對象並建立歸納科學系統來研究它們。可以合理地預期會觀察到某些模式會重複出現在 BNN 之中,這意味著這些模式是 GLU (通用邏輯單元)。 當我們創建了 GLU 的知識庫時,使得我們能夠透過這些邏輯單元去解釋 BNN 是如何進行思考的。

Footnotes

  1. 時間箭頭 - 維基百科,自由的百科全書. (n.d.). Retrieved 2020-03-13, from https://zh.wikipedia.org/wiki/時間箭頭