Post

Visualizzazione dei post da Febbraio, 2012

On Intelligence(続き)

Immagine
English version of this article
On Intelligence の理論を少し一般化したものを図にしてみました。

図で「Auto-Associative Self-Organizing Spatio-Temporal Pattern Recognizer (自己連想自己組織化時空間パターン認識器)」という部分が新皮質に相当します。

時空間パターン認識(学習)器は HMM のような数学モデルでモデル化できるかもしれませんが、多次元ベクトルとなる空間パターンを扱うので、結局自己連想神経ネットワークモデルに似たものを使うことになるかと思います。

本ではそれぞれの皮質領域は運動制御に関係するとされていました。図で「Feedback from more abstracted pattern recognizer」とある部分は(知覚的な予測の信号と共に)運動制御の信号を含むかもしれません。(人間の視覚ではサッカードがあるため運動制御信号は知覚統合のために特に重要です。)

上の図で、入力信号、上位の層からのフィードバック信号、(時系列パターンを表現するための)状態は別々になっていなければならない一方、空間パターン上で同じことを表現するのに関連する信号は相互に組織だって処理される必要があります。 本(On Intelligence)では、新皮質カラム「内部」の異なる層が脳の様々な場所からの信号を受け取り、層の間で連絡を行いながら信号処理をしていることが説明されています。

上の図は一般的な知能のモデルとしては行為の部分が抜けています。行為がよくない結果をもたらさないように(予測された)行為の選択が行われる必要が あります(これは心の中でのリハーサルまたはシミュレーションのモデルともいえます)。

また、行為の学習を行うためには、何らかの生得的な行為の仕組みも必要でしょう。
行為が先になければ条件付けが起きません。動物は生まれた時からさまざまな行為の仕組みを持っています(馬なら最初から立ち上がります)。

On Intelligence

English version of this article
Jeff Hawkins(ジェフ・ホーキンズ)の On Intelligence を読みました。この本は脳の働きについての新しい理論を提示するもので、それにより知的な機械を作ろうというものです。 2004年の出版ですが、訳書「考える脳 考えるコンピューター」が2005年に出ていることは原書を読みはじめてから気づきました(検索すると、この訳書も結構読まれているようです)。私は2、3年前までは記号的な言語処理の世界にいたので、気づかなかったようです。しかし、私も著者と同様1980年ごろの学生時代に脳の仕組みをあれこれ調べていたので、私にとっては原点に戻らせてくれるような本だといえます。

以下は本の理論的な部分の概要です: 脳科学者マウントキャッスルの原則: 新皮質領域はすべて同じ基本的な機能を持っている。新皮質は問題解決のために記憶を用いる。新皮質の記憶の4つの性質:新皮質はパターンの時系列を記憶する。新皮質はパターンを自己連想的に想起する。新皮質はパターンを「不変的(invariant)な」形で記憶する。
※ここで「不変的」というのは、さまざまなパターンに対して一定の応答をする(ようはパターン認識をする)ということですね。新皮質はパターンを階層によって記憶する。脳(新皮質)の基本的な機能は予測である。予測は知能を理解するためのカギである。新皮質のどの階層の領域でも(学習により)不変表現を生み出す(※どのレベルでもパターン認識をする)。皮質(カラム)内の微細な層構造の機能を理解することは重要である。
例えば、時系列の学習は微細構造によって説明できる。感覚皮質も運動に関与する。視床を介するフィードバックは自己連想記憶に必要な遅延フィードバックと考えることができる。新皮質の高次の階層からのフィードバックは下層の皮質中で詳細なパターンの予測をもたらす。海馬は新皮質の階層の最上位にあって、新しい状況の記憶に寄与する。上位皮質階層への視床を介する神経回路は予想外のパターンの検証に用いられる。 この本の内容は(直感的には)概ね妥当だと思えます。この分野にはかなりご無沙汰していたので、私の代わりに万巻の資料を読んで本にしてくれたことは大変ありがたいと思います。
この本は理論の概要を説明していますが、(知的な機械の)実装につい…

On Intelligence

この記事の日本語版
I recently stumbled on Jeff Hawkins's theory on the Web and read his book published in 2004.  His theory is about how brains work and he purports that his theory would be valuable for building intelligent machines.  I came across it belatedly perhaps because I was in a more symbolistic approach until recently.  The book is interesting for me partly because I was also enthusiastic on the brain around 1980 when I was a student (like the author).

The following is the gist of his theory written in the book:
Vernon Mountcastle's principle: all the neocortex regions are performing the same basic operation.The neocortex uses stored memories to solve problems.The four attributes of the neocortical memory: The neocortex stores sequences of patterns.The neocortex recalls patterns auto-associatively.The neocortex stores patterns in an invariant form.
* This is to say that it recognizes patterns by learning.The neocortex stores patterns in a hierarchy.The primary function of brain…