DeepMindのsynthetic gradientsを試してみようと思っていたのだけど(weightの更新にbackwardを待たなくて良いのは魅力的である。しかし本当にうまくいくのか？)、Chainerで書くのは結構面倒そうだったので勉強がてら一から小さなニューラルネットを書いてみた。今のところReLU、Conv2D、Linear、Softmax関数が実装されていて、mnistの学習ができることは確認している。10時間ほどぶっ続けで作業したわりに進捗は微妙である。もっと精神を加速していきたい。
目的は、細かい実験を手軽に行うために必要十分な枠組みを用意しておくことである。synthetic gradientsみたいな仕組みを試してみたり、妙なoptimizerを試してみたりといったことが楽にできればと思っている。たぶんTheanoやTensorFlowといった数値計算ライブラリを使えばもっと上手くやれるんだろうけれど、僕みたいに抽象化の苦手な人間は、全体を細部まで把握していないと何が起こっているのかよくわからなくなってしまうので。
僕の行動原理は「違和感を解消する」ことただそれだけなんだな、と悟った。自分の描いた絵に対する違和感が僕に新しい絵を描かせるし、文章も同じ。哲学的なことを考えるのも、我々のあらゆる表現形式が「私と他者の非対称性」を表現できないことに違和感を覚えていたからだ。もちろん違和感を解消することは人間の一般的動機のひとつであると思う。けれども自分はどうも、それ一本に依存しすぎているきらいがある。直接的に気にならないことが心底どうでもよいのだ。それゆえ僕は一から新しい概念を習得するということが出来ない。知らないことについては気になりようがないからだ。ただしある違和感を解消する過程において必要となった場合には、未知の概念もわりと楽に習得できる。ただしたんなる道具として。たいていの場合、その理論的背景に興味が及ぶことはない。それが十全に機能している限り、そこに違和感はないのだ。で、こういう人間はいったいどうやって人生をやってゆけばいいのだろうかと考えていた。たぶん適切な違和感と足がかりが与えられ続ければ、再発明するという形で僕は学ぶことができると思う。そうした分野が既にあると知る前から、心の哲学における幾つかの概念を知っていたように。ただしそれはあまり効率的なやり方ではないし、半ば博打のようなものである。違和感を持てない対象に対する僕の学習能力は、おそらく軽い学習障害のレベルにある。なんとかしたいとずっと思っている。しかし諦めたほうがいいのかもしれない。
