Redundanz

僕の言葉は、人と話をするためにあるんじゃない。

1115

　どこまでも遠くに行けるのはたぶん、どこにも行っていないからなのだ。

　先日、退社後に散歩していたときのこと、正規分布が特別な意味を持つのは、正規分布が独立同分布に従う確率変数を足すという操作における不動点みたいなものになってるからではないか、とふと気づいた。で検索してみたところ実際にそういうやり方で中心極限定理を証明できるらしい*1。どこからともなく現れた（ように僕には見える）数式が自然界において意味を持っている、ということの意味をこれまでずっと掴みそこねていたのだが、ようやく腑に落ちる解釈を与えることができてわりと嬉しかった。
　ここから先は僕の妄想。 知性の役割が外界を構造化することにあって「対象」がそれによって区分けされた領域に過ぎないのであれば、確率分布はアプリオリに存在するものではなく、むしろそうした分布が見出されるような形で知性は世界を見ているのだ、と考えるほうが自然だと思う。つまり確率分布は認知の影であり、対象の雛形である。で、われわれにとって世界が恒常的に見えているということは、知性が知覚情報を処理する変換が、その繰り返しの果てに何らかの落ち着き先を持つことを意味するはずである。そうでなければ、われわれの視界は、ちょっとした神経結合の揺らぎによって万華鏡のように変化してしまうだろう。してみると、われわれにとって意味を持つ分布が何らかの操作に対して不動点となりうることは、とても自然に思えるのである。

　学習理論に明るくないので間違ったことを言っているかもしれないが、渡辺先生の「人間が理解できる現象であるということと繰りこみ可能であることは、ほぼ同義かもしれません」*2という呟きは、上記の認識に少し重なるところがあるのではないかと思う。それから、ニューラルネットと平均場理論の話とかも関係してくる気がする。

　雑に書きなぐったせいで文の内容があまり明確ではなくなってしまった。気力が湧いたらより明晰な言葉で書き直したい。気力の湧く見込みはあまりない。

*1:https://genkuroki.github.io/documents/IntroProbability.pdf

*2:http://watanabe-www.math.dis.titech.ac.jp/users/swatanab/sing_matome.html

1103

　折れた骨が折れた形でくっついて、また折れて。繰り返して人は異形の怪物になっていく。異形の怪物であるところの僕としては工業製品がうらやましい。

　矢部嵩『魔女の子供はやってこない』は僕にとって新鮮な驚きだった。こんなふうに書いてもいいんだ、という。文中で繰り返される絵の比喩を真似るなら、この小説は、誰もが見ているありきたりな、しかし心をえぐる風景の、卓越したデフォルメである。「いつかは来る日で来ないで欲しい日、洪水を待つ他に出来ることってあるかな」ほんとにね。

　忙しい日々の合間のふと正気に戻る時間、ペンディングされていた思考たちが様々に語りだしたまに処理落ちする。そもそもそれらを「処理」してしまってよいものなのか悩む。考えて解ける問題は解けばよいが、解決よりもむしろ配置や廃棄が求められる種類の問題について、それをすることが倫理的なのかどうかは難しい問いだ。ある倫理平面上に適切に配置する限りで僕の行いは全て正当であり赦されている、と考えることはいつだって可能だが、そう考えることの倫理的是非が今度は議論の俎上に登る。なんとでも言えてしまうということはなにも言っていないのと同じだ。だから僕らは際限ないメタ化のうちに不動点を求めるけれど、それだって畢竟人工物であり、いつかは故障するだろう。修理するのは自分自身である。
　壊れたら直す、目についたところから順に。そうしてはじめとは似ても似つかぬものになっていく。生きるというのはたぶんそういうことで、増築改築リフォーム解体それらの連なり交わる点で、ときどき誰かと言葉が通じたり通じなかったりする、あるいはそう錯覚する。これはそうした種類の苦行なのだ。いつまで耐えられるかしらん。

0930

　忙しい日々が続いています。忙しいのは僕が馬鹿だからで、もう少し賢くならねばならない。やることが多いときこそ一歩退いて全体を眺めてみること。

　およそ社会形態というものは、自然が人間に与える影響・暴力という不可避の矢印を、社会システムが媒介するときのその暴力の経路図によって特徴づけられるのではないか、ということを考えていた。人間は生きることを宿命付けられた存在であり、（自分の身体も含めた）自然環境は、生存を脅かす敵である。この自然が人間に与える暴力は決して防ぐことは出来ないが、ある程度分散・緩和することは可能であり、その方法の一つが徒党を組むことだ。共同体を作ることで役割を分担することが可能になり、個人としての人間が持つ限界を超えた能力を発揮することができるようになる。さてこの役割分担が、各個体の自発性に完全に依存している段階では、まだ社会というものは存在していない。この段階ではまだ各人は孤独に自然と向き合っており、ここでの他者は（予測は可能かもだが制御は不能という意味で）自然の一部である。アナーキズムとか原始共産主義はこうした状態を志向する思想だと僕は思う。このレベルの共同体は社会ではなくただの個人の集まりであり、いわば全員が個人事業主の世界であって、そういう世界では相当に高度な空気を読むセンスが必要になるだろう。つまり自然（他の個体を含む）と自分の特性を理解し、最適な行動を共同体に提供する必要があるのだ。で、これだと大変なので、課題を各人に分配する仕組みが自然発生して、それが社会なのだと思われる。自分の役割を自発的に把握できない人々に仕事を振る以上、そこにはなんらかの強制力が働かなければならない。いうまでもなく、この強制力とは自然が人間に与える影響力が形を変えたものである。この強制力を何が担うかによって、君主制とか民主政とか、資本主義とか社会主義とかが分けられる。例えば資本主義では自由な市場がその強制力を媒介する。人々の生存への欲求（これは自然が人間に振るう暴力の反作用であり、そのものでもある）が貨幣へと形を変えて人々を駆動する。このシステムには、自由な競争によって役割分担が効率的に行われるという特徴があるという一方で、市場においては真の敵であった自然が忘れ去られ、経済それ自体が自己目的化し、最終的には共同体全体の自閉を招くという欠点がある。一方社会主義では、なんらかの権力中枢が役割分担の機能を担うが、小さな部分が全体を評価する必要があるために役割分担の精度が低く、また権力の腐敗を招きやすい。こうした問題の解決には、自然への対処の完全な自動化か、あるいは役割分担の機能を完全に自動化（脱人間化）するかしかないような気がしている。ル=グウィン「所有せざる人々」で描かれていたのは後者の世界だろう。そして現実世界は前者へと向かっているように見える。みたいなことをつらつらと考えていた。妥当かどうかは知らない。

　たとえば「フェルマーの定理が証明されたことによって、すべての組み合わせについて実際に計算してみるまでもなく、x^n + y^n = z^n (n>=3) を満たす (x, y, z) の組が存在しないことを人類は知った」と言ってみて、やはり不思議な感じがする。どう不思議なのか瞬時には言葉にできないけども、とにかく不思議に感じるのだ。この種の不思議さにしっかりと向き合う十分な時間がほしいが、現実は厳しい。現実は厳しいだって？お前は妥協しているだけなのだ。

0816

哲学

　論理的推論は、紙の上に書かれたいくつかの線分を、あるルールに則って延長していくことに似ている。延長は証明のステップであり、線の交わりは帰結である。論理的プラトン主義者は言うだろう。はじめの線分と延長のルールが与えられれば、それ以降に描かれることになるであろう線分とその交わりは、その時点で一挙に決定されていると。その主張に対して僕は異を唱えたい。いくら綺麗な線を描こうとしたところで、現実的には線は歪みうるし、さらに言えば、「線分を延長するルール」を完全に記述し尽くすこともできない。生じうるすべての紙面の状態について延長法を列挙することはできないからだ。したがってある紙面の状態における延長ルールの適用がどのようなものとなるかもまた、「線分を延長するルール」という線分の延長の結末にほかならない。つまりこういうことである。一般に、あらゆる局面におけるルールの適用結果を予め列挙しておくことはできない。したがって、ある局面におけるルールの適用は、なんらかのルールによって生成されねばならない。だがそのルール生成のルールもまた同じ問題に突き当たるのである。かくして、紙面の初期状態と延長のルールは延長の結末を決定しないことが明らかになる（もちろん延長の精度を高めることで、ある結末を強く示唆することは可能である）。しかしそれでもなお人は線分を延長するのであって、そこにあるのは必然の発見というよりはむしろ決断と発明である。とまあこれが僕の（あるいはウィトゲンシュタインの）演繹に対する所感である。対してプラトン主義は言うかもしれない。たしかに現実的には、線分が歪みその帰結が予測不可能になるかもしれないが、論理においては線分は「理想的」であり、延長の結果は一意に定まるのだと。そのように主張するのは自由だが、しかしわざわざそうする必要性があるとも僕には思えないのである。

　久しぶりに丁寧に小説を読んでいる。言葉とイメージの間を時間をかけて往復するのが楽しい。かつての自分はあんまり焦っていたものだから、言葉は言葉で、イメージはイメージで完結させるのが習い性になってしまっていた。と今になって思う。そろそろ統合する頃合いである。

　”わかっている”人にとってわかっていることの基準は自分と同じように振る舞うことなので、そういう人たちには批判がほとんど機能しなくなる。そういうふうにはなりたくない。

0710

　先日断食をして元気になったことをきっかけに、もしかして自分はもっと食事量を落としたほうが調子が出るのではないかと思いだし、しばらくあまり食べない生活を続けていたのだが、普通に調子を崩した。ので食事量はもとに戻した。食べないと人は生きられないのだということを身を持って知ることができたので良かったと思う。
　自分の体調をモニタして、好調を引き出すための条件を調べることに、最近ちょっとハマっている。行動とその後の調子の関係に注意が向くようになり、食事の好みが若干変わり、身体を動かすのが好きになった。根が面倒くさがりなのであまり本格的な運動をするわけではないのだけれど、一日に一度全身を思い切り伸ばして、というか強張らせて、お前はちゃんとそこに在るのだと筋肉に教えてやるだけでだいぶ疲労感が減る。このような行動と体調の間の因果的関係を統計的に抽出できたら便利だと思うのだけど、どうやってデータを取ればよいかわからないので放っている。行動そのものを認識させるのは大変なので、ある時点での身体の状態と一定時間後の主観的調子の関係をモデル化し、調子がよくなる兆候が現れた時点でアラートを鳴らすのが良いと思う。そうすれば、アラートが鳴った直前にやっていた行動が良い影響をもたらすことを知ることができる。誰かやってみませんか？

　ここ数日ちまちまと自動微分フレームワークを書いている。目標は計算と計算グラフの構築を分離することだ。実際の計算はせずに、まず計算順序だけを表現するグラフを作成し、結果が必要になった段階で、それを得るのに必要な部分の計算を行う。また Chainer のようなフレームワークが計算グラフを逆向きにたどることで BackProp を実現しているのに対して、僕のフレームワークは backward グラフを新たに別に構築する。意図としては、自動微分の機能を計算グラフ自体から独立させ、単に新たなグラフを作る関数として実装することにより、抽象性を上げることと、自動微分にあたってどの値を保持するかを必要な勾配から自動的に決定できるようにすることなどがある。パラメタからそのパラメタの勾配へ円を描くように計算グラフが繋がることから、mandala と名付けることにした。現状基本的な演算子の実装は終わっていて、Linear や Convolution の実装に取り掛かっている。GPU での計算には cupy を使うつもりだが、Convolution など cuDNN を利用すべき場所をどうすればいいのか必要な知識がないので悩んでいる。情報科学科を出ておくべきだった気がする。大学で哲学をやったこと自体は良い選択だったと自分では思っているけれど。
　下図は計算グラフを可視化してみたもの。予想以上に曼荼羅で非常に満足している。大層なことを書いたけど、ちゃんと完成する可能性はそんなに高くない。ResNet くらいは動かそうと思ってるんだけど。

f:id:Raprto:20180710231635p:plain

0708

　真理は社会性の産物であり、懐疑は孤独の産物である。人は独りで約束を交わすことはできない。

　三角関数などからサンプリングした点をモデルで補完して、ほらパラメタが多いとオーバーフィットしましたね、みたいなことを言う解説がたまにあるけれど、あれは嘘っぱちで、ただ人間から見るとその点は三角関数に見えるという話に過ぎない。人間は、人間（あるいは自然）に近い仕方で点を内挿するモデルを評価するが、そのモデルはべつに正しいわけではない。醜いアヒルの子の定理。

　期待値と分散のトレードという意味では、保険と宝くじは同じである。繰り返しを本質とするこの科学的宇宙においては軍資金の多いほうが有利だ。なんだかなーと思う。

　人類をもっと暇にする仕事に従事したいと思う。しかし暇があるならそれを「有意義に」利用する集団のほうが戦争一般に有利であり、なので僕がいくら頑張ろうとちょっと生産性が向上しておしまいである。この構造が自然に解決されるとは考えづらい。根底にあるのは人間がほとんど本能的に持つ競争心であり、他者に遅れを取ることに対する生理的な恐怖である。それらを煽る燃料は速度と範囲を増し続ける通信網によって延々と供給され続けるだろう。状況は悪い。なんとかなってほしい。

　見通せないことはあってもよいが、その理由がたんなる光の不足以上のものであってはならない、という気持ちがある。すべてが透明でありますように。

0608

哲学

　いま自分は何も考えることが出来ていない、という事実にふと気づく瞬間があり、そういう瞬間が最近増えている。よいことだと思う。頭の中でイメージをこねくり回したり言葉を連ねたりしているとなにかを考えている気になってしまうのだが、そうした実感と有用な思考ができているかとはまったく別のことだ。現実との摩擦を欠いた思考、現象に生えた取っ掛かりをうまく掴むことのできていない思考は、僕らを間違った地点へと連れて行ってしまう。意味のある思考をするためには、なにはともあれ現実に取っ掛かりを見出すことだ。世界に対して爪を立てる感覚。はじめはつるつるして滑ってしまうのだけれど、だんだん引っ掛けるべき場所がわかってくる。

　世界には本来的にはエネルギーの濃淡があるに過ぎないが、それを分節化しゲシュタルトを編み上げることによって現実を操作することが可能になる。網膜に映る色の集合をすべて等価に見ているうちは何も出来ないが、そこに林檎を見出すことによってそれを手にとって食べることができる。むしろ身体の要求を満たす形で現実を構造化しようとすると、そこに林檎というゲシュタルトが要請されることになるといったほうがよいかもわからない。そもそも身体というのが一つのゲシュタルトであり、そういう意味ではここにはある種の堂々巡りがあるのだが、ともかくそうした分節化の上にわれわれの現実はある。僕が取っ掛かりと呼んでいるのはこの分節のことである。

　ひとたび取っ掛かりが見えるようになると、現実は格段に単純になる。世界が模様に過ぎなかった頃は、めちゃくちゃに世界を引っ掻き回して報酬の増減を見るしかなかったものが、林檎や手が一つの対象として見えるようになれば、探索せねばならない範囲は大きく狭まる。とりあえず「林檎」を「口」に「持っていって」みるということができるようになるわけだ。

　問題は、どのようにして取っ掛かりを掴むかということである。すでに手のうちにある取っ掛かりの組み合わせでなんとかなる場合には、そのようにすれば良い。言語的（記号的）思考が有用である領域はここだ。しかしそうではない場合、一から新たなゲシュタルトを編み上げねばならない場合にどうすればよいのか、僕にはまだ有効な指針がない。結局のところそのためにはやはり、めちゃくちゃに世界を引っ掻き回してみるほかないのではないかという気もするのだが、もしここにもっと効率的なやり方があるのであれば、僕にとっての宇宙は遥かに住みよい場所になるだろう。そうなる日を夢見ている。