どうにも存在論は好きになれない。それはただの説得と辻褄合わせのゲームだ、と言いたい気持ちがある。もちろんそれは彼らだって承知しているのだろう、気に喰わないのはまさにその点なのだ。「せっかく生まれたのだから(たとえ無意味であろうと)人生楽しまなきゃもったいない」と嘯く人たちと同じ匂いを感じる。「気に喰わない」などと言っている時点で僕も同じ穴のムジナなのだけれども、しかし。
直交する価値観。僕の意味空間は次元が低い。
大学からの帰り道、雨に濡れて黒く湿った樹木の幹にちょっと神的なものを感じてこれはいいなと思った。
たぶん僕は雨が嫌いなのではなく傘をさすのが苦手なのだと思う。
いつだって今が永遠に続けばいいのにと願っている。変化するのは僕の内面だけで十分だ。
昨夜は抜き打ちテストのパラドックスに関する本質的な説明を見つけた気がして衝動的に文章を書いてしまったけれども、落ち着いて考えてみるとまったくそんなことはなかった。自分の衝動性については十分に自覚しているつもりだけど、そんな自覚も些細なきっかけで何処かへ吹き飛んでしまうからこそ僕は衝動的なのだ。慢性的に睡眠が不足している状況ではとくに危うくなりがちな気がする。注意しなくてはね。
教師が「明日抜き打ちテストを行う」と宣言した場合について考える。この発言の解釈には二通りがあると思う。1.明日テストが行われるならばそれは抜き打ち(予測不可能)であり、かつそれが予測不可能であるかぎり明日はテストを行う。2.教師は「丸い三角が存在する」というようなナンセンスな命題を口にしている。2の場合は、いわば教師はなにも言っていないわけであり、問題ではない。ので、1の場合を検討する。1の意味で宣言を解釈すると、教師の宣言が正しいものであるならば、明日のテストは抜き打ちではありえないがゆえにテストは行われない、ということになる。さてここで生徒は考える。私はいま明日テストが行われないことを確信している。ゆえに明日テストが実施された場合、抜き打ちテストが成立してしまう。ということは明日テストがあるに違いない。という風に予測できているということは明日テストはない、以下堂々巡り。したがって生徒はこう結論する。教師の宣言のみからでは、明日テストがあるかどうかを決定できない。するとまた問題が生じる。テストの有無を決定できないということは、明日はテストがあることを意味するからだ。ということは、となって以下略。まとめると、明日テストがあるまたはないと結論付けると自己言及のパラドクスが生じる。だからといってテストの有無は決定できないとすると、テストは行われることになり、また自己言及のパラドクスに陥る。以降無限に上昇してゆく。ゆえに(無限の果てにおいて)抜き打ちテストは成立する（？？？）。テストの起こりうる範囲が一週間であっても状況は同じである。このように生徒が自分の確信に対する反省能力をもち、それを推論に組み込むことができる場合、このパラドックスはちょっと複雑な自己言及のパラドクスとして定式化でき(る気がする)、そのとき元のパラドックスにあったある種の奇妙さは失われている(と少なくとも僕は感じる)。そして僕は生徒がそのように考えてならない理由を思いつけない。というのも、「生徒がテスト日を知っている」ことをテストが行われない根拠として用いた時点で、すでに高階の論理に足を踏み入れてしまっていると思うから。けっきょく、生徒が抜き打ちテストは不可能であると確信した時点で思考を止めていること、そしてそれがぱっと見て不自然ではないこと、そこにこのパラドックスの「不思議さ」の源泉があるのではないかというのが現在の僕の理解である。いわば生徒がハマるはずだった堂々巡りを、われわれが代わりに引き受けることになってしまったのだ。
例えるならば「この推論は間違っている」という結論を導くような自己言及的な推論が抜き打ちテストのパラドックスの正体なのではなかろうか。
後期のウィトゲンシュタインに読ませたら怒られそうなことを書いています。
アドラー心理学についてちょっと読んでいて思ったこと。結局のところこれは、個人の内面的な事象はすべてその人の目的や欲望を反映したものとして「解釈できる」ことを利用して、患者を「煽っている」だけなのではないか。
（追記）やはり上のパラドクスの解釈はどこかおかしい気がする。誰か僕の代わりに考えてください。
（追追記）案の定間違いがあったので少し書き直した。このパラドックスはたぶん「この文の真偽が決定不可能であるときに限り、この文は真である」という文章に等しい。
ねこせんさんがTwitterで言及していたのにつられて、抜き打ちテストのパラドックスについて少し考えた。結局のところここにおける生徒の仮定とは「木曜日までに抜き打ちテストが行われないことを”予言できる”ならば、金曜にテストが行われることがわかる」ということである。だがそのような予言は不可能だ。ゆえに抜き打ちテストは成立する。このことは「一夜漬け」概念を経由すれば少しはっきりすると思う。生徒の言い分はこうである。もし木曜日までにテストが行われていなければ、金曜にテストがあるのは確実だから一夜漬けで対策できる、すなわち「抜き打ち」性は失われる。これ自体はよろしい。けれどもこのことから金曜日がテストの日ではないということは結論できない。というのも「木曜日までにテストが行われない」ことは木曜日にならなければわからないことだからだ。ここに一つの循環が存在する。「金曜日にテストが行われること」は「木曜日までにテストが行われない」ことによって知られるが、同時に「木曜日までにテストが行われない」ことは「金曜日にテストが行われる」ことに由来しているのだ。つまり生徒の主張は言い方を変えれば「金曜日にテストが行われるならば金曜日にテストが行われる」ということであり、これはパラドックスでもなんでもない。こう言えばよりはっきりするかもしれない。「木曜日までにテストが行われなかったことによって金曜日がテスト日であることを知る」ということは「X曜日がテストの日であるとあたりをつけて前日に一夜漬けし、その賭けに勝つ」ことと同値なのだ。かくして教師の予告は成就する。
とか書いてみてなんか勘違いしてる気がしてきたのでもうちょっと考える。
ニューラルネットの学習においては、パラメタが多いほど悪い局所解に陥りにくくなる*1*2けれども、いちど良い解が得られてしまえば重みの小さなフィルタを取り除くことによってパラメタ数を減らすことができる。NVIDIAの論文*3によれば、性能を下げることなく9割のパラメタ剪定が可能であるらしい。またいくつかの重みを共有することによってネットワークを圧縮するという研究*4もある。結局のところ学習時においても見せかけのパラメタが十分あれば実質的なパラメタは少なくても良いのかもしれない。ということを考えて、同じ層を複数回利用するCNNを作ってみた。データセットにはひとまずmnistを使い、k=5,ch=8のconv層を3度再利用する。今のところbatch normarizationのような飛び道具は使わない。おそらく使ったほうが良い。現在8epoch目で正答率は97.4％(test set)。悲しくなるほど低い値だけれどもパラメタ数が3600しかないことを鑑みればまあまあではないかと思う(そうか？)。一通り学習が終わったら今度はパラメタ数を同じくした普通のCNNと比較して性能を調べてみよう。そっちのほうが性能よくてがっかりということは十分にありうる。
バイトの時給がちょっと上がったので8月以降の生活が少し楽になる予定。ありがたいことです。
何をして生きたものだろうと思う。さっさと就活などして行き先を決めてしまったほうが良いはずなのだけれど、企業に対して自分を売り込むのだと考えると尻込みしてしまう。僕は自分が大したことない人間だと思っているし、それはたぶん正しい。僕が唯一誇りにしているのは、本質的な理解を抜きにして外的な辻褄だけを合わせてしまうこの異様な辻褄合わせ力だけで、そんなのどうやって相手に示したら良いかわからないし、結局のところそれだけではきちんとものごとを理解できる人間の生産性には敵わないのが分かっている。自分がつまらないと感じている小説を誰かに勧めるようなことは僕にはできない。うーむ。
とか言っちゃってどうせ僕は何もしたくないだけなのだ。
追記）
実験結果は再利用を行わない同パラメタ数のネットワークに対して0.5~1％くらい良い程度だった。mnistが簡単すぎるせいできちんと評価できていない感じはする。VGG16+ILSVRCで試してみたいけれど環境がない。それから省メモリ効果についてだけれど、結局のところ各層でfeatureを保存しなくちゃならないのでbackpropやる場合はあんまり意味がないことに気がついた。ちなみに最終的な正答率は98.5％（BNあり）。
好きな瞬間に散歩に出かけられるような人生を送りたいと思う。
どんな言葉も現実に対応してなどいないのだ、むしろ言葉はひとつの現実であり、現実が我々に何らかの制限を課すのと同じ仕方で、意味をもっている。
大量の人々を処理しているときの自動改札の電子音が水面に落ちる雨粒のように見えてきて最近ちょっと楽しいのだけれどうまく表現できない。
Deep Learningはなぜうまくいっているのかということを調べる必要があって、幾つかの論文や記事を読んでいた。それらによれば、どうやら大規模なニューラルネットの学習においては悪い局所解というのはほとんど存在せず、またLoss関数は「概ね」凸になっているらしい。パラメタが増えるほど局所解にハマりにくくなるのだ。はじめは意外に感じたが、想像するに、これだけ高次元なLoss関数上においてはある点の周りがすべて同時に上り坂になっていることは少ないのだろう。学習を妨げる超高次元落とし穴に見えたものは、実際は鞍点だったのである。ところで人間の脳においては発生初期の段階で過剰なシナプスが形成され、発達にともなって不要なものが刈り込まれてゆくことが知られている。おそらく局所解に陥りにくくする工夫なのだろう。生物というのは本当によく出来ている。
世界を分節化する区画線、これもまた一つの観念に過ぎないのだということをよく考える。言葉はいつもこっち側にあり、いくら手を伸ばしたところであっち側へ届くことはない。脳は脳自身を理解できないし、宇宙は宇宙自身を理解できない。理解というのはいつだって抽象化を伴うから。僕がやらなくてはならないのは、世界をそれ自体よりもさらに具体的にすることだ。そしてもちろん、そんなことが可能な道理は存在しない。
なぜ赤は赤いのかとずっと気になっていた。赤さの〈実感〉は赤い光の物理的性質からは決して出てこないように思われたから。その不思議は、赤を赤として実感する〈私〉の実在に対する不思議でもあった。どうして世界には、私であるような部分とそうでない部分とがあるのか。現象でしかないこの身体が、どうして〈私〉に一致するのか、知覚の統合先になりうるのか。自分の慣れ親しんできた原子論的描像と、〈私〉の実在的統合の概念とはどうも相反するように思われ、そこにある間隙を埋めうるような説明を求めてきたのである。その根源にあったのは、私は私であるというこの疑い難い気持ちであった。けれども最近は少し感じ方が変わってきている。きっかけは、右手と左手の感覚は比較できないということに気付いたことだった。これは別に右手と左手の感覚の違いに限らないので、赤の赤さ問題に対比して「赤と青の比較不可能性問題」と呼ぶことにする。一般的には、僕らは赤と青の違いについていろいろなことを述べることができる。波長が違うとか、印象が違うとか。けれども、第一次的な〈見え〉のレベルに遡ると、実は赤と青の違いは説明できないのだ。赤と青は同じであることがありえないような仕方で違っていて、だからそれらが「どのように」違っているのか言葉にすることはできない。これは根本的には赤の赤さ問題と同じことなのだけれども、赤と青の比較不可能性という形で捉え直されたとき、「赤と青の両方の知覚が発生する場としての私」というイメージが自分の中で揺らいだ。〈私〉が統合されている必要は必ずしもないということに気付いたのである。赤を感じる〈私〉と青を感じる〈私〉とが決して交わらない二つの主体として平行に存在していても良いということ。そしてもちろん、〈私〉は二つに限らない。私は無数に分割され、それぞれがそれぞれに何かを感じていて、それらは統合されていない。〈私〉の〈赤さ〉ではなく〈私の赤さ〉があり、〈私の赤さ〉もまた無数の感覚素からなる。視野のある位置にある赤色と別の位置にある赤色とを(実感という意味においては)比べることなどできないのだから。私の赤さとあなたの赤さの関係は、私の赤さと青さの感覚の関係に等しい、どこまでいっても互いに交わらない知覚の束として。
これもまた一つの喩え話にすぎないのだけれども。
（追記）
私が統合されていなくてもよいということは、世界全体が一つに統合されていてもよいということでもある。そこにおいて私は世界に一致する。
