Redundanz

僕の言葉は、人と話をするためにあるんじゃない。

0610

 平日の疲れが溜まっていたのか夕方くらいまでぐったりしていた。それからふと海を見たくなってお台場まで行ってみる。東京湾は田舎育ちの僕が想定するような海とは全然違っていてその点では物足りなかったけれど、いつもは侵食する側である海が人間のつくる都市に埋め立てられている様子を眺めるのはそれはそれで感慨深かった。最近、都市というものを意識することが多い。それはたんなる人間と建物の寄せ集めではない。

 こんなもの(http://watanabe-www.math.dis.titech.ac.jp/users/swatanab/sing_matome.html)を見つけた。こういう話はちょっと気になる。「人間が理解できる現象であるということと繰りこみ可能であることは、ほぼ同義かもしれません」ほんとだろうか。

0609

 「すべては現象にすぎない」という表現がもつ力こそわれわれが真に抵抗すべき敵ではなかったか。その表現のもっともらしさを支えているのもまた他の諸現象であり、だから「すべては現象にすぎない」という表現にわれわれの生活から意味を剥奪する特権的権能が与えられているわけではない。超越的なものがあるとしたらそれはわれわれの生に一切影響しないのだ。

 セルフネグレクトという概念を知る。僕にはかなりこの傾向があると思う。最近ますます生きることへの意欲が薄まっている。そして生きる意欲が薄いがゆえに言えてしまう言葉たちがさらにその傾向を加速させていく。まずいかもしれない。

 ときどきやってくる発狂して暴れまわりたい衝動を上から目線でいなすたびに神経が少しずつ摩耗していっている感じがある。はー。

 仕事は他社との合同勉強会。単語の分散表現についてちょっと面白い研究を知る。しかし自然言語処理を「正しく」やるには人間そのものにかなり近づく必要がある感じするよね。

0608

 仕事終わりに終わった案件の打ち上げ。ロシア料理を食べる。美味しかったけどワインで悪酔いしたのか精神の調子が良くない。最近気づいたのだけど僕はお酒があんまり好きではないようです。思考力が落ちるし味もよくわからない。ワインの味とか料理の機微とかもっと分かるようになれば人生は豊かになるのだろうか。

 知識も気持ちも僕の中にはとどまってくれない。かなしい。

0607

 意味不明に疲れています。重力が2gくらいある気がする。呼吸がとても浅くなっているのに気付いて意識的に深く吸うようしだしたらちょっとマシになったような。思い込みかも。

 仕事は相変わらず暇なので今日はstan職人ごっこ。確率的プログラミングはよくわからない。ニューラルネットのほうがよほど素直なものに思える。解釈可能性ってわりと高コストよね。

 言葉を発しながら別のことを考えるのと同じように、考えごとをしながら考えている自分を眺める、ということがわりと出来るようになってしばらく経つけれど、それでわかったのは、(他のあらゆることがそうであるように)自分の思考はただの確率過程にすぎないということである。知覚と記憶が混じり合いながら、ときに秩序だって、ときに無作為に思考の樹形図を枝刈りしてゆく。いくら目を凝らしたところで自分に固有の意志なんてものは見えてこない。ヒトの形に凝集されたランダムネスが無数の選択肢の中に染み渡っている。僕にできるのは、見ること、聞くこと、感じること、ただそれだけで、そう思うと人間というのはいかにも窮屈なものだけど、その身じろぎひとつできない牢獄の中で与えられる感覚の中には、自由とか開放感とかいったものも含まれているからとくに問題は生じない。

 考えることは川を作ることに似ていると思う。湧き出した水は地形に沿って流れを作る。水はただ斜面を下ることしかしないから、川の流れを変えるには地形を弄らなくてはならない。しかもその地形がどうなっているかは、実際に水を流してみるまでわからないことが多い。だから目的の場所まで川を繋ぐにはたくさんの試行錯誤が要る。思いつけないことを直接思いつくのは不可能だ。ただし無駄な試行錯誤を減らす方法はあるはずで、最近いろいろ考えている。

0605

 たくさん昼寝したせいで昨夜は上手く寝付けず結局一睡もしないまま仕事へ。こないだ大きめの案件が終わった関係でとくにやることはなく、論文を読んだり実験をしたりして過ごす。要するに大したことはしていない。

 僕の抱いているニューラルネットにたいする直観は、新たな研究成果によって次々と覆されていく。えっ君ってそんなやつだったの、とびっくりした次の瞬間にはその姿もまた仮初のものであったことが明らかになっている。最近だとAdaptiveな勾配法が実は汎化性能の点でSGDに劣っていることが分かったりとか。これは僕の感覚なのだけどSGDの汎化性能を支えているのは学習時に生じるノイズであって、AdamやらRMSpropやらは収束が滑らかすぎるのだと思う。じっさい逆伝播してきた勾配に適度にノイズを加えると精度が上がるという話はある。僕もちょっと試してみたことがあり、ResNetの最適化においてMomentumSGDと同程度かちょっと良いくらいの精度をAdamで出している。まあ使ったデータセットがCifar10だから一般に成り立つ話かはわからないけれど。ちなみに僕がやったのはこれ(https://arxiv.org/pdf/1511.06807.pdf)で紹介されているのとは別のオリジナル(かどうかは自信がない)のもので、よく覚えてないけどたぶん勾配の絶対値に比例する標準偏差のgaussian noiseを加えるみたいなものだったと思う。

 相変わらず体調はよくない。明日には元気になっていたい。

0604

 どうでもいい日記を再開しようと思います。

 体調が悪くて一日ぐったりしていました。全身に無駄に力が入っていて体液の循環が滞っている感じ。折角の休日に勘弁してほしいし、「折角の休日」なんてことを考える自分の生活にがっかりする。休みたいときに休んで働きたいときに働けたら良いと思うのだけれど。きっとそのほうが僕は上手く機能するから。ただ自分にフリーランスはまったく向いていないとも思うので(そういえばINTPはフリーランスになると所得ががっくり下がるというグラフを見たことがある)、適当な組織に属しつつその中で最善をつくすのが現状では最適解なのかなーとも。よく分からん。

 インターネットで「ASDは単語(オブジェクト)よりも文法(語の確率的繋がり)を優先する傾向があり、平均的な知能を持つASD者はアニメのセリフの引用などが多い」みたいな主張を見かけて、自分はわりとそうだなあと思った。会話中に本の一節をそのまま引用することが多いし、(言葉で考えているときは)内容より構文で連想が進む傾向がある。ただし意味にたいして鈍感かというとそうでもなく、そちらはどちらかと言えば視覚と関連が強い。構文と意味の分離。最近はちょっと統合できるようなってきた気もするのだけれど。

 「100色の帽子があり、それを100人の囚人にかぶせる。それぞれの色の数は決まっておらず、すべての囚人に同じ色の帽子が与えられることもありうる。囚人は自分以外の99人の帽子を見ることができるが、自分の帽子は見えないし、一度帽子をかぶせられたら互いに意思疎通を行うことは出来ない。さてここで囚人たちは一斉に予想した自分の色を言う。一人でも正解していれば全員が助かり、さもなくば全員処刑される。帽子を被る前に相談タイムが与えられており、囚人たちは戦略を立てることができる。確実に処刑を免れるには、どのような戦略を立てればよいか」。ここ数日ずっと考えていたのだけどようやく答えがわかった。逆向きにものを考えるのが少しは出来るようになってきたみたいで嬉しい。やっぱ言葉は便利ですね。

0603

 草原にじっと寝そべってときどき尻尾をパタリと動かすやつやりたい。

 なにもかもが自明な作業に見えてきてつらいときは、画家や音楽家の身体は自明な動きしかしないけれどもそこから生み出される圧力は非自明であるという事実について考えることにしている。僕の生活はよい旋律を奏でているだろうか。

 そのように解釈できるからと言ってそのように解釈せねばならないという道理はない。それらを同一視出来るからと言って同一視せねばならないわけでもない。倫理だってもとを辿ればエゴなのだとか、この世界に本質的な価値などないとか、そういった言説も、ある視点に対応する抽象に基づいたひとつの解釈なのであって、その説得力は真理に由来するものではなく、あくまで人間的な生活の次元に源泉を持っている、”と解釈することが出来る”!。だから、僕らは選ばなくてはならない、自分の立っている場所を。選ばなかったところで、選んだことになってしまうのだから。