Redundanz

僕の言葉は、人と話をするためにあるんじゃない。

0609

 「すべては現象にすぎない」という表現がもつ力こそわれわれが真に抵抗すべき敵ではなかったか。その表現のもっともらしさを支えているのもまた他の諸現象であり、だから「すべては現象にすぎない」という表現にわれわれの生活から意味を剥奪する特権的権能が与えられているわけではない。超越的なものがあるとしたらそれはわれわれの生に一切影響しないのだ。

 セルフネグレクトという概念を知る。僕にはかなりこの傾向があると思う。最近ますます生きることへの意欲が薄まっている。そして生きる意欲が薄いがゆえに言えてしまう言葉たちがさらにその傾向を加速させていく。まずいかもしれない。

 ときどきやってくる発狂して暴れまわりたい衝動を上から目線でいなすたびに神経が少しずつ摩耗していっている感じがある。はー。

 仕事は他社との合同勉強会。単語の分散表現についてちょっと面白い研究を知る。しかし自然言語処理を「正しく」やるには人間そのものにかなり近づく必要がある感じするよね。

0608

 仕事終わりに終わった案件の打ち上げ。ロシア料理を食べる。美味しかったけどワインで悪酔いしたのか精神の調子が良くない。最近気づいたのだけど僕はお酒があんまり好きではないようです。思考力が落ちるし味もよくわからない。ワインの味とか料理の機微とかもっと分かるようになれば人生は豊かになるのだろうか。

 知識も気持ちも僕の中にはとどまってくれない。かなしい。

0607

 意味不明に疲れています。重力が2gくらいある気がする。呼吸がとても浅くなっているのに気付いて意識的に深く吸うようしだしたらちょっとマシになったような。思い込みかも。

 仕事は相変わらず暇なので今日はstan職人ごっこ。確率的プログラミングはよくわからない。ニューラルネットのほうがよほど素直なものに思える。解釈可能性ってわりと高コストよね。

 言葉を発しながら別のことを考えるのと同じように、考えごとをしながら考えている自分を眺める、ということがわりと出来るようになってしばらく経つけれど、それでわかったのは、(他のあらゆることがそうであるように)自分の思考はただの確率過程にすぎないということである。知覚と記憶が混じり合いながら、ときに秩序だって、ときに無作為に思考の樹形図を枝刈りしてゆく。いくら目を凝らしたところで自分に固有の意志なんてものは見えてこない。ヒトの形に凝集されたランダムネスが無数の選択肢の中に染み渡っている。僕にできるのは、見ること、聞くこと、感じること、ただそれだけで、そう思うと人間というのはいかにも窮屈なものだけど、その身じろぎひとつできない牢獄の中で与えられる感覚の中には、自由とか開放感とかいったものも含まれているからとくに問題は生じない。

 考えることは川を作ることに似ていると思う。湧き出した水は地形に沿って流れを作る。水はただ斜面を下ることしかしないから、川の流れを変えるには地形を弄らなくてはならない。しかもその地形がどうなっているかは、実際に水を流してみるまでわからないことが多い。だから目的の場所まで川を繋ぐにはたくさんの試行錯誤が要る。思いつけないことを直接思いつくのは不可能だ。ただし無駄な試行錯誤を減らす方法はあるはずで、最近いろいろ考えている。

0605

 たくさん昼寝したせいで昨夜は上手く寝付けず結局一睡もしないまま仕事へ。こないだ大きめの案件が終わった関係でとくにやることはなく、論文を読んだり実験をしたりして過ごす。要するに大したことはしていない。

 僕の抱いているニューラルネットにたいする直観は、新たな研究成果によって次々と覆されていく。えっ君ってそんなやつだったの、とびっくりした次の瞬間にはその姿もまた仮初のものであったことが明らかになっている。最近だとAdaptiveな勾配法が実は汎化性能の点でSGDに劣っていることが分かったりとか。これは僕の感覚なのだけどSGDの汎化性能を支えているのは学習時に生じるノイズであって、AdamやらRMSpropやらは収束が滑らかすぎるのだと思う。じっさい逆伝播してきた勾配に適度にノイズを加えると精度が上がるという話はある。僕もちょっと試してみたことがあり、ResNetの最適化においてMomentumSGDと同程度かちょっと良いくらいの精度をAdamで出している。まあ使ったデータセットがCifar10だから一般に成り立つ話かはわからないけれど。ちなみに僕がやったのはこれ(https://arxiv.org/pdf/1511.06807.pdf)で紹介されているのとは別のオリジナル(かどうかは自信がない)のもので、よく覚えてないけどたぶん勾配の絶対値に比例する標準偏差のgaussian noiseを加えるみたいなものだったと思う。

 相変わらず体調はよくない。明日には元気になっていたい。

0604

 どうでもいい日記を再開しようと思います。

 体調が悪くて一日ぐったりしていました。全身に無駄に力が入っていて体液の循環が滞っている感じ。折角の休日に勘弁してほしいし、「折角の休日」なんてことを考える自分の生活にがっかりする。休みたいときに休んで働きたいときに働けたら良いと思うのだけれど。きっとそのほうが僕は上手く機能するから。ただ自分にフリーランスはまったく向いていないとも思うので(そういえばINTPはフリーランスになると所得ががっくり下がるというグラフを見たことがある)、適当な組織に属しつつその中で最善をつくすのが現状では最適解なのかなーとも。よく分からん。

 インターネットで「ASDは単語(オブジェクト)よりも文法(語の確率的繋がり)を優先する傾向があり、平均的な知能を持つASD者はアニメのセリフの引用などが多い」みたいな主張を見かけて、自分はわりとそうだなあと思った。会話中に本の一節をそのまま引用することが多いし、(言葉で考えているときは)内容より構文で連想が進む傾向がある。ただし意味にたいして鈍感かというとそうでもなく、そちらはどちらかと言えば視覚と関連が強い。構文と意味の分離。最近はちょっと統合できるようなってきた気もするのだけれど。

 「100色の帽子があり、それを100人の囚人にかぶせる。それぞれの色の数は決まっておらず、すべての囚人に同じ色の帽子が与えられることもありうる。囚人は自分以外の99人の帽子を見ることができるが、自分の帽子は見えないし、一度帽子をかぶせられたら互いに意思疎通を行うことは出来ない。さてここで囚人たちは一斉に予想した自分の色を言う。一人でも正解していれば全員が助かり、さもなくば全員処刑される。帽子を被る前に相談タイムが与えられており、囚人たちは戦略を立てることができる。確実に処刑を免れるには、どのような戦略を立てればよいか」。ここ数日ずっと考えていたのだけどようやく答えがわかった。逆向きにものを考えるのが少しは出来るようになってきたみたいで嬉しい。やっぱ言葉は便利ですね。

0603

 草原にじっと寝そべってときどき尻尾をパタリと動かすやつやりたい。

 なにもかもが自明な作業に見えてきてつらいときは、画家や音楽家の身体は自明な動きしかしないけれどもそこから生み出される圧力は非自明であるという事実について考えることにしている。僕の生活はよい旋律を奏でているだろうか。

 そのように解釈できるからと言ってそのように解釈せねばならないという道理はない。それらを同一視出来るからと言って同一視せねばならないわけでもない。倫理だってもとを辿ればエゴなのだとか、この世界に本質的な価値などないとか、そういった言説も、ある視点に対応する抽象に基づいたひとつの解釈なのであって、その説得力は真理に由来するものではなく、あくまで人間的な生活の次元に源泉を持っている、”と解釈することが出来る”!。だから、僕らは選ばなくてはならない、自分の立っている場所を。選ばなかったところで、選んだことになってしまうのだから。

0505

 新しく言葉を覚えるのはむつかしい。辞書的な定義を知るだけでは、その言葉を正しく理解したことにはならない。言葉を知ることは、その言葉の使用に妥当する新しい状況を知ることであり、世界に新しい境界を引くことである、と思う。たんなる言い換えによって語彙を水増しされた文章は、読んでいて全身がむず痒くなってくる。だからそういうのはなるべく避けたいと思っているのだけれど、真なる意味で語彙を増やすことは、すなわち人格を更新することであって、二十才を超えた身としてはかなり厳しいものがある。いや、そんな気弱なことを言っていてはいけない。人生の解像度をもっと高めたいと願うのであれば。

 小さい頃からなにかを覚えるのが嫌いだった。記憶すべきことを最小にするためのルールをいつも探していた。それはそれで良い訓練になっていたとは思うのだけれど、この世界にある雑多な豊かさとでも言うべきものをだいぶ取りこぼしてしまっている気がする。それに新しい基底が増えれば単純さの意味合いも変わってくるはずなのだ。もっと次元の高い空間でつるつるしていること。

 最近だいぶましになってきたとはいえ、僕はいまだ相対性と抽象の世界に生きていて、だから(暗黙にではあっても)つねになにかを貶めていない限り、自分が自分であることを正当化できない。普通に嫌な奴なのでやめたいと思うのだけれども、自分が嫌な奴であるのは嫌だからやめたいというのが動機である限り無理な気もする。

 ある人がそれを~として解釈するとき、その「~」に入るものが実在するわけではない、ただ彼がそれを「~」として解釈していると判断するための基準があり、その基準もまた「~」と同じ構造をしている。起こっていることが起こっていて、あらゆる解釈もそこに含まれる。すべては一枚の紙面の上での出来事である。

 プロレゴメナをちびちびと読み進めています。ようやく半分くらい。カントの考えている枠組みがちょっと整理されてきたような気がする。まず、模様としての世界、物自体は感官に作用し、直観として構造化される。そしてそこに悟性が判断を下すことによって経験が可能になる。直観されただけの世界はあくまでも主観的なものであり一回的なものであるのだが、それが純粋悟性のカテゴリー(量とか因果とか)に組み込まれることによって、普遍妥当性を獲得する。悟性とはいわば(人間にとっての)辻褄を世界に付与する仕組みである。ただしこの悟性による判断は、直観による裏付けがあってはじめて意味をもつ。悟性の機能しうる領域はわれわれが直観する世界よりも広く、それゆえに裏付けとなりうる直観を原理的に持たないような判断をしてしまいうる(そうした悟性の思惟しうる世界の全体は可想界と呼ばれる)。それを批判したのが純粋理性批判であった。みたいな。そういえば浪人中に読んだカント哲学の解説書に「月が綺麗なので自殺する」みたいな文があって印象に残っているのだけど、これは直観に裏付けされない純粋悟性概念「なので」の例だったのかもしれない。いつか確認してみたい。