No (refractory) title : spectrally stable

本、アニメ、映画の感想。時々まじめに物理。ごくたまに日記。

言語心理学入門 -言語力を育てる- (福田由紀 編著、 培風館 2012) を読んでの雑感

表題の本が気になったので読んでみる。この本は主に教育関連の話が多く、結構退屈なのだが、2部の「文章の読み書きとは」が言語処理に関係していそうだったので読んでみた。

第8章、LSA (Latent Semantic Analysis) とか、面白い。1997年の研究。この辺の直接共起、間接共起って、word2vecの話に似ている気がする。影響あり?

ここでふと思うのは、共起による単語意味の理解と、共起による単語の運用って、はたから見てその二つを見分ける事ってできるのだろうか。

それはそれとして、やはり別に意味というのも解ってないといけないだろうなと。例えば「Aってどういう意味?」っていう文章があったとして、Aと「意味」って言葉には(なんて言えばいいか)属性的な関係性はないし、この文章事態の出現頻度は最大人生に1回しかない(Aという意味を理解してしまえば使わないから)。つまりこの文章が出現するのは「意味」という言葉の意味を知っていて、「Aってどういう意味」と言えばそれが「Aの意味を知りたいから教えてほしい」と聞くことと同義だとわかっているから出てくるもので、そういう点から考えるとやはり単語の意味や文章の意味というものが分かってないの文章を構成できないと思う。

第9章。「文を理解する脳内の装置」を文処理器と呼ぶ、とかカッコいい。でも英語の言い回しがないが、なんていうんだ?この章では文処理器が文の曖昧性をどう処理しているのかについて紹介。よくわからん。

結論。よくわからん。いくつかは何か関係していそうだった。入門書なので部分的で、知りたいことについて載っていなかったように思える。似たような本を調べてみよう。

いろいろと以下妄想。

対話型人工無能を作ろうと考える時、どのようになってほしいのだろうか。恐らくそこの目的がはっきりしないと、プログラムしようがない気がする。

究極の目的は

  • 雑談できる。

だと思う。でもそれはどのような目的が人工無能側にあるかというと、

  • 言葉の意味を知る

ということにあると思う。なので、別に感情が欲しいとか、性格が欲しいとかではない気がする。人工無能は雑談を通して言葉の意味を知る、という目的があり、そのために雑談を行う、という方向性でプログラムする。例えば、言葉を知るために、対話者と話をする。

ほら、会話を続けるには相手に興味を持つ必要があるでしょ、現実でも。だから、その興味としては言葉を覚える、ということだと、考えてみる。

そういう、言葉にメタな情報を付加することを快感(報酬)として会話をさせる。その他の性格やキャラ設定というのは、特定の質問に対する回答を用意することで済ませればいい。じゃあ、言葉を理解するといいうのがどういうことかというと、それは類語との関係や反語との関係、その他の単語との関係(辛い車、なんて言わないし、黄色い味、とは普通は言わない)とか、そういうタグ付け、有効グラフ的な関係性を自動で、構成する…

でも同じに、例えば「知るとはどう意味ですか」と人工無能側から聞かれたとき、それを対話者が説明できるか、というとたぶん無理。そういう時の分岐は用意しておく必要がある。それこそ、「知る、知った」という単語を用いる例文から意味を推測させるようにすべきだけど、その時の意味を人工無能はどう理解するのだろう。

人工無能は「知る」という意味を理解できるのか?人工無能らしい解答をあらかじめ与える?「知るとは、自身の辞書を更新することだ」とあらかじめ教えておく?それで人工無能は「知る」という言葉を理解したことになるのか?「今日は~というのを初めて知ったよ」と対話者が言ったら、「あなたの辞書が更新されたのですね」って言うか?言わないよなぁ…

そういう意味では、(もうすでに議論されつくしていると思うけど)現在の所謂深層学習を用いた人工無能で対話をしようとすると、「単語の頻度と関係性から、文章を経験的に構成する」だけで、「そこに文章の理解はない」気がする(哲学の問題は考えたくないんですが…。ソフィーの世界かよ。)。それこそ餌の出るボタンを押しているだけで、どうして餌が出るのか、という点を理解はしない。つまり文、法(品詞の出現の仕方、配列)を覚えることは簡単だと思う。でもそれでは、「甘い新幹線を食べて凍る」みたいな(「遅い新幹線を予約して帰る」も同じ品詞の並び。)までしかできない。

恐らく、単語の種類(色についての形容詞、速さについての形容詞といった風な。)を与えたとしても、それは実現されない。

ここまでの議論では、siriぐらいが関の山で、それ以上の会話は要求できない、気がする。

難しすぎますね。