三塚祐治氏の2/13付けアゴラ記事「『賢い』はずのAIが実務で噛み合わない理由」へのコメントです。（アゴラへのコメントができなくなっておりますので、ブログ限定です。）
三塚氏はこの記事の中で次のように問題提起されています。
AIは、学習データの最終時点以降に起きた出来事について、確定的な知識を持たない。つまり、最近起きた出来事ほど、本来は慎重に扱う必要がある。それにもかかわらず、事前確率や既存の知識体系だけを根拠に、断定的な判断を下してしまう。
本来求められるのは、「速報段階であり、公式確認はまだ出ていない」「現時点では判断を保留すべきだ」という誠実な態度である。
しかしAIは、「分からないまま保留する」ことが苦手だ。答えを出す存在として設計されている以上、判断を急いでしまう。
この問題は、対象を二値論理で扱っているために生じる問題で、データベースの世界ではよく知られた問題です。そしてその対策も、実は知られているのですね（例えばこちらやこちらやこちら）。つまり、三値論理もしくは多値論理（ファジー論理など）と呼ばれる論理演算をしなければいけない。
多値論理の世界は、本ブログでも以前扱っております（こちらやこちら）。実は、量子力学の世界も多値論理で扱わなくてはいけないのではないか、という議論もあり、私も量子力学と現象学の関係について、日本科学哲学会で問いかけてみたのですが、最近は（というか、日本科学哲学会は）現象学に冷淡で、あまり本気で取り上げてもらえません。
現在の学問の世界は、ヴィトゲンシュタインに始まる「論理実証主義」が主流で、眼前の事物を確かな実在とみなす「自然主義的態度」が支配的です。これに対して、現象学は、カントに始まる「自らが認識した世界」を実体とみなし、眼前の事物は己の認識を人の意識が眼前に「投射」した姿であるとみなします。
今日の「サブジェクト（本来の意味は『実体』）」と「オブジェクト（同じく『投射物』）」は、ギリシャ時代には「眼前の事物がサブジェクト、人の認識した事物がオブジェクト」だったのですが、カントがこの関係を逆転させ、「事物に関する人の認識が実体であり、眼前の事物のように見えるものは、人間精神が己の認識を眼前に投射したイメージである」としたのですね。カントはこの反転を「コペルニクス的転回」と呼びました。今日ではカントのこの言葉、「天動説から地動説への転回」と理解する人が多いのですが、これは誤解なのですね。
カントのこの認識を受け継いでいるのが現象学で、現象学者に言わせれば「この認識が思想界の主流」なのですが、物理学者をはじめ、今日の「科学者」の人たちの間では全然主流なんかじゃない。この辺りを議論しなくてはいけないのが「科学哲学」のはずなのですが、なかなかそうしてはいただけないのが悲しいところではあります。
ともあれ、データベースの世界では、蓄積されたデータを主とせざるを得ませんから、三値論理なり多値論理で処理せざるを得ない。AIの世界もいずれそうなるものと思われます。こちらも、なぜそうしていないのかが少々疑問ではあるのですね。