「実際にそう言った」と「そう言ったとしてもおかしくない」の違い

「実際にそう言った」と「そう言ったとしてもおかしくない」の違い

ある人の生前の情報を使って、その人が亡くなった後に「その人が生きていたらこういうことをしゃべっただろう」というアウトプットを作るプロジェクトは、ときどき見かけます。そこで物議をかもし、「そういうことをやっていいのか悪いのか」という議論が起きます。

そこには、どうしても、ある種の嫌悪感といいますか、「何か間違ったことをやっているんじゃないか」という感覚が伴います。それは、あたかもデータを捏造しているかのような感覚に近いと見ています。

私自身、そんなに詳しいわけではないので何かを論じることはできませんが、ふと思ったことがあるので、書いておきます。

それは何かというと、結局のところ問題は、「その人がそう言ったとしてもおかしくない」ということと、「実際にその人がそう言った」ということの違いにあるのではないかということです。

確率的な話として、ある人がこういう文章を書いていた、その人はこういう話もしていた、この人はこういう人だった、これまでにこういう出来事に対してこういう意見を述べていた、というたくさんの情報があったとします。そこから、確率的に考えるならば「この人はこういうことを言うだろう」「この出来事に対してこのような考えを述べるだろう」というアウトプットは、現在のAIはかなり自由に生成できると思います。

そこで、先ほど言った「そういうことを言ったとしてもおかしくない」「そういうことを書いたとしてもおかしくない」「それはいかにもあり得ることだ」という蓋然性の話と、「実際にその人がそう言った」「実際にその人がそのように書いた」という事実の違いを、どう捉えるかが問題なのではないかと思います。

AI、特に機械学習によって確率的に生成する非常に高性能なAIが登場してから、まだ歴史が浅いため、人間の意識としても、その二つを明確に区別することに慣れていないということがあると思います。もちろん今までも、その二つの区別は重要でした。たとえば「証拠の捏造はよくない」とか、「実際に起こった歴史と、誰かが考えた物語を同一視するのはよくない」といった文脈で述べられていました。

しかし、これからの時代では、もちろん「実際に行ったかどうか」は大事としたうえで、それとは別に「どのような確率でそういうことを言う可能性があるか」といった分野や研究があってしかるべきだと思うのです。それが特定の個人に結びつくと問題があるかもしれませんが、集団や特定の学問分野、あるいは学問でなくてもある分野や組織に対して、その組織としての意思や考え方をAIのような形でまとめるというのは、私は意味があることではないかと考えています。

このあたりの議論はとても難しく、感情的な反感だけを前面に出して進めてしまうと、大きなものをかえって見失ってしまうのではないかという気がしています。

「実際にそう言った」という事実と、「そう言ったとしてもおかしくない」という蓋然性、この二つを明確に分けることを大前提とした上で、ある人やある組織の、いわば集合のようなものを今後どう扱っていくかというのは、とても大事な話だと私は思います。

以上、全然まとまってはいませんが、とりあえず文章の形にしてみました。

これもそのうち結城メルマガにまとめたいところです。

https://link.hyuki.net/mm/