ハルシネーション

今日は二十四節気の「白露」、七十二候の「草露白し」、「サンフランシスコ平和条約調印記念日」、「サンフランシスコ平和条約調印記念日」、「国際識字デー」。

愛知県沖でゆっくり進んでいる台風13号の影響で関東は大雨になった。

雨が弱くなった頃を見計らって市長選挙の期日前投票に行ってきた。

帰ろうとすると風雨が強くなっていて、ほうほうの体で車に戻り帰ってきた。

生成型のAI（人工知能）のChatGPTが登場してから色々な場面で使われそうになっていているけれど、元々ChatGPTは次に来るのが確からしい単語を統計的に出力するので、その出力が統計的に合っていてもっともらしくても正しいという保証はない。

生成型のAIが事実に基づかない出力を生成する現象をハルシネーションというらしい。

ハルシネーションというのは「幻覚」とか「幻影」という意味の言葉なのだけれど、AIでは元となる情報が正しいか間違っているかに関係なく生成型のAI が幻覚をみているように回答を出力してしまうからということだ。

現在は、身の回りの装置や機器にAIが搭載されているけれど、それらは生成型のAIと違い目的と基本となる情報が明確で、かつ規則や制限があるので、ハルシネーションは起こすことはない。

生成型のAIは、社会的な常識を理解している訳ではないので、ファクトチェックをしなければ知識や常識の蓄積が少ないひとが利用すると非常に危険なことが起こりうる可能性があるということになる。

ハルシネーションをどう見つけて、使えるようにするのは自動でできるのだろうか。