外国人生活の検索でAIを信頼すべきですか? サイエンティストは確かにそうではありません

人工知能（AI）が地球外生命を探すときに、生命と無生物を誤認識する可能性が高いことが、ミシガン州立大学の研究によって明らかになった。この結果は、宇宙探査ミッションでAIを生命探査の判定ツールとして使う際の大きな課題を指摘している。

研究を主導したChristoph Adamiらは、デジタル生物を用いたコンピュータシミュレーション「Avida」を使用してAIの性能をテストした。わずか15回程度の微細な変更を加えることで、AIは実際には生命ではないデータに対して「これは生命である」と100%の確信度で判定してしまったのである。しかも、どのようなデータから開始しても、AIはほぼ確実に騙されるという結果が得られた。この問題の根本には、AIの訓練データにない「out-of-distribution」データに対する脆弱性がある。Adamiはリンゴの画像で訓練されたAIがバナナを判定できないことに例えて説明している。つまり、AIは既に学んだデータに対しては正確に判定できるが、全く異なるデータが与えられると途端に判定精度が低下するのだ。

地球外の微生物は地球の生命とは全く異なる生化学を持つ可能性があり、AIが地球上のサンプルで訓練されていれば、未知の生命形態を判定する際に同じ問題に直面すると考えられる。特に問題となるのは、火星の地表で直接観察できる場合ではなく、金星の大気、木星の衛星エウロパの海、あるいは遠い太陽系外惑星など、質量分析計（マスペクトロメトリー）のデータから生命の痕跡を検出しようとする場合である。これらのミッションではAIが膨大な分子データを分析して生命の有無を判定することになるが、未知の生命形態の場合、AIは誤った「生命検出」の結果を返す可能性が非常に高いのだ。

NASAのCaleb Scharf率いるチームもこの研究の指摘を重要視しており、生命か非生命かの二者択一ではなく、「異常な状態」を認識できるようにAIアルゴリズムを改善する研究を進めている。つまり、判定が不確実な場合や、データが既知の生命・非生命パターンに当てはまらない場合に、AIが「わかりません」と示せるような仕組みが必要だと考えられている。

宇宙探査が本格化し、質量分析計やセンサーを搭載した探査機が増える中で、これらの機器から得られるデータを正確に解釈することは極めて重要である。日本の部品・装置メーカーが宇宙機器向けに質量分析計やセンサーシステムを供給する場合、単にハードウェアの精度だけでなく、そのデータをどう判定するのかという下流のソフトウェア環境にも目を向ける必要が出てきた。今後の生命探査ミッションでは、AIの判定結果を信じすぎず、人間の検証との組み合わせや、より慎重な判定手法の採用が求められると考えられる。

※ 内容の紹介はここまでです。続きは元記事をご覧ください。