このところ、「AIで世界が滅びる」であったり、「AIですべての問題が解決する」など、AIの高性能さを無条件に前提したような主張が多く目に入るようになりました。それ以外にも、「そんなこともできるのか」と驚くようなAIの宣伝を見ない日はありません。しかし、実際のところ、それらはどのくらいの精度で有効なのでしょうか。もし「それ程有効でない」としたら、「なぜ」「だれが」過剰に性能を誇張しているのでしょうか。

本書は、TIME誌が選ぶ「AI分野で最も影響のある100人」に選ばれたAI研究のエキスパートが、これらのAIをとりまく社会を冷静に分析し、AIの性能を過剰に謳う社会を批判し、AIに本当にできることを見極め、あるべきAI社会を問うものです。本書は、「AI SNAKE OIL」というなんとも変わった原タイトルですが、この蛇の油とは、効能がないのにあるかのように謳って売られていた「インチキ」薬で、AI SNAKE OILとはそのAI版という意味になります。

まず、AIの現実的な性能について検証するのですが、本書にはAIに関する研究について、衝撃的なデータがあります。
ノルウェー科学技術大学のオッド・エリック・グンデルソンとシグビョルン・クイェンスモは、AI分野の主要誌に掲載された400本の論文を対象に、第三者の研究者が再現実験をおこなうのに十分な詳細情報が含まれているかどうかを検証したところ、400本の論文のなかに、再現性基準（コードとデータの共有など）をすべて満たすものは、なんと「ひとつも」なかった のです。その他にも、再犯リスクを予測するAIや、医療系の予測系AIなどで、実際には6割程度の正確さ（つまり、コイントス＝50％より少しマシな程度）であることが述べられています。このように、AIの性能に関する数字には、多くの誇張が含まれているという事実があるのです。

では、なぜこのようなことが起こるのでしょうか。そこには、以下の4つの点において、さまざまな要因を挙げることができます。

① 研究者
資金や注目を集めようとするインセンティブが働き、厳密さよりも有用性を大きく喧伝してしまいます。
② 企業
研究データが公開されておらず、先の研究の再現性の問題のようなことが生じていたり、
数値が実際よりも効果的に操作されている可能性がある。
③ メディア、著名人
メディアや著名人はクリック数や視聴率を稼ぐため、プレスリリースの焼き直しや、ロボットのような誤解を招く画像を使ってAIを神格化・神秘化して報じます。
④ 人間の認知バイアス
自動化バイアス（AIが出した結果に対して、過度に信頼を置いてしまう傾向 ）や、ハロー効果、アンカリングバイアスなどのさまざまなバイアスが、AIについてより顕著に作動している。

このように見るとき、重要なのは、AIの現実的な現状の性能と、人間の認識のゆがみを冷静に認識したうえで、正しいAIの未来を描いていくことだとわかります。
本書には、人工知能開発の歴史についての記述もあり、ここまでの道程の困難さを考えると、そうAIがすぐに人間を超越したり、亡ぼしたりすると考えるのはやや早計で、それよりも人間のAIの認識の方を改めるのがはるかに先決であると言えるでしょう。
加熱するAI報道に惑わされないために、今こそ読んでほしい1冊です。

（担当／吉田）

著者紹介

訳者紹介

• この本のページ ＞
• 草思社ブログもご覧ください

• Amazon
• 楽天