THE COMING WAVE〜AIを封じ込めよ DeepMind創業者の警告〜

　AlphaGoを開発した英DeepMindの共同創業者で現在はMicrosoft AIのCEOである筆者が、野放図なAI技術の進歩と適用範囲の拡大に警鐘を鳴らした書。AlphaGoは世界トップ棋士だった柯潔を破り、世界に衝撃を与えた囲碁ソフトである。筆者は、AIを封じ込める方策を考えないと、世界に大混乱と大惨事をもたらすと強く訴える。2024年のノーベル物理学賞を加トロント大学ジェフリー・ヒントン名誉教授、同化学賞を米Google DeepMindのデミス・ハサビスCEO（英DeepMindの共同創設者でもある）とAI研究者が相次いで受賞するなど、AIが社会や生活、文化を大きく変えつつある今だからこそ読むべき1冊といえる。強くお薦めしたい。
　　　　　
　本書はAIの進歩を自ら先導し、目の当たりにしてきた筆者ならではの尋常ではない危機感が随所に表れた警世の書である。480ページと大部だが、科学技術が歴史的に辿った足跡を丹念に負うとともに、科学技術の進歩を後押しする研究者や技術者、ビジネスパーソンのモチベーションの領域まで踏み込んで持論を展開する。
　　　　　
　筆者が危機感を募らせるのは破壊的イノベーションはAI（汎用AIの手前の優秀人工知能ACI。チューリングテストに合格するレベルのAI）だけではない。新しい生命体の設計を可能にする合成生物学（synthetic biology）やロボット工学、核融合、量子コンピュータ、DNAプリンターなどにも疑惑の目を向ける。
　　　　　
　こうした技術は、非対称性、超進化性、オムニユース、自律性といった4つの特徴をもち、いったん亢進の度合いが高まり暴走すると、人の手に負えなくなると断じる。ここでいう非対称性とは、ちょっとしたことが世界のすべてを変えかねない特質を指す。影響の範囲が特定できない上に、レバレッジを効かせながら世の中を席巻してしまう。
　　　　　　
　筆者は大惨事を世界にもたらすイノベーションを、技術だけではなく社会や法律などあらゆる仕組みを連動させて管理・制御すべきだと主張する。筆者は、安全性や監査、チョークポイント、企業、政府、同名、社会運動など封じ込めのための10ステップを挙げる。しかし、もし破壊的イノベーションの封じ込めに失敗すれば、国家は崩壊し、世界秩序は破綻する。