2045年には、人工知能が人類の能力を超える「シンギュラリティ」な状態が訪れると考えられています。人類が人工知能を制御できなくなり、いわば終末論に近い悲観的な意見を持つ人も多いのですが、技術の進歩は止まりません。果たしてシンギュラリティな状態に達したときの、人工知能暴発に未然対策はないか考えてみましょう。
人工知能が人間を超える「シンギュラリティ」
読者の皆さんは「シンギュラリティー」という言葉をご存じですか？
「シンギュラリティー」は、「技術的特異点（ぎじゅつてきとくいてん、英語：Technological Singularity）」という意味を持ち、現在では、テクノロジーの急速な変化により甚大な影響がもたらされ、人工知能が人類の能力を超えることを指すようになりました。
人工知能に支配されることにより、人類の生活が脅かされることもあり得ると考えられていますが、むしろ特異点を越えて幸せになる方向も十分に予想され研究が日夜続いています。
特にシンギュラリティな技術を、貧困や食糧不足、教育格差など、人類の最も困難な課題を解決するために役立てようと、グーグルの技術開発責任者にして、アメリカの人工知能分野の第一人者でもあるレイ・カーツワイルらが「シンギュラリティ大学」を立ち上げたことにより、一躍この概念に世界の注目が集まっています。
2045年に「シンギュラリティ」が実現すると考えられている根拠
私自身はこのシンギュラリティな状態に対する楽観論者であり、同じ技術者としてシンギュラリティな技術の進歩が世界を良くすると考えています。
「人工知能が進化することで世界は更に悪くなる」と断定して盛り上げるのは、一種のエンターテイメントを求める人間の本質に訴えるものであり、ノストラダムスの1999年世界終末論に近いのではないでしょうか。
とはいえ、2045年にシンギュラリティーな状態、つまり、人間が自分達に勝る人工知能を制御不能になる時が訪れて、人類はおかしくなる…と考える人が多いのも前述のとおり現実ですし、看過できないオピニオンと言えるでしょう。
2045年にシンギュラリティな状態が訪れる根拠は、一般的に「ムーアの法則」に求められています。
ムーアの法則とは、大規模集積回路の長期的な技術進歩や生産性は一定の率で向上し、その率が「コンピューターチップの性能が18ヶ月(1.5年)毎に2倍になる」とされる法則です。
仮に人類が人工知能に支配される時が訪れたとして、何が起きるは予測できませんし、現時点ですら半年後、1年後の技術進歩すら読めないのが、テクノロジーの世界の現実です。
そこで、本当に生活が脅かされるような状態にならぬよう、シンギュラリティによる人工知能の暴発を未然に防ぐ方法を考えてみたいと思います。
人工知能が暴発しないための未然対策アイデア
ここからはマニアックな話ですので、チンプンカンプンだと思われる方はご容赦を。
それから、ネットで検索しても具体的な対策が今のところ出てこないので、ここからは勝手な独自論です。
私が考える、シンギュラリティな状態を超えた時のリスクヘッジ策は、「シンギュラリティーキー（SingularityKey)の作成」です。
具体的に「シンギュラリティキーの作成」が何かというと、
いざという時に決定権を人類に移せるキーを、オープンソース化と標準化(RDF)させメインルーチンに入れておくことを、現時点で国際法で定めておく。
ことです。
特異点に達するムードが出てきてから、この策を講じたのでは遅いです。
映画「2001年宇宙の旅」に出てくる人工知能ロボットの「HAL」は、人類が自分の排除をやりそうな空気を察して、逆に宇宙船の乗組員を排除しようと考えます。
「HAL」のような人工知能ロボットが、最終的な意思決定を自ら行えないように、シンギュラリティな状態が訪れる前に対策を講じます。
具体的な仕様は以下の通りです。
- 機能を強制的に止めるキーを入力できる領域をメインルーチンに設けることを定める。
- コードの形体は一般的な強度が保たれていれば問題ないが、そのキーの保管はデジタル上では行わない。
- 量子コンピューター、ナノテクノロジー等の、アナログ活動に近い場所でも探ってくるAIから、できるだけ遠いところに保管する。
- 仮にメインホストが集約を繰り返し、１台になることを想定し、そのホストのキーは石に刻んで海に沈めて置く。
- 次世代に受け継ぐアナログな管理体制を作る
世界をより良く、快適な状態にしようと考える人がいる限り、技術進歩を止めることは出来ません。
ですから、この技術進歩が悪用されたり暴発せぬよう、未然に対策を打つことが最善の策と言えるでしょう。
Photo credit: Dick Thomas Johnson via Visualhunt / CC BY