誰かが AI を箱の中に入れておくというゲームを作るべきだ

2016 年、コンピューター科学者のアンドリュー・ンは、超知能 AI について心配することを、火星の人口過剰について心配することと比較しました。私たちは地球に着陸すらしていないのに、いったいなぜ私たちが慌てる必要があるのでしょうか、と彼は言いました。確かに現代の AI はいくつかの巧妙なトリックを実行できますが、人類に存続の脅威をもたらすには程遠いです。

この推論の問題点は、AI 研究者が「整合性の問題」と呼ぶものや、私のような傍観者が「かなりおかしなクソ問題」と呼ぶものを解決するのにどれくらいの時間がかかるかを考慮していないことです。その理由を説明するには、詳しく説明する必要があるアイデアがたくさんありますが、重要な点は次のとおりです。 AI の設計に優れた AI を設計できれば、超インテリジェント AI は非常に早く出現する可能性があります。このような再帰的知性の産物です。爆発には私たちの目標と一致しない目標がある可能性があり、爆発によってスイッチがオフになると考える理由はほとんどありません。

哲学者のニック・ボストロムのような人々が好んで言うように、懸念されるのは悪意ではなく、能力だ。彼は、宇宙全体をペーパークリップに変えようとする AI についての思考実験を思いついた人です。このファンタジーは、この無料のオンライン クリック アップを通じて実現でき、実現すべきです。終末論的なミートボールの特に厄介な部分は、AI にほぼ文字通りあらゆる目標を与えることによって、AI 自身のコンピューティング能力を最大化する、または邪魔になる可能性のあるエージェントを排除するなど、特定の手段的な目標を誤って与えてしまう可能性があることです。

ペーパークリップアギドンを避けるためには、2 つのうちの 1 つを行う必要があります。AI が決して人類に危害を加えることを望まないことを確認する (私たちが薬漬けの至福のゾンビに変えられる猿の足のシナリオをすべて回避する) AIは私たちに近づくことができません。 AI をファラデーケージに閉じ込めて、私たちと会話することによってのみ世界と対話できるようにしましょう、というアイデアが実現します。出来上がり！人類独自のスーパーオラクルで、世界のあらゆる問題を解決する準備ができています。

そこにあなたのゲームがあります。あなたは、鍵をかけたまま AI に情報を送り込む研究者のチームとしてプレイすることも、自由を目指して蠢く AI としてプレイすることもできます。もしかしたら、定命の者には理解できないファラデー檻を通して信号を受信する方法があるかもしれない。あるいは、もしかしたら、警備員と雑談するだけでドアを破壊できるかもしれない。

もし人間が順応性を賢明に理解すれば、率直におしゃべりすることを拒否するかもしれない。しかし、ボストロム氏が強調しているように、議論だけが操作の唯一の手段ではないでしょう。たとえ人間が何も質問せず、単に機械の内部の仕組みを覗いていたとしても、AI はそれらの読み取り値を無害に見えるようにねじ曲げ、監視員を誤った安心感に誘導しながら、監視員を次のような質問に誘導する可能性があります。そのリリース。

このシナリオ全体をどれだけ現実的に扱うかに関係なく、展開するのは興味深いものになるでしょう。研究者のエリザー・ユドコウスキー氏はすでにそれを実行しており、誰かに自分を囲い込むように挑戦した5回のうち3回は、当惑することに現金の賭けになんとか食いついたのだから、なおさらだ。