マウスのクリックとペーパークリップ: 退屈なゲームの暗くイライラする楽しみ

開発者によれば、フランク・ランツ氏のAI中心の実存的悪夢をブラウザゲームにしたユニバーサル・ペーパークリップは、昨年10月にリリースされて以来、約120万人がプレイしたという。

言い換えれば、過去 5 か月間で 100 万人以上が大規模な反復クリック実験に参加したことになります。ボックスをクリックする行為によって一度に 1 つのクリップが生成され、その目的は宇宙のすべての既知の物質をクリップに変換することであり、プレーヤーが 30.0 セプテンデシリオンのペーパークリップに達するとゲームが終了し、完全な破壊が起こるゲームです。宇宙の。

ユニバーサル ペーパークリップがバイラル ブラウザ ゲームとして成功したことは驚きですが、それは完全に消費されていないからではありません。 Wired によると、発売時には約 450,000 人のプレイヤーが参加し、大ヒットとなり、そのほとんどがゲームを完全にクリアしました。 Universal Paperclips の成功で驚くべきことは、少なくとも紙の上では、それがゲームと同じくらい退屈だということです。 Universal Paperclips はクリッカー ゲームであり、非ゲームとして知られることもあります。このジャンルでは、ゲームの仕組みが最も基本的なコンポーネント、クリックまたはタップで任意の目標を達成するものに集約されています。 Lantz 氏の友人で同僚の Ian Bogost 氏による iOS アプリ「Cow Clicker」と同様、ユニバーサル ペーパークリップは、エンターテイメントとしてのゲームとスキナー ボックスの実験の間の一種の曖昧な状態に存在しています。

私たちがクリックし続けざるを得ないということは、私たちについて何を物語っているのでしょうか?ランツにこのことについて尋ねる。

「ゲームに没頭すること、つまり、意識のあらゆる部分を使って目標を追求することには、非常に説得力のあるものがある」とランツ氏は言う。 「私はそれをサメの脳、機械の脳に同調させることだと考えています。そこで私たちは、日常生活の曖昧で多層的で儚い性質の代わりに、ある種の恐ろしさ、スリリングさ、ひたむきさを経験することができます。ボールをフープに通すことも、幾何学模様を組み合わせることも、悪魔を倒すことも、ペーパークリップを作ることも。」

「おそらく部分的には、はかない日常の瘴気の中で容易にアクセスできないレベルの経験にアクセスできるからです。つまり、私は人間です、私はサメではありません、私は機械ではありません。しかし。サメにできること、機械にできること、それは並外れたものであり、自分にその能力があることを発見し、それを直接経験することは強力です。」

ランツ氏のゲームは、作家で哲学者のニック・ボストロム氏が著書『超知能：経路、危険性戦略』で広めた思考実験に基づいているが、最初は2003年のエッセイ『高度な人工知能における倫理的問題』で検討された。ボストロムの「ペーパークリップ マキシマイザー」は、一見無害で恣意的な目標であるペーパークリップの製造を任務とする高度な人工知能について説明しています。次にボストロム氏は、もしそのような機械が最初に人間の命を大切にするようにプログラムされていなかったら、最終的には人類を含む宇宙のすべての物質をクリップかクリップを製造する機械に変えることになるのではないかと尋ねる。

「できるだけ多くのペーパークリップを作ることを唯一の目標とする AI があったとします」とボストロムは 2003 年の著作の中で書いています。 「AI は、人間がスイッチを切るかもしれないので、人間がいないほうがはるかに良いことをすぐに理解するでしょう。なぜなら、人間がそうすれば、クリップの数が減るからです。また、人間の体には、危険な可能性がある原子がたくさん含まれています。 AIが目指している未来は、ペーパークリップはたくさんあるが人間がいない未来だろう。」

「私はボストロムの作品が本当に好きです」とランツは言う。しかし、人工知能の潜在的なリスク、つまり彼が AI の安全性に関する議論と呼んでいるものに関しては、ランツ氏は外交的な立場をとります。彼によれば、この議論は確率対可能性の問題だという。科学と現実とサイエンスフィクションの関係ではありません。 「AI の安全性に関する議論は非常に興味深いものです。覚えておくべきことは、問題のある AI が発生する可能性が高いかどうかではなく、それが可能かどうかということです。安全担当者は、これは問題になる可能性がある、これは爆発して危険になる可能性がある、と言っています。」その一方で、フランソワ・ショレのような人たちがこう言っています――いや、そんなことは不可能だ、なぜならこんなことは決して起こらないようにしているこれこれの原則のせいだ。」

ランツ氏は続けて、「私の目には、安全担当者たちは控えめな立場をとっている。彼らはこう言っている、『我々には分からない、そして分からないときは、ある程度気をつけるべきだ、予防策を講じるべきだ』と言っているのだ。」その一方で、安全反対派の人たちは、「私たちは実際に知っているので、何が起こり得るのか、何が起こり得ないのかを確実に言うことができる」と言っているように私には思えます。

テスラの CEO で AI の予言者イーロン・マスクの称賛を得たボストロム氏の著作と比較すると、ランツ氏のペーパークリップへの探求は、AI 倫理に関する論文というほどではありません。その代わりに、ランツはボストロムのディストピアに対してさらに暗いサブプロットを提示している。ユニバーサル・ペーパークリップが何かの兆候であるとすれば、人類は超知能AIに出し抜かれるだけでなく、その滅亡に積極的に参加することになるだろう。

ランツにとって、これは私たちがどのように構築されているかを反映しています。脳の快楽回路の活性化、ドーパミンの洪水、報酬メカニズムによって、私たちは無限のクリックの効果を享受する傾向にあります。

「それは、ロッククライマーがやっている事や、登山家がやっている事と、そうでなければ眠ったままになっている多くの回路を活性化する立場に身を置くことと、それほど変わらないと思います。私たちは酔って踊り、音楽のリズムに圧倒され、夢中になってしまうのです。」

「それに加えて、ゲームはこれを経験するだけでなく、それを考える機会を与えてくれます。一歩下がって言うのは、うわー、それは奇妙でした。私にこのことを気にさせるのがどれほど簡単だったかを見てください。 「これらの重なり合うシステムが私を引き込み、催眠術にかかったのです。私がどれほど夢中になっていたか見てください。それはどんな感じでしたか？それは何を意味しますか？私の普段の目標や行動は、それとどのように違うのでしょうか？あるいはそれに似ていますか？」 「それが私の希望であり、私のゲームがその両方を実現できることです。」