鼠标点击和回形针：无聊游戏中的黑暗和令人沮丧的乐趣

Universal Paperclip 是一款基于 Frank Luntz 的以 AI 为中心的存在噩梦的浏览器游戏，据其开发者称，自去年 10 月发布以来，已有约 120 万人玩过。

也就是说，过去五个月有超过100万人参与了大规模的迭代点击实验。点击盒子的动作一次生成一个回形针，其目的是将宇宙中所有已知物质转化为回形针，当玩家达到 30.0 septendesirion 回形针时游戏结束，这是一个发生彻底毁灭的游戏。宇宙的。

《Universal Paperclip》作为一款病毒式浏览器游戏的成功令人惊讶，但这并不是因为它没有完全被消费。据《连线》报道，这款游戏一经推出就受到了巨大的欢迎，约有 45 万玩家，其中大多数人都完全完成了游戏。 《环球回形针》的成功令人惊讶的是，至少在纸面上，它和游戏本身一样无聊。 Universal Paperclips 是一款点击游戏，有时也称为非游戏。在这种类型中，游戏机制被简化为最基本的组成部分：单击或点击以实现任意目标。就像 Lantz 的朋友兼同事 Ian Bogost 的 iOS 应用程序 Cow Clicker 一样，Universal Paperclip 也处于游戏娱乐和 Skinner 盒子实验之间的中间状态。

这说明了我们什么让我们情不自禁地不断点击？我们向 Lantz 询问了这个问题。

兰茨说：“沉浸在游戏中，用你的每一部分思维去追求一个目标，这是非常引人注目的。” “我认为它就像调整到鲨鱼大脑，机器大脑，在那里我们有一种可怕的、令人兴奋的，你可以体验到一心一意：无论是将球扔进篮筐，组合几何形状，击败恶魔，还是制作回形针。”

“也许部分是因为我获得了在短暂的日常生活的瘴气中不容易获得的经验水平。我的意思是，我是一个人，我不是鲨鱼，我不是一台机器。但是“对鲨鱼来说。你能做的事，机器能做的事，都是非凡的，发现你有这种能力并亲身体验是很强大的。”

Lantz 的游戏基于作家兼哲学家尼克·博斯特罗姆 (Nick Bostrom) 在其著作《超级智能：路径、风险策略》中推广的思想实验，但首次出现在他 2003 年的文章《高级人工智能伦理问题》中。博斯特罗姆的“回形针最大化器”描述了一种先进的人工智能，其任务是产生一个看似无害且任意的目标：回形针。博斯特罗姆随后辩称，如果这些机器最初没有被编程为重视人类生命，它们最终会将宇宙中的所有物质，包括人类，变成回形针或制造回形针的机器。我问这种情况是否会改变。

“假设你有一个人工智能，其唯一目标是制作尽可能多的回形针，”博斯特罗姆在他 2003 年的书中写道。 “人工智能很快就会意识到，没有人类会更好，因为人类可能会关机，因为如果人类这样做，剪辑就会更少。人体含有许多潜在危险的原子。未来人工智能的目标是是一个有很多回形针但没有人的地方。”

“我真的很喜欢博斯特罗姆的工作，”兰茨说。但当谈到人工智能的潜在风险，或者他所说的人工智能安全辩论时，伦茨采取了外交立场。他说，这场争论是概率与可能性的争论。这不是科学、现实和科幻小说之间的关系。 “关于人工智能安全的争论非常有趣。要记住的重要一点不是有问题的人工智能是否可能发生，而是它是否可能。”说，“这可能是一个问题，这可能会爆炸并变得危险。” ’与此同时，像弗朗索瓦·肖莱（François Cholet）这样的人说——不，这是不可能的，因为这样那样的原则阻止了这种情况的发生。 ”

兰茨继续说道，“在我看来，安全人员采取了保守立场。他们说，‘我们不知道，当我们不知道时，我们会采取一些预防措施。我们应该采取预防措施。’”另一方面，安全反对者说，“我们实际上知道会发生什么，会发生什么。在我看来，你可以肯定地说你是否会得到它。

与博斯特罗姆赢得特斯拉首席执行官、人工智能预言家埃隆·马斯克赞誉的作品相比，兰茨对回形针的探索更像是一篇关于人工智能伦理的论文。相反，兰茨为博斯特罗姆的反乌托邦提供了一个更加黑暗的次要情节。如果通用回形针有任何迹象的话，人类不仅会被超级人工智能打败，而且会积极参与其破坏。

对于兰兹来说，这反映了我们的构建方式。通过激活大脑的快乐回路、大量的多巴胺和奖励机制，我们倾向于享受无尽的点击带来的效果。

“这与攀岩者、登山者所做的并没有什么不同，让自己处于激活许多原本处于休眠状态的电路的位置。我认为我们喝醉了，跳舞，音乐的节奏压倒了我们，我们得意忘形了。”

“另外，游戏不仅让你有机会体验这一点，而且让你思考它。这就像，哇，退后一步说，‘哇，这太奇怪了。’看看这有多容易。”重叠的系统把我拉了进去，催眠了我。看看我有多着迷。那是什么样子？这意味着什么？”是吗？我通常的目标和行动与此有何不同或相似？”“这是我的希望，并且我的游戏可以做到这两点。”