现在的产生式人工智能发展速度非常快。仅四个月前，OpenAI向公众发布了ChatGPT。两个月后，该模型已经获得了1亿用户，而此前的网络热点TikTok则用了九个月才达到这个数字。Google也正急于追赶，推出了自己的AI聊天机器人Bard，同时也出现了许多ChatGPT的克隆版本，以及可让聊天机器人在热门网站（如Expedia和OpenTable）上使用的新插件。

上个月发布的OpenAI的新版本GPT-4更加精准，且是“多模态”的，可以同时处理文字、图像、视频和音频。图像的生成也以同样疯狂的速度发展：最新版本的MidJourney已经可以让我们用唐纳德·特朗普的“被捕”和教皇穿银色棉袄的深度伪造走红，这说明你很快就必须对你在网上看到的每一个图像都表示怀疑。

在这种疯狂的局面下，我们看见了AI即将进入学校、科幻写作、法律、游戏。它正在创造视频、打击安全漏洞、引发文化战争、创造黑市、引起创业热潮、接管搜索，为你的音乐设计DJ！接下来将替代你的工作！

在这样的环境中，我两次见证了产生式人工智能的诞生被比作原子弹的制造。引人注目的是，这种比较是由意见南辕北辙的人提出的，他们对这意味着什么有着不同的看法。
其中一位是产生式人工智能革命中最接近首席架构师的人物：OpenAI的首席执行官Sam Altman，在接受《纽约时报》的一次采访时称曼哈顿计划是“我们所追求的宏伟目标的层次”。另一些人是人道技术中心的Tristan Harris和Aza Raskin，他们因警告社交媒体正在摧毁民主而变得有些出名。现在，他们四处警告产生式人工智能可能会毁掉的不仅仅是文明自身，而是将令极具威力的、无法预测的工具，交到任何人的手中。

值得明确的是，Altman并不反对Harris和Raskin的观点，即人工智能可能毁掉文明。他只是声称自己有着更好的意图，因此可以努力确保开发这些工具是有保障的，再加上他别无选择，只能继续推进，因为这种技术是不可阻挡的。这种信仰和宿命主义的混合令人难以置信。
值得说明的是，这种技术是不可阻挡的。但是，目前正在推出的保障措施——例如从chatGPT的答案中过滤出仇恨言论或犯罪建议——都非常脆弱和荒谬。例如，对于OpenAI或MidJourney这样的公司，将难以删除的数字水印嵌入所有AI生成的图像，使照片之类的深度伪造更容易被识别，这本来是一个相当微不足道的事情。一个叫做Content Authenticity Initiative的联盟正在做类似的事情；它的协议让艺术家可以自愿附加元数据到AI生成的图片上。但我没有看到任何主要的产生式人工智能公司参与这样的努力。

无论你是将其视为积极的还是消极的，将产生式人工智能与核武器相比较，更具误导性而不是有用。核武器可以在几分钟内彻底摧毁大多数人类，但相对较少的人可以拿到核武器。而另一方面，基本上每个人都将能够使用产生式人工智能，但它却无法瞬间摧毁大多数人类。

当然，也许你可以要求一个没有保障的产生式人工智能GPT-4或它的后继版本，“设计一种比Covid-19更具传染性且杀死20%感染者的超级病菌”。 但是，即使致命毒素的公式和致病性疾病的基因代码多年来一直可以在网上自由获取，人类仍然存在。

产生式人工智能令人害怕的原因在于没有人能够预测人们会为它设计出什么用途。其中一些用途可能只对特定事物有破坏性——例如大学论文，它们可能很快就会变得过时。在其他情况下，恶性影响将是缓慢而难以预见的。（例如，虽然ChatGPT已被证明是编写代码的强大工具，但有些人担心它会使人类共享编码知识的社区变得多余，从而破坏未来人工智能和人类编码人员受训的基础。）

然而，在一个方面，曼哈顿计划确实是正确的：在大规模使用产生式人工智能之前和之后，世界将会有很大的不同。