人工智能可能是我们这个时代最具争议的新技术。人们对它的潜在破坏方式感到非常担忧，特别是自从去年开始发布新的基于大型语言模型训练的生成式人工智能以来。

回到2014年，埃隆·马斯克将创建人工智能比作“召唤魔鬼”，称其“潜在危险比核武器还大”。马斯克认为，存在着我们最终会被人工智能取代的风险——按他的话说，就是魔鬼。

这是一个常见的科幻主题，至少可以追溯到玛丽·雪莱的《弗兰肯斯坦》。它是有关科技危险和过度探究的恐怖故事。在1984年的电影《终结者》中，是一种邪恶的人工智能将在未来引发核大屠杀，导致由阿诺德·施瓦辛格扮演的机器人AI回到过去，试图杀死抵抗军未来的母亲。在2014年的电影《超验骇客》中，是人工智能开发者约翰尼·德普将自己上传到量子计算机中，并威胁要掌控世界，导致全球经济崩溃。

讽刺的是，一个连续创业者，花费多年时间尝试将人工智能应用于自动驾驶技术中，却产生了这种感觉。但是在2015年，马斯克的恐惧感促使他共同创立了OpenAI，这是一家最初致力于开发开放和人性化人工智能的非营利组织。他还声称捐赠了1亿美元来启动这个风险投资。

自2015年以来，OpenAI已经做了很多事情，而去年ChatGPT-3的病毒式公开发布更是引起了全世界的关注。上个月，更加强大的继任者ChatGPT-4因参数数量超过了1万亿，而在全球范围内引起了轰动。相比之下，GPT-3的参数数量只有1750亿。

ChatGPT-4惊人的模仿人类语言交流的能力引起了未来生命研究所发布的名为“暂停巨型AI实验：一封公开信”的呼吁，要求在训练更强大的系统之前暂停至少六个月。签署人包括成千上万的科学家、技术专家和研究人员，包括前美国总统候选人安德鲁·杨、苹果公司创始人史蒂夫·沃兹尼亚克等人，以及马斯克本人。

像OpenAI的聊天机器人这样的人工智能不像传统的软件技术。它们是建立在被称为转换器的模型上的。转换器是由数字模拟神经元组成的网络，神经网络的设计目的是模仿生物大脑的结构。它们通过在大型数据集上进行训练来“学习”，以便检测不同数据位之间的关系。在ChatGPT和其他启用AI的聊天机器人的情况下，这些数据位是单词或单词的一部分，称为标记。

这是否意味着这些人工智能实际上是聪明的呢？并不是真正的聪明。ChatGPT并不“知道”任何事情。它只是查看它到目前为止所拥有的文本，并确定下一个单词应该是什么，然后重复这个过程直到完成任务。对于ChatGPT来说，这些单词甚至没有意义，它们只是标记，一系列二进制位上的数字，根据分析数万亿其他二进制字符串之间的关系执行数学运算。

但是结果仍然令一些人感到不安，并且非常难以纠正！与处理常规计算机代码不同，您无法查看、调试并在必要时进行更正。您不知道网络中的所有不同神经元如何共同产生结果。它是一个黑匣子。因此，像ChatGPT这样的AI并不总是给出正确的答案。就在上个月，斯坦福大学不得不关闭其自己的生成式AI聊天机器人的公开版本，声称它在“幻想”——传播虚假信息和有害内容。

这绝对是未来生命研究所呼吁暂停AI研究签署者所共同担忧的问题之一。在他们的信中，他们表达了对AI可能会“用宣传和虚假信息淹没我们的信息渠道”的担忧。个人认为，我们人类运行的信息渠道已经在这方面做得很好了。但信中另一个很大的担忧是AI可能会自动化数百万个工作岗位。这些签署者们害怕收割者的到来。

“收割者效应”指的是人们担心人工智能会通过自动化任务导致大规模的失业和经济混乱。

第一个商业成功的收割机是由弗吉尼亚州的铁匠Cyrus McCormick发明的。他的机械收割机是一项革命性的发明，可能是19世纪上半叶最伟大的发明之一。它将永远改变人们的生活，并且像它一样的机器在接下来的一个世纪中摧毁了数以百万计的农业就业机会。

但是，即使单个McCormick收割机可以代替多个工人，它通过减少劳动瓶颈和使农民能够“播种多少收多少”来减少了短缺，使小麦和其他谷物变得更便宜、更易得。

它还帮助将美国中西部变成了全球的粮仓，促进了数百万人成为美国工业革命的一部分。在那里，自动化的进一步发展不断提高了工人的生产率，降低了商品价格，使该国在世纪之交成为世界最大的经济体，并创造了世界上增长最快的城市，如芝加哥。

新的工业和农业自动化引发了一个被称为“大通缩”时代的时期，物品的价格下降了。由于新技术，1870年存下来的一美元在1890年可以买更多的东西。即使工资保持稳定，普通工人的财富也增加了，尽管所有被收割机摧毁的旧工作都已消失。

收割机效应在20世纪没有停止，只是加速了。根据美国人口普查数据发布的劳动力市场研究报告显示，2018年存在的60%的工作在1940年并不存在，这部分归功于技术创造的新工作和被技术摧毁的旧工作。当时，美国实际GDP只有1.3万亿美元，这个数字已经增长了16倍。

“收割者效应”今天也在通过新的劳动力节省技术如人工智能产生作用。高盛经济研究最近发布的一份报告《人工智能对经济增长的潜在巨大影响》估计，全球范围内，由于生成式人工智能技术，将有3亿个全职工作被自动化。在美国，替代将由办公和行政、法律和建筑和工程工作引领。

但在同一时期，劳动生产率的提高将增加全球年GDP7%。此外，许多由人工智能实现的新工作将被创造出来，从这些工作获得的可支配收入无疑会创造出许多额外的工作。

与此同时，我们在训练人工智能模型时存在着一些实际限制，无论像OpenAI这样的开发者是否自愿暂停。积极的一面是，有两个因素正在发挥作用，使得训练ChatGPT-4等后继人工智能模型变得更加容易和更快速。首先，半导体价格和性能的改进是一个长期的趋势，可追溯到几十年前，通常被称为摩尔定律，这意味着在大数据集上训练生成式人工智能所需的巨大成本将会下降。一旦训练好这些神经网络，进行查询也会随着时间的推移变得更加便宜，其他因素相同的情况下。此外，研究人员优化人工智能工作的算法意味着我们可以期望看到一些计算效率的改进，从而有助于使人工智能更便宜。

然而，像ChatGPT-4这样的人工智能系统的查询仍然需要大量计算，比搜索引擎查询要昂贵数百倍。而且训练这样大型的语言模型同样也是很费劲的。2018年，安全与新兴技术中心发表的一项研究估计，训练尖端人工智能的计算需求增长速度是不可持续的，每3.4个月翻一番，到2027年就会超过美国GDP的成本。这个速度比摩尔定律和优化结合的速度还要高得多。幸运的是，仅仅依靠摩尔定律不是计算机芯片变得更快的唯一途径，还可以通过优化设计来减少开销，这也是提高性能的另一种方式。然而，虽然目前人工智能性能的进展是令人惊叹的，但如果没有新的突破，由于计算约束，进展可能会放缓。但这并不意味着在当前技术水平下没有大量应用技术的机会。

(未完，明天继续......）