霍金的担忧：人类将毁于自己的创新技术

斯蒂芬·霍金警告称，基因改造后的超人可能会消灭我们普通人，但他没有提到未来精英的一个可能特征。《星期日泰晤士报》刊登了霍金死后出版的《大问题的简要答案》（The Brief Answers to The Big Questions）一书的节选。在这本书中，这位受人尊敬的科学家警告说，基因增强的人类可能会成为占统治地位的超阶级。这是一个已经在科幻小说中被探索过的概念，新兴技术加上日益加剧的不平等可能导致这样一个反乌托邦的结果。

霍金并没有写到，最先利用基因改造人类的将是哪些能够负担得起的人，但期待超级富豪成为第一个超级人类并不是牵强附会。

《大问题的简要答案》于近日出版。在书中，霍金写道，人类正“进入一个新的阶段，可以被称为自我设计进化，在这个阶段，我们将能够改变和改善我们的DNA。”他预测，虽然我们可能会从治疗或预防遗传疾病的医学干预开始，但科学家最终会发现如何修改智力和攻击性等更复杂的特征。霍金警告说，改变DNA的力量可能会导致经基因改良的精英出现，他们最终会控制甚至消灭未来文明的基因穷人：“但有些人无法抵制诱惑来改善人类的特征，如智能内存容量，抵抗疾病和控制生命的长度等等。”一旦这样的超人出现，那些无法与之竞争的人类将面临重大的政治问题。据推测，这些在新技术的竞争中处于劣势的人将会消亡，或者变得不重要。相反，将会有一群自我设计的人，正在以越来越快的速度提升自己。因此，未来的超级精英将健康、聪明、长寿。他们可能也会很富有。

“快速公司”（Fast Company，美国最具影响力的商业杂志之一）的迈克尔·格罗特豪斯指出，超级人类也并非不可能成为超级富豪。毕竟，投资最新的、开创性的技术必定是能够负担得起重大投资的人。从目前的社会状况来看，人们可以看到霍金是如何推断出这样一个基因两极分化的未来的，以及金钱在其中的重大作用。正如《纽约时报》最近报道的那样，收入和财富不平等差异很大，而且还在不断加剧，而美国许多地区的代际流动性停滞不前。新兴技术，如快速基因组测序和使用CRISPR的基因改造技术，如果只对少数富裕的精英阶层开放的话，可能会导致霍金描述的那种基因分化。科学家们在科幻小说中探索了基因增强导致超级人类占主导地位的想法。在许多电影与文学作品中对这种技术有所描述，比如经典的《星际迷航》《太空种子》和1997年的电影《加达卡》等。

关于新技术的伦理问题日益引起科学界和学术界的关注，已经成为学术讨论的热门话题，并逐渐形成正规教育中的专业课程。2018年10月15日，麻省理工学院宣布计划建立一个新的人工智能学院，最初将投入10亿美元用于专注于“负责任和合乎道德”使用人工智能的教学建设。这所久负盛名的大学将增加50名新教员，并为计算机科学、人工智能、数据科学及相关领域的工作创建一个跨学科的中心。新学院的大部分资金将来自金融巨头黑石集团董事长兼联合创始人斯蒂芬·施瓦茨曼的捐赠。新学院将以施瓦茨曼的名字命名。

麻省理工学院院长拉斐尔·赖夫说：“随着计算机技术重塑我们的世界，麻省理工学院打算帮助确保它这样做是为了所有人的利益。”麻省理工学院的一份声明称，该计划是美国学术机构在计算机和人工智能领域的最大一笔投资。这一举措出台之际，人们越来越担心人工智能对全球机构的影响。

施瓦茨曼说：“我们国家面临的最重要的机遇和挑战莫过于负责任地利用人工智能的力量，以保持我们在全球的竞争力，并实现能够改善我们整个社会的突破。”“我们面临的根本问题是，如何确保科技进步惠及所有人，尤其是那些最容易受到人工智能根本性变革影响的人，这些变革将不可避免地给劳动力的本质带来影响。”麻省理工学院施瓦茨曼计算学院的成立是自1950年麻省理工学院成立斯隆管理学院和人文、艺术和社会科学学院以来最重大的结构变化。新学院建设计划于2019年9月开始实施，新大楼计划于2022年竣工。

（作者李大光 系中国科学院大学教授、国际科学素养促进中心研究员）