人工智能对人类最大的威胁，是人类过早或过于斩钉截铁地自称“我们了解它”。文｜《中国企业家》记者 梁宵编辑｜米娜图片来源｜AI生成那些距离AI更近的人，更早接收到来自未来的警语。6月10日，刚刚发布“史上最强模型”Claude Fable 5，估值已近万亿美元的Anthropic的CEO达里奥·阿莫迪就发表长文呼吁——“再不监管，就来不及了”，而后Fable 5“如愿”被禁用。更早之前，一位离开OpenAI的安全研究员直言“被AI的发展速度吓坏了”，并表示“AGI（通用人工智能）竞赛是一场风险极大的赌博”。而这种反应并非孤例，正如Anthropic联合创始人Jack Clark在社交媒体上所写的：那些离开传统公司的人会说，“是时候做出改变了！期待我的下一个篇章！”而那些离开人工智能公司的人则会说，“我凝视过无尽的黑夜，看到若隐若现的形影——我即将去学习哲学”。随着奇点（人工智能超越人类智能的临界点）临近，人工智能时代所引发的集体反思和忧虑也将日益汹涌。“人们正在亲身参与一个平凡而又具有革命性的过程，比自活字印刷机问世近6个世纪以来所发生的任何转变都更加重大。”《人工智能时代与人类未来》（下称《未来》）中早已指出。此书出版的2021年，GPT-3模型才刚刚发布，书中就已预言，人工智能将日益成为人们日常生活的一部分，用于编码或写作、电影制造、甚至深度伪造；同时，也将出现AI陪伴下的“人工智能原生代”；但是，一种并不能感知或体验人类情感（但可能会模仿人类情感），却给予无处不在陪伴的机器，将如何影响孩子对世界的感知及其社会化？而今，书中很多假想的场景已经成为现实——甚至比作者当年预计的还要快；但人类社会针对人工智能的监管和应对预案依然接近空白。作为《未来》一书的续作，《人工智能时代与人类价值》（下称《价值》）更进一步，深入探讨了人工智能将对人类活动和思想的8个不同领域产生的影响，并对未来人机共生的图景做出预测，或者说预警。书的三位作者分别是：战略家基辛格、谷歌前CEO埃里克·施密特及微软前首席研究和战略官克雷格·蒙迪，这样的组合，使得讨论既关注技术演进逻辑，也兼顾公共和外交政策视野，同时上升到哲学层面的思辨——但或许这转瞬就会成为摆在我们面前的现实抉择：在人工智能时代，人类将扮演什么角色？人类的尊严、权利、意义该如何定义？如何坚持？是创建一个人工智能更像我们的世界，还是我们更像人工智能的世界？过度恐惧或者简单无视都不应该是人类面向人工智能时代的答案。就像《三体》里的那句名言，“弱小和无知不是生存的障碍，傲慢才是”，历经百年国际风云变幻的基辛格提出过类似警示：人工智能对人类最大的威胁，是人类过早或过于斩钉截铁地自称“我们了解它”。进化or退化如每个人所感受到的那样，人工智能几乎每天都在刷新能力，也在刷新我们对它的认知。就像书中所说：将来回首看它今天的最新能力，会给人小儿科的感觉。历史上，技术创新都被描述为以往实践的延伸：电影是移动的照片，电话是跨越空间的对话，而汽车是快速移动的马车……但人工智能时代的创新似乎脱离了这种“定义”，因为已经无法再把AI看做是人类能力的一种延伸，相反，随着技术不断向前推进，AI将改变组织、社会、甚至整个世界的运作范式——有些改变现在已经发生，有些改变则可能完全出乎人类的意料。人工智能的几大特点让它不同于其他技术创新：首先，它通过短短十几年，制造出等同于人类进化数千年来所产生的存在——大脑，这也是最后一个需要借助人类之手进行再创造的器官。自此以后，人工智能就进入高速自我迭代——速度已被证明是人工智能区别于人类形态和思维能力的核心属性。同时，人工智能的天生“缺陷”反倒成为优势：它不会感到恐惧，也不会感到羞耻，可以适应创新和探索的高失败率，始终一往无前。所以，人工智能会在各种能力维度超越人类，并不是一种假想，而是技术演进的必然。未来，不仅像翻译、程序员这些已经出现“AI代替人”苗头的职业、更多领域的工作都会被AI占据。就像书中所断言的那样：人工智能将成为终极的“博学者”。下个世纪的重大发现之中，将有相当部分、甚至全部由人工智能做出。那么人类呢？或许成为像《未来简史：从智人到智神》中所谓的“无用阶级”——“由于科技发展潜力极其巨大，很有可能就算这些无用的大众什么事都不做，整个社会也有能力供养这些人。”就个体而言，这或许不算什么坏事，但就人类整体而言，人工智能的影响或许不止如此。《价值》中提到，人工智能时代将会带来一个极为严峻的新挑战：人工智能可以对复杂概念给出高度清晰和连贯的描述，而且这种反应是即时做出的。但大多数情况下，“思考”的过程是一个黑盒子，机器推理不是通过人类的方法进行的，它超越了人类的主观经验，也超出了人类的能力范围，人类甚至无法完全呈现机器的内部过程，相当于将人类的“知识”与人类的“理解”分离。随着它们的发展，这些新的“电脑”可能不仅看似权威，而且确实无懈可击。目前，这些现象都是客观存在的，但其导致的结果却仍不可知：这种进步所带来的，是人类理性的进化，还是退化？人类是否会加速倒退回到被不加解释的权威“喂养”的日子？是否会濒临认知大倒退的悬崖边缘——一种黑暗启蒙？听上去已经很惊悚，不是吗？但这还只是理性层面的颠覆，进入物理世界的人工智能将对现实世界掀发更大的未知变化。“将人工智能从算法的牢笼中释放出来，对我们来说绝对是一个影响重大的决定。人工智能在物质环境中，一旦放之于外，就很难被重新捕获，可能最终改变现实。”书中写到，并且进一步提出：随着通用人工智能系统的推进，届时将出现数以百万计的人工智能系统，这些联网智能的运行过程会比单机智能更不透明吗？连接是否会产生新的突发行为，并在物理世界中实现？这只是冰山一角。人工智能的快速进化将会是一个多面性的挑战，可能会冲击国家治理、社会文化、人类未来各个层面的安全。直面这个威胁，并不是说要拒绝人工智能，与所有技术一样，人工智能的影响不仅取决于它的能力，还在于人们如何使用。同样需要意识到的是，人工智能引发的挑战更为独特。《未来》中就提出，传统上有三个技术特性决定了军事和民用领域的分野：技术差异、集中控制和影响规模。迄今为止，还没有一种技术同时具备以下三种特性：军民两用、易于传播和潜在的巨大破坏性，人工智能打破了这种范式——这就使得对其挑战的应对更为复杂；但另一方面，整个社会对该挑战的性质和讨论依然缺乏共识。尤其在如今大模型军备竞赛的背景下，很多“威胁”被主动或被动忽略了。一位从知名大模型公司离职的对齐研究负责人就曾表示：“公司的安全文化和流程已经让位于光鲜亮丽的产品。”在这种情况下，《未来》中所担心的事情就会成为现实，人类可能参与到一场“逐底竞争”中：竞争压力会迫使各方在没有足够时间评估风险或干脆无视风险的情况下竞相部署通用人工智能。“我们现在面临的挑战更加复杂，不同以往，更加关乎人类存在；而且这一挑战并没有给我们几十年的时间来应对它，人工智能时代的时间尺度被压缩，留给我们的转圜余地很小，而我们的忍耐纵容可能会导致灾难。”《价值》中一再强调，无论你怎样看待人工智能，它都已变得无所不在；如今当务之急，是在人工智能带来的影响尚在人类理解范围之内时，尽快行动。点击封面订阅全年杂志人造人类or类人人工智能人类又该如何应对？《价值》中引用了一则迪士尼版的《阿拉丁》的故事：一个童工和一个有权有势的国师争夺对一盏神灯中无所不能的精灵的控制权。每个人都努力引导精灵实现自己的愿望。国师的最后一个愿望是让自己变得和精灵一样强大，但他没有意识到，拥有如此强大的力量意味着他也将被囚禁在神灯里，响应其他“主人”的需求。反过来，会有人甘愿被囚禁，以获得更大的超能力吗？《价值》中提到，人工智能的出现可能会使至少一部分人去考虑一个可能：在我们发明的工具似乎超越了自身能力的情况下——正如人工智能有时已经做到的那样——我们是否会考虑对自己进行工程改造，以最大限度地发挥工具效用，从而确保未来的人类依然能够继续参与到那些共同事业之中？比如，构建“脑机接口”的尝试？或者改变一些人的遗传密码以使其成为“超人”？且不说这样的改造会引发巨大的风险——伦理、生理和心理各个层面的，很可能会让人类得不偿失；至少眼下，极端的自我改造也并不可取。“如果我们将人类改造得面目全非，以至于无法辨认，我们真的算是拯救了人类吗？删除我们所有的不完美，淡化我们所有的缺陷，可能反而是无视人类的价值所在。从生物学角度‘提升’我们自己可能会适得其反，成为对自己的更大限制。”考虑到以上重重凶险，《价值》提出，让人类进化以适应人工智能的途经并不是人类当前的首选，那人类就必须在有能力控制人工智能的时候，想办法让后者变得更像我们。为此，我们不仅需要更全面地了解人工智能的本质，机器不断发展的特性，还需要更全面地了解人类自身的本质，必须尝试将自己对这些本质的理解，编码到我们创造的机器中。如果我们注定既要与这些非人生物纠缠不休，又要设法保持我们独立的人性，这些努力就是必不可少的——首先要把人类和人工智能的关系界定清晰，决定背后基于一个艰难的权衡：如果每个人工智能决策都必须由人类进行战术控制，我们就无法获得人工智能带来的益处。因此，以人类道德的基础作为战略控制的一种形式，同时将战术控制权交给更大、更快和更复杂的系统，这可能——最终也许来得比我们想象的更快——是人工智能安全的未来方向。进一步，如何实现“战略控制”呢？作者提出了一条可能的路径：正如人类现在可以根据宇宙法则来调整早期的人工智能系统，那么也有可能参照人类天性的法则来依葫芦画瓢，人工智能需要一棵确定的知识树，这些知识代表人类迄今为止推断出的“真理”、规则、人类共识等——让机器拥有这些知识，进而能够可靠地强化它们的世界观。但事实上，将具有全球包容性的道德规范铭刻到硅基智能系统中，近乎一项不可能完成的任务。《价值》中提到几大风险：第一我们不能完全依赖机器会自我驯服的假设，训练人工智能来理解我们，然后坐等它们尊重我们，这既不安全，成功的可能性也很渺茫；此外，我们也要直面一个现实，人类内部也存在分歧——有些人将人工智能视为朋友，有些人将其视为敌人，有些人则无法做出选择，只是简单地接受眼前可用的策略。所以，当下更务实的做法，是要为“什么可取”提供一个底线，而不是为“什么可能”提供一个上线。换言之，无论未来进展如何，人类都必须对一些基本问题建立共识，这些问题关乎“人之为人”的根本：比如当人类和机器之间的区别变得模糊不清时，人类被视为一个物种的最低门槛是什么？如果被迫向机器妥协，那么人类不可协商的集体红线是什么？就像《未来》中所提到的，如果我们未能像前人那样全力以赴地去理解人性，并将其作为人工智能理解整个人性的基准，那么人工智能时代将注定让我们迷失其中。如果对“我们是谁”没有一个共同的认识，人类就有可能完全将定义我们的价值，进而将证明我们存在合理性的这一根本任务拱手让给人工智能。这也是我们向未来两种智能共存共生的世界，迈出的重要一步，也是生死攸关的一步。“我们必须直言不讳地说，如果对相应技术进行可靠战略控制的机制不可能实现，那我们宁愿选择一个根本没有通用人工智能的世界，而不是一个通用人工智能与人类价值观不一致的世界。”《价值》中指出。问题是，有多少人会做出与作者同样的选择？更关键的是，留给人类自主选择的时间，还有多久？新闻热线&投稿邮箱：tougao@iceo.com.cn。END 。值班编辑：郭立琦 审校：吴莹 制作：姜辰雨关注“中国企业家”视频号看更多大佬观点和幕后故事扫描下方二维码，订阅2026全年杂志[ 推荐阅读 ] 文章原文