文 | Omni实验室近期，谷歌DeepMind高级科学家Alexander Lerchner发表了一篇论文。结论非常清晰：算法符号操作在结构上不可能有能力产生意识，无论模型多大、架构多复杂、是否拥有人形身体。仔细看这句话，AI有意识这件事儿不是现在不行，而是从逻辑上看永远都不行~这篇论文的标题为《The Abstraction Fallacy： Why AI Can Simulate But Not Instantiate Consciousness》（译 | 《抽象谬误：为何人工智能只能模拟意识，但不能实例化意识》）论文发出后，引发广泛讨论~（一)主流范式错在哪里?Lerchner要反驳的，是目前AI意识讨论中最主流的一个理论框架——计算功能主义。计算功能主义拆开来看包含几个核心信息：1.意识的本质是一套因果拓扑结构，跟底层物理材质没有关系;2.同一套功能可以在人脑的生物神经元上实现，也可以在硅基芯片的数字电路上实现;3.只要一个数字系统精准复刻了意识的因果逻辑，主观体验就会自动涌现;说白了就是一句话：意识不挑硬件，碳基还是硅基都不重要。但Lerchner认为，这套理论看着没有错误逻辑，但实则从一开始就建立在错误的前提上。他给这个错误起了个名字：抽象谬误。（二)抽象谬误：把地图当成领土他为抽象谬误提供了两个比喻:1、地图不是领土无论把一张城市地图画得多精细，完整复刻每一条街道、每一栋建筑、每一个红绿灯，这张地图都不会变成它描述的那座城市。地图是对城市的抽象关系描述，城市是具备真实物理因果力的实体存在。2、公式不是引力写在纸上的万有引力公式可以精准描述引力规律，但这个公式本身不会产生质量，也不会产生引力。公式是对引力的抽象逻辑描述，引力是物理世界的内在因果属性。Lerchner认为，计算功能主义正好陷入了这个谬误：把对意识行为和逻辑的抽象符号模拟等同于意识本身的真实生成。一个系统可以把意识的行为模仿得惟妙惟肖，但这只是模拟，模拟不等于真正拥有。（三)“制图者”：被忽略的前提论文引入了两个关键概念：“模拟”和“实例化”。模拟可以理解为对某一现象的外部行为复制。比如一台机器可以模仿心脏泵血的动作，但它不会因此变成真正的心脏。真正的心脏有其内在的物理构成和热力学动态，这是“实例化”。论文严格区分了这两个概念的前提，是找到了整个计算范式中一个长期被忽略的要素——制图者（Mapmaker）。制图者，是任何一个拥有主观体验的生命体，它完成的工作是对物理世界的语义切分。计算机里运行的0和1不是宇宙的固有属性，物理世界不“知道”什么是1什么是0。芯片里只有实实在在的电压和电荷的连续流动，是人类观察者为这些物理信号设定了阈值，赋予它们符号意义。如果没有一个拥有主观体验的主体来“制图”，物理世界的状态就只是状态，不构成任何符号。计算功能主义假设了物理状态到符号状态的映射关系，但从来没有想过这个映射要在哪里才能真正成立。换句话说：一套算法可以在不同的解读框架下构成完全不同的意义~同一个物理载体可以承载不同的抽象关系，真正赋予它意义的是对它做出解读的那个认知主体。（四) 算力解决不了的问题Lerchner认为，意识的来源不是系统规模问题，不是复杂性问题。无论模型参数堆得多大，无论神经网络架构多复杂。如果底层机制仍然是符号操作，那么意识就永远不可能从中凭空出现。有人可能会追问：具身化的机器人呢？给它装上摄像头和传感器，让它和环境交互，是不是就能具备意识？Lerchner认为不能。机器人采集到的信号只是连续的物理信号，不管是通过ADC（模数转换器）还是其他方式转换为数字信号.运算的核心仍然在跑那些被提前赋予了符号意义的数字。运算之前的信号输入已经被做了字母表化。运算过程中的逻辑演化同样是建立在已符号化的数据之上，最终输出同样只是符号操控的结果。整个过程从输入端到输出端，都没有脱离符号操作的框架。（五) 接受批判，但暂不宣判有学者对Lerchner的论证表示了一定程度的支持。其中一种观点认为:这篇论文成功挑战了计算功能主义中过于天真的简化解读~也有效提醒了学界不要只凭外在行为的复杂性就随意为AI赋予本体论地位。同时，也有中立立场观点认为：Lerchner对计算功能主义的批判很有价值，但无需立即得出“所有算法都不能拥有意识”的强结论。目前的系统确实没有令人信服的意识证据，计算的本体论地位确实存在争议，但这些并不足以成为最终宣判。其实当讨论AI是否有意识这个话题的主体从局外的哲学家变成了业内的科学家时，问题的性质就已发生变化。这种观点的对立并不会阻碍技术前行，反而让人们更清楚~真正值得珍视的，不是对意识的模拟，而是意识本身。更多精彩内容，关注钛媒体微信号（ID：taimeiti），或者下载钛媒体App