盛按：最近马斯克等多位大佬联名发信呼吁暂停人工智能训练。理由是担心人工智能的发展失去控制，用超强的智力做坏事。这种担心是有部分道理的，但智慧在终极上是好事还是坏事，则是一个哲学问题。我在这篇文章中说，越是聪明，越是合作。但事实上确有用智力优势做坏事的。这怎样解释？人们可能用智慧做好事，也可能做坏事；好事做得越多，就越给坏事制造空间。所以人们不可能消灭坏事，但坏事也不可能成为主导。而全知全能一定会尽善尽美。人们越接近至善，也就越接近均衡稳定，所谓“止于至善”。这样说来，智慧不可能“失控”。我们需要研究的，是在远离全知全能的情况下，如何让聪明更多地做好事。我在另一次讨论人工智能与道德问题时说，要强制性地普及新科技，以消除人们之间的技术差距。（2023年4月10日）
一、计划经济和市场经济的网络性质
关于计划经济和市场经济有不少不同的区分和定义，但如果我们要在社会系统和互联网意义上讨论计划经济和市场经济，就要在这一范畴内讨论它们的区别。从网络系统意义上讲，计划经济就是在一个网络系统中，要由一个中央控制机构决定网络系统中的各个子系统网络或节点的行为；换成经济学的说法就是，要由中央计划当局来决定每个企业和每个个人生产什么、生产多少、消费什么、消费多少、在什么地方以及什么时候生产和消费等问题。
对应的，市场经济就是在一个网络系统中，由各个节点或各个子网络系统决定它们应该做什么；也就是说，成千上万个个人和企业自主决定他们生产什么、生产多少、消费什么、消费多少、在什么地方以及在什么时候生产和消费等问题。
在其它条件给定的情况下，计划经济要求中央控制机构瞬时解决N个人生产S个产品在T个时间点和G个地点销售给N个人，实现供求平衡。这要求它求解一个极为复杂的联立方程，若想获得所有内生变量的解，联立方程至少要有所有变量数那么多，即应该等于N×S×T×G个，这个联立方程会随着变量数量的增加而更为快速地复杂化，即复杂度随着N，S，T，G的增长而更快速的增长，即所谓“指数灾难”。
简化一下，以中国为例，假定N是13亿，他们同时是生产者和消费者，所以潜在地13亿人之间都可能存在交易关系，13亿的两两组合数是8.4499999935e+17；又假定有10万种产品或服务，其中每一种可能在任意一对交易之间成交，则有8.4499999935e+22种可能性；如果再考虑时间，简化地，我们假定是365天，再考虑地点，我们假定以县为单位，中国共有2862个县级行政单位，则有8.827123493209905e+28种可能性。而要解出所有这些可能性，则需要更多的计算次数。据我们所知，现在世界上最快的计算机只能达到每秒93.01e+15次。
更何况这只是一个简化的假定。因为现代生产过程比较复杂，迂回较大，很多人生产中间产品，一个产业链条多至几十道数百道，就不是简单地一个生产者直接对应一个消费者的关系了；经济也必然是跨越国界的，如果考虑所有可能性，就应将全球的人口算进来；更重要的是，生产者与消费者之间的数量关系不是固定的，由于专业化的深化，一种产品可以分成更多的生产段，更多的中间产品，更多的工序，因而产生更多的人与人之间的交易关系；而创新因素更不是计划者所能预见的，一个新技术的出现会产生出众多的新产品，众多新的交易方式，又带来了更复杂的人与人之间的交易关系。
而要达到上述简化计划经济模型同样的结果，市场经济只需要由任意两两人之间进行交易，各自决定自己是否要在某一价格水平上成交，也就是需要解一道四则运算题；但成千上万的分散的个人的这种交易通过互相影响和借鉴，通过一个过程可收敛为一个价格体系，人们只需根据价格信号作出自己的简单计算。也就是说，在同样的网络系统中，市场经济把上述N+S+T+G个联立方程的问题，变为无数个互相独立的四则运算，只要在任何两两人之间有一个数（价格）相同，就可以成交，无数个达成的交易可以解决N个人生产S个产品在T个时间点和G个地点实现供求平衡的问题。事实上，依赖于如此简单的两两人交易，也能够实现上述真实世界中的经济复杂系统的有效运转。
也就是说，当其它条件都相同时，市场经济总是会以比计划经济简单得多的方式解决经济问题。因而，当计算能力相同时，无论是多快或多慢，市场经济也仍然会以比计划经济简单得多的方式解决经济问题。也就是说，市场经济和计划经济的优劣与计算能力无关。因而，当计算能力或者与之相关的人工智能有了大发展以后，市场经济更为优越的结论不会改变。
二、自治：大自然化解复杂性的方法
然而，上述对计划经济和市场经济优劣的讨论只是一种技术性讨论，即只是从计算能力上来论证计划经济不可行，如果随着时间推移，计算能力增长到可以忽视复杂计算和简单计算的区别呢？我再从自然秩序的角度讨论这一问题。这就是，一个系统的复杂度在一定范围内能带来效率，但当复杂度超过一定限度时，系统运转的成本就会大得超过系统复杂性带来的好处，在这时的解决办法，就是在该系统中就会分离出多个可以自治的子系统或个体，从而减少系统中心控制的复杂程度，反过来又使系统可以扩展。
这可以看作是大自然解决复杂性问题时的基本策略。首先，当一个系统的所有部分或要素的行为都由一个中央控制机构决定的话，我们可以把它看作是一个整体。当系统将自己分成多个自治的部分，我们可以称这些自治的部分为个体。每个个体的复杂度显然比整体要低；接着，让这些部分或称子系统或个体自己决定它们的行为，包括生产或消费的行为。这样一来，整个系统由一个中央控制机构直接控制所有部分的复杂结构，就转变为中央控制机构只控制各个部分之间规则的机制，复杂度就会大大降低。关键在于，分开的子系统或个体要有决策的能力，即智力，它们就能自治。阿尔贝·雅卡尔指出，“一旦系统达到一定的复杂程度时，我们就应该腾出点儿位置给这个生命物质所具有的不仅可以自己构造自己还可以创造出意料之外的、新的东西的能力。”（89）
这种个体从整体独立出来，形成自我意识，并具有智慧，从而具有自治能力，能够决定自己的行动，也能够承担行动后果的情况，被称为具有自由意志。这在奥古斯丁讨论《圣经》“旧约”的“创世纪”时，有过精彩的阐述。奥古斯丁认为，夏娃和亚当偷吃智慧树上的禁果，睁开眼睛，有了羞耻感，暗喻着他们有了自我意识，这就是个体与整体分开的标志；也有了智慧，这是自治的条件。因为有了自由意志，其作为就要由自己承担后果，错了就要受惩罚，上帝将他们逐出伊甸园。这也意味着，自由是有代价的，只有做对了才有奖励，做错了就要受惩罚。反过来说，如果是不自由的，也就无需承担责任，也就没有“罪”的概念。
那么，将整体划分为几个部分，分成多个个体，为什么就可以简化复杂问题呢？将整体划分为部分或个体，首先就要承认部分或个体的自治，否则就不叫“划分开来”，也就意味着个体有决定自己事务的权利，而只有涉及个体间的公共事务时，中央控制机构才有权力干预或介入。具有自由意志的个体一旦有了自治权，就可以自由行动，只不过要承担责任和后果。于是，个体之间就会进行自由的互动。每个个体都遵循趋利避害的规则，即带来有利结果的行为就坚持，带来不利结果的行为就停止或调整，经过多次重复的互动，就会形成共同都接受的规则。因为只要规则对一方有害，就不会被受损害方坚持，也就会被修改，直到各方利益都不受损害的规则为止。
这些各方互动形成的规则，依其性质，既兼顾了每个个体的利益，又实现了整体的利益最大化，因为所有个体利益得到保障和增进，就是最好的整体利益。如果不是如此，有些个体就会偏离这个规则，就会面临改变的压力。但这些规则的形成又不是任何个体有意规定和实施而形成的，而只是在追求自己的利益的过程中无意形成的，他们只是参照别的互动或交易的形式和结果选择自己的交易形式，大量的分散的这种行为，最后会叠加和收敛为行为规则，因而没有额外的形成成本和运行成本，所以从中央控制机构来看，它并没有参与其间，也就没有控制的复杂度问题，就像自动运转一样。它所需要直接介入的，只是那些个体之间的共同的公共事务。这显然大大简化了中央控制机构运作的复杂程度。
这种通过众多的、分散的个体之间的互动形成的规则，被哈耶克称为“自发的秩序”。在现实中，比较多的为人接受的形态就是习俗、习惯或惯例。在自发的秩序主导的社会中，复杂问题被大大简化了。
三、自发的秩序的可认知性和可计算性
既然自发的秩序是无数分散的个体互动形成，就相当于吸纳了这些互动个体行为的全部信息，吸纳过程又是一个长期的试错过程，因而自发的秩序既包含了空间的信息，又包含了时间的信息，后者还意味着，这是一个动态的秩序，所以哈耶克又称之为“扩展的秩序”。
那么，人们的理性是否可以认识这种“自发的秩序”呢？关于人类认知能力的问题，曾是十八、九世纪欧洲哲学家关注的问题，一个主要倾向认为，人类不可能完全认知这个世界。这是因为，人是靠自己的感官感受来自外界的信息，而这些信息并不是外部世界物质的完全内在表达，而是其表象。即使人们掌握了这全部的表象，也不能掌握这些物自体。因而从总体上讲，人类是不可能完全知道外部世界的。而自发的秩序来源于个体的、尤其是人的个体的自由行动，某个个体究竟怎样行动，我们是无法确知的；大量分散的个体怎样自由互动，我们更不可能知道。康德说，自由是不可认知的，就是说，自由意味着无限的可能性，自由的行为及其导致的结果是如此的不确定和复杂，以至人的理性能力达不到完全认识的程度。
在哈耶克的语言中，凡是涉及到自发的秩序时，基本上要用“人类无法知道”来形容。在《法、立法与自由》中，他甚至专门写了题为“我们事实性知识的永恒局限”一节。他指出，“我们没有能力把深嵌于社会秩序之中的所有资料和数据收集起来，并把它们拼凑成一个可探知的整体。”（12）试想一下，每一个人都有五官六感，七情六欲，每一种感觉器官都会传递有关外界的各类信息；每一个人也都因五官六感而产生着各类效用或欲望，这些效用又随着时间地点的不同而不同；每个人又有着各类能力，尤其是大脑创造性思维的能力；这些效用和能力的互动的组合可能性几乎就是无穷尽的。只要对每个人的行为不加限制，他们之间的自由互动所形成的样态和结果数量就几乎是无穷大的。如果我们同意人的理性是有限的，就是同意认知能力是有限的，以有限的认知能力去把握无穷大的自发秩序数据在理论上是不可能的。
那么，理性能够认识到什么程度？哈耶克说，人们是可以认识到自发秩序所形成的抽象规则层次，这种抽象规则即是他所说的“正当行为规则”。这是因为，当人们普遍遵循某种习俗时，这种习俗所内含的规则要素会在多次重复中最终为人类中的智者所发现，并且有些时候能够用文字表达出来。这就是人类文明史中的轴心时代形成文明经典的情形。将自发的秩序内含的规则用文字描述出来，会带来一些好处。一是比较清晰，让人们能够更为准确地遵循；一是可以推广，在类似的还没有产生此规则的领域中实施；一是可以举一反三，发现更为一般的规则。这就是为什么轴心时代以后，文明有了大发展的原因。
然而，仅此而已。并且，正是这种对抽象的一般规则的把握与对自发秩序的尊重并行，才形成了成功的文明。哈耶克指出，当人们把握了自发秩序的抽象规则，并形成和遵行“正当行为规则”时，同时意识到他们不能将这种把握扩展到人类行为的各个细节和具体情境中去，而是在这个领域遵从自发的秩序，而不是将其作为较“低级”的形态而忽视或否定。也就是说，对能够把握的加以把握，对不能够把握的就尊崇和敬畏；这是一种恰当的文明结构。只是人们多重视人们自己用理性发现的一般规则，而忽视了他们是在不知道、不理解自发秩序时，又简单地遵循了自发秩序才实现的文明的发展。有些时候，就会出现唯理主义的自负，以为人类迄今为止的成就都是人类理性思考的结果，反而忽视甚至废弃自发的秩序。
最为重要的是，对自发秩序所显现的规则要素的把握，是在已经存在了自发秩序后，对之加以总结、思考、提炼才能做到。这意味着理性或人工智能不可能凭空创造自发秩序的规则要素，必然是依赖于自发秩序的存在而存在，其重要性也就次于后者。所谓“大数据”也只是在众多人的网络行为完成后才留下的痕迹，它也不可能凭空创造出数据；它只能记录人们的行为，而不能替代人们行为。假定有一天，一个强大无比的中央计划当局能够计划所有人的生产和消费，从而代替人们自己的决策，也就否定了效用是从这些个体之中生发出来的，也就限制了人们的自由，也就不会由自由的交易而产生自发秩序，这个中央计划当局的计算就是无源之水，无本之木。
因此，如果人工智能能够发挥作用的话，还是在人类理性所能取得成功的范围内，即对自发秩序所内含的规则要素进行提炼和阐述，而将自发秩序的生成和演化留给无数自由的个体。在另一方面，人工智能也可以充当自由的个体，甚至是比较聪明的个体。我们应该注意到，阿尔法围棋的成功是作为博弈一方的成功，即它可能是一个比职业棋手更聪明的个体，而不是凌驾于对弈双方之上的中央控制机构。它的聪明来源于对已经形成的围棋的自发秩序，即千百万盘已经完成的对弈的记录的输入、分析和计算，没有这些，它寸步难行。
四、人工智能与人类个体的合作可以改进个体互动和自发秩序
如上所述，人工智能可以作为聪明的个体参与人类特定范围的系统，可以改进系统内个体的互动，促进自发秩序的演化，可能会使系统更为有效。例如将人工智能纳入围棋比赛，会大大提升围棋比赛的水平，使人们发现更有效的围棋对弈着法。然而人工智能自身并不是一个产生效用的主体，它们的自由度实际上受限于设计和制造它们的人类，它们没有无限的可能性，因而不可能完全替代人类个体。所以不能在人类的全领域中作为一个更聪明的个体影响互动和自发秩序。
人工智能的突出表现永远都是在特定领域中的。如它的计算速度比人类快，它的记忆存储和提取要远优于人类个体。这在人类历史中早有先例。例如汽车比人跑得快，望远镜比人看得远。汽车和望远镜的意义就是作为人类工具的意义；同样人工智能也在工具意义上帮助人类。也就是说，人工智能可以使网络系统中的人类更聪明、更有能力，同时人类又不失作为人类的全部效用和无限可能的自由度。这就使得众多分散互动的个体更为聪明，互动更为有效，自发的秩序更为贴近理想中的天道，从而整个人类社会就会更有效率和更为繁荣。
这个判断似乎已被证明。如有了汽车和望远镜的社会是否比没有的要好？这已被证明是肯定的。在人工智能领域，除了围棋的例子，我们可以想象，一个生产者因为有了人工智能，可能更多地捕捉他的消费者在哪里，能更为精确地进行产品定价，更好地规划产品销售策略，消费者更个性化、更微妙的需求特性，从而会挖掘出更多的消费者，生产出更符合消费者的需求的产品，获得更多的收益。一个消费者也会借助于人工智能找到更符合他需求的产品或服务，也会更便宜地获得这些产品或服务。
也就是说，有一个市场，其中的人更聪明，是否就会比其中的人较愚笨更有效呢？所谓“较愚笨”，是指不能更快地发现交易对象，不能更快地辨别产品或服务的质量，不能很快地就价格达成一致，不能更快地创造出新的更符合消费者需求的产品或服务。这一切，都会体现在交易费用的增加，交易效率的降低，和效用的减少上，也就是说，市场总体效率就会较低。反之，当借助于人工智能，人们就会降低交易费用，提高产品或服务贴近特定需求的程度，就是提高效用，市场交易就会更多、更充分，市场带来的全社会效率就会更高。
不仅如此，涉及到交易费用的降低，还会带来动态结果。这就是分工会更为细密，专业化程度会更高，产品会更为个性化，这都会带来因分工发展而带来的效率提高，这是经济学一开始就注意到的现象。更重要的是，人工智能与人类个体结合而形成的个体会促使自发秩序更充分的演化。这就是在基本的市场规则基础上，演化出新的具体规则，新的制度。就如同在市场经济的演化史中出现过货币一样。这方面的变革更是我们无法意料的。也就是说，人工智能的发展不仅不会带来计划经济的复辟，反而会使市场经济更为有效和活跃。
从更基本层次上看，人工智能能够带来更为自治的社会，亦即更为市场化的社会。这是因为，如前所述，自治的前提是个体的自治能力，即理性能力或智力，当个体的自治能力因人工智能的出现而提升时，合乎逻辑的结论就是，社会就应该更为自治。更进一步，更聪明的个体可以是更道德的个体。这是因为，从经济人角度看，更聪明意味着有更长远的眼光，能够透过多重的因果链条看到一个策略的最终结果，而不会只看到眼前利益和直接因果关系，这使得个体可以为了长远利益和最终结果而暂时抵御住当下的利益诱惑，如违约、欺骗或不守信用等，明白遵循道德规则会有利于自己的长期回报，从而会遵循一般道德规则。当社会中自律的人增多、或社会普遍道德水准提高时，显然他律的制度就要缩小范围，也就是社会自治范围的扩大。
当然，我们也可以想象，有众多人工智能个体参与其间的系统，它们将形成新的自发秩序。在特定范围内，他们与人类个人个体共同组成的系统也可以通过互动产生自发秩序，例如在围棋比赛中，可以由人类棋手和人工智能棋手参加。它们的参加甚至会影响自发秩序的形态和走向。如我们在阿尔法围棋的弈法中发现，它已经突破了人类棋手长年固守的围棋定式，创造出了新的定式，并战胜了人类棋手。而所谓“定式”，就是自发秩序在围棋中的一种表现，即经过多次重复形成的习俗规则，博弈或互动各方都认为对自己无害，所以无意改变。因而，人工智能的出现和与人类的合作，会推动人类社会中自发秩序的演化，朝着更逼近自然法和更有效的方法发展。这也是人工智能对人类社会的重要贡献。
