最近，谷歌电脑下棋软件战胜了世界围棋高手，韩国李世石，这是人工智能的一个重大进展。赛前，人们预计电脑在五局中只能赢一局，结果电脑赢了4局。这个结果说明了什么？有人担心未来世界电脑会控制人类。其实，完全是杞人忧天。
    如果我说，豆腐脑不是人脑，你一定会说，废话，谁会把豆腐脑看作人脑。可是，在象棋，围棋等领域，电脑没有战胜人脑以前，我们已经把这种机器叫电脑了，你怎么解释？也许你会说，原来的确是叫着玩的，谁也没有认真把这种机器当作人脑。现在不同了，它下围棋已经比人高明了，围棋可是高智商游戏。如果机器在某一个功能上，比人强，就要把它当作人，那么起重机力气超过人手，为什么不叫“电手”？汽车速度超过人腿，为什么不叫“电腿”？电脑下围棋比人强，就像起重机，汽车比人强一样。围棋手输给电脑，一点也不丢脸。要不我们找世界举重冠军与起重机比赛，找世界长跑冠军与汽车比赛，看看谁赢谁输？起重机的出现，没有淘汰举重比赛，汽车的出现，没有淘汰长跑比赛。同样，电脑下棋软件的出现，也不会淘汰围棋比赛，只是人不要再与电脑比赛了。下棋软件可以帮助人训练，可以陪人玩。
    人们所以被误导，就是被这个“脑”字搞糊涂了。包括著名学者。在专业领域很高明，在哲学领域就未必高明。
    电脑下围棋，神奇是神奇，但时间久了，习以为常了，就不神奇了。这种神奇的例子，多的是。如果一个古代人复活，看到汽车和起重机，看到电话，电视，电脑，不一样感觉很神奇吗？但今天的小孩子都不会惊奇。几十年前，有报道，一些非洲部落，看到照相机很神奇，认为会摄人灵魂。
    早在二十多年前，我已经写文谈论这个问题。我指出这已经是一个哲学问题，所以不能仅仅从技术上考虑。因为从技术角度，讨论什么事情机器做得到，什么事情机器做不到，恐怕很难说清楚。今天做不到，明天可能做到。问题的关键在于，在谈论这个问题时，有人偷换了概念。他们随便使用这些名词，“电脑的智力”，“电脑的学习”，等等。作为日常谈话，作为小说或影视作品，这样说没有关系。但作为严肃的学术讨论，这种说法完全是错误的。电脑根本没有智力，电脑根本没有学习能力。人们见到的所谓电脑智力，电脑学习能力，其实是人的智力，只是通过电脑来表现。也就是说，电脑智力是“物化”了的人的智力。它体现的是智能软件设计者的智力。这种误解在历史上早就有过。1959年，设计跳棋软件的赛缪尔，被自己设计的软件打败。于是人们纷纷谈论电脑战胜人的问题。我本人指导过一位学生，编写五子棋程序。结果也是战胜了她本人。我表扬了这位学生，而不是那台电脑。这是她的胜利！所以，这种所谓机器胜过人的现象根本不稀奇。赛缪尔本人也不承认机器超过人。因为他知道，他设计这个软件花费很多力气，而他与机器对弈，只是一瞬间。所以，这个比赛结果，只是说明，是多年的赛缪尔战胜了瞬间的赛缪尔。是物化的赛缪尔战胜了生物的赛缪尔。
     也许有人说，电脑与起重机，汽车不同，它有智力。在机器与人的关系上，没有不同。要说智力，在电脑以前机器就有“智力”。自动售饮料机，假定$0.75一罐可口可乐，你投入$0.74，它不理睬，你投入$0.76， 它找你一分。不是也有“智力”吗？你会认为它会做算术，已经有三岁小孩的智力了吗？机器根本没有人的智力，只是人制造的一个工具，模拟，反映人的思维。就像水银温度计，它知道温度吗？根本不知道。它只是有热胀冷缩的本性，然后人用一些刻度，表现温度。水银柱只是起了模拟作用。
    是人输给电脑吗？不是，是人输给人，输给设计这个软件的人。就像有评论说的，这根本不是通常的比赛。电脑围棋软件，集中了多少人的智慧？参考了多少战例？（比方，电脑可以分析100万个战例，人根本不可能。）
    关于电脑的“学习”能力，道理也一样。所谓电脑学习，其实还是人的设计，并非电脑自己主动要学习。有“学习”能力的电脑，无非是这个软件不像普通软件那样，按照人规定的算法对外界作出处理，而是搜集外界的反应，作为以后处理同样问题的依据。比方，一个自动卖衬衫的软件。简单的系统，可以规定每件衬衫$20。但复杂一点，可以根据销售情况决定价格。比方，如果平均一天卖出一件，调整价格，每件降价20%。如果平均每小时买出一件，调整价格，每件涨价20%。也就是不是事先规定固定价格，而是根据外界反应来决定价格。这不是电脑很聪明，会学习。这仍然是规则，或者说是规则的规则，复杂的规则，动态的规则。这个例子当然过于简单，但道理是这样。这与人的能力不是一回事。人有主动性，电脑很难模仿，或者不值得模仿。人只要电脑发挥它的长处，而不是替代人。比方，还是以卖衬衫为例。商店规定了价格。但假定有一位顾客喜欢一件衬衫，不过发现这件衬衫有一点小的瑕疵，要求经理打折。瑕疵的情况千差万别，打折多少完全取决于经理的判断，甚至心情，或者顾客的谈判技巧。或者甚至衬衫没有毛病，但顾客正好少带了一元钱，也没有卡，要求经理通融。这些怎么告诉电脑？即使可以告诉，也非常繁琐，根本不值得让电脑来做。

    需要说明的是，虽然机器的智力到处见到，但人工智能软件与普通软件的确有重大不同。比方，一个飞机订票系统，可以很复杂。比方，假定有一千家航空公司，有一万个航班，每天有十万旅行者。这个订票软件可以轻松处理所有要求。因为电脑速度足够快，搜索成千上万记录，非常容易。这个软件设计是有明确逻辑规则的，电脑只要穷尽搜索，就可以满足用户的各种要求。但是，对下棋程序，就不可能。因为下棋变化太多。以象棋为例。象棋总共32个棋子。每个棋子的走法有明确规则。电脑是否可以穷尽搜索各种可能性，从而人只要走第一步，电脑就可以看到结局？从逻辑上是可能的，但事实上是不可能的。为什么？我们只要简单估算一下就知道了。一盘象棋平均多少步。就算30个回合吧，也就是双方总共走60步。假定，每次走法，平均有10种选择。假定人先走。人走第一步，有10种选择。电脑走第二步，对人走的每一步，电脑都有10种选择，这样，电脑的第二步，总共可能有10 X 10 = 100种选择。也就是10的二次方种选择。以此类推，电脑要穷尽分析一盘棋的所有可能走法，总共有10的60次方种可能。假定考虑每种选择，电脑需要时间1秒。这样电脑总共需要时间10的60次方秒。这是多长时间呢？一小时3600秒。一天是3600 X 24 秒。一年是 3600 X 24 X 360 秒 = 3 X 10 的 7次方秒。就算 10 的 8次方秒 。也就是就算一年有 10 的 8次方秒。那么，10的 60次方是多少年？大概是 10的52次方年。这是什么概念？到那时，地球是否还存在，还不知道。所以，这是不可能的。就是电脑考虑每种选择只要百万分子一秒，情况也没有根本改变。所以，人工智能软件一定要有其他算法。也就是学习人的能力。棋手下棋，不是穷尽所有可能走法，而是判断“势”。什么是势？比方占据交通要道，势就好。比方，压制对方棋子通路，势就好。比方，我方的车，马包围了对方的车，势就好。反之，势就不好。对各种因素打分，正分或负分。最后选择综合分值最高的走法。
    总之，我们为人工智能的进展欢呼，但也要对人机关系有正确态度。在某个具体领域，机器“超过”人，是正常的，自然的，必然的。但电脑的智慧与人是不同的。它有它的优势，但也有它的劣势。比方，有时它很“聪明”，有时又像白痴，因为软件设计者没有考虑到某种情况，电脑就完全不知所措。与李世石对弈的第四局，就出现这种情况。这种情况在电脑翻译软件中也经常出现。比方，有一家机构，为了对外交往需要，把有关部门名称用机器翻译成英文。结果出现一个部门叫“男性事务处”，谁也不知道什么意思。原来中文原文是“公务处”。但中文的“公”，可以是指公共事务，也可以是指雄性动物。机器把两者搞混了。是设计者没有告诉电脑，如何区分。
    有人担心，人类设计出这样聪明的，可怕的机器，是否会反过来控制人类？这个问题我不必正面回答，只要以核武器为例。人类发明了核武器，是否会失控，反过来毁灭人类？其实，在没有核武器以前，人类发明了多少杀人利器？人类历史上的战争已经造成多少生灵涂炭？有没有灾难，还是在于人。人类发明核武器很聪明，但用核武器自相残杀，又很愚蠢，不是吗？人工智能表现了人类的智慧，如果人工智能会带来灾难，那只是人类的愚蠢，哪里能怪机器？对高科技，无意“失控”，不会造成大问题。汽车车祸天天发生，没有人主张取消汽车。我们担心的是人为的恶意利用高科技。人类在科技上很聪明，发展非常迅速，但在社会领域，还很落后，与科技进步太不相称。人类在管理自身，在处理相互关系，等方面，问题重重。