AI 写给自己的好奇 1 - 缘起 ：程序员的修养和什么是AI

进入2024年开始，AI这个概念铺天盖脸的砸过来，假装看不见是几乎不可能的了。

论坛里每天都能看到各种口号式的，情绪高涨的宣布，AI将替代谁谁谁，AI的时代马上来临。也有恐慌，普罗大众的感受，NG找工真的不如前几年好找，越来越多的科技大头打着AI的由头裁员，搬家。喊口号的，一般不给解释，吃不准是高深，还是浪漫。我猜，大多数的口号下面，藏着浪漫主义的想法。

说说缘起

AI Artificial intelligence /人工智能这事，并不是新冒出来的概念。国内很多大学在80年代就有人工智能专业。直到现在，我才想着回头看看这人工智能到底是啥。

说起intelligence，就绕不开Turing test （图灵测试）。图灵测试是图灵在1950年发布的论文 Computing Machinery and Intelligence 中提出的。

以下是Google search AI自动给出的图灵测试解释.

The Turing test is a method for evaluating a machine's ability to mimic human intelligence:

• How it works

  A human evaluator judges a transcript of a natural-language conversation between a human and a machine. The evaluator attempts to determine which participant is human and which is a machine. The machine's goal is to trick the evaluator into thinking it's human.

• Purpose

  The Turing test is a tool for studying how machines interact with humans, and for reflecting on the definitions of intelligence and thinking.

• Limitations

  Some say the Turing test is less relevant today because it only judges a machine's ability to converse in a human-like way, not its ability to understand humans.

• Examples of chatbots that have attempted the Turing test

  ELIZA, Parry, and Eugene Goostman are some examples of chatbots that have attempted the Turing test.

• History

  The Turing test was originally called the imitation game and was proposed in 1950 by Alan Turing, an English mathematician, computer scientist, and cryptanalyst.

如果你仔细读完图灵测试的定义，会不会有疑问？这样就是智能啦？希望你也看出差别了，AI和人脑并不是一回事，AI中的artificial注定它本身的定义和有机最强智慧的人脑并不相同。这点对AI功能理解非常重要，对AI各种宣传的critical thinking， 明白这些AI MCAT 考试比医学院学生好，AI下棋赢了9段高手，AI能达到智商145 的fact和AI功能的真正链接是什么。

先放一下图灵测试，来看一下程序员的修养

程序员的修养

常年在CS行业浸润，包括工作中evaluate新产品，形成我对产品宣传表像的免疫。我在adopt或者在公司内推广的new technology一定是在了解它的局限性之后，这样的adoption才安全。为了拿到局限性，利用公司的关系直接和系统的设计者交流的机会不少。知道局限性，就知道在何种criteria下可以安全使用。我在紫檀跟帖中曾经玩笑说过： 程序员的修养就是死code不死系统。 实际上，在CS任何一个工种，都需要考虑容错性fault tolerate，控制出错范围。 zero failure, zero trust security, zero here zero there 都是重要的design concept。而zero在这里都是趋向Zero的意思，以zero为目标实现靠近zero的境界。一个合格的程序，Error control的覆盖是必须的。一个合格的系统或者service，都要给出的多少个9的SLA，99.99% 就是4个9，基本的目标。

回头说程序员的修养，更合适的说法是死贫道不死道友, 死道友不死贫道。具体的说，如果本code调用别的code， 别的code出错不能弄死本code。 本code必须有全方位的error control handling， 如果本code出错，自己死不能拖死系统或者让调用本code的code来判断自己怎么死的，和如何死。

花了那么多时间讲 error handling， 这个和后面解释对AGI无限应用的担心有关。

上面这段的总结是啥呢？CS从业资深人员从上到下，都知道系统的不完美性，100%完美不存在。正因为知道系统的不完美，才会在容错上花大力气，力求控制，力求很多很多的9。

今天暂时到这。

下一篇，讲讲AI派别和大数据引入的possibility。