碼農學寫字
到处看看，一起聊聊
AI，美丽新世界？养虎为患？
有一个有意思的广播节目，Freakonomics Radio，是2005年出版的畅销书Freakonomics的产物。不论是书或Podcast都引人入胜。不久前有一个分成三部分的系列谈AI，从AI能不能说笑话，会不会抢了你的工作，直谈到AI改变的世界里有没有你的一席之地。范围很广，但也都只是高空鸟瞰的角度而已。
其中最让我惊奇的是，他们谈到了如何训练AI，训练比建立LLM（Large Language Model）更费劲，当然不是说建立LLM有多容易，毕竟花了上亿美元，但那也只能算是一个昂贵的仓库，储存了几乎所有当今世界已知的各种形式的知识，除了文字档也包括了语音和影像。
有了这样庞大的知识库，机器仍然只是机器，毕竟知识不代表智能，It knows everything but understans nothing。他们从最简单的文法输入开始教AI造句，AI吐出来的都是毫无意义的句子，就像天才语言学家Noam Chomsky为了解释语法(Syntax)和语意(Semantics)所创造的名句：Colorless green ideas sleep furiously，文法完美无缺，但是完全不知所云。
然后他们玩猜字游戏教AI文字的关联性，比如给一个指令：「这一段文章第一段的第一个字是什么？」下一个指令：「猜猜第二个字是什么？」。这样的成果我们早已开始享受了，我使用拼音输入法在苹果手机上按下这几个字母myjsy，第一个选项就是「明月几时有」，当我选了「明月几时有」，立即出现的下一个选项就是「把酒问青天」。
尽管如此，ChatGPT 3.0之前的版本，吐出来的句子仍然是非常的粗鲁无礼，甚至包括各种歧视字眼。该怎么教导机器学习礼仪？其实和教小孩也别无两样，两者都必须有规范。他们用联合国的人权宣言，苹果的服务宗旨等为范本写了五大张的AI「礼仪规范」，开始教导AI什么样的语言违反规范，什么样的语言是可以被接受的。
说到这就不得不提最近的一种新行业叫做Prompt Engineer，他们的工作就是和AI互动，比较知名的有Ana Bernstein，她写了不少诀窍怎么让ChatGPT提供更接近理想的答案，重点是必须提供完善的背景/情境（Context）描述。 Prompt Engineer，虽然也是工程师，和传统工程师的背景却大相径庭，他们具备更灵活的创意与人文素养。
理工学院训练出来的，多半都是一群被规格限制住，讲死理做苦工的人，比如码农。有高功能自闭症的Temple Grandin 博士也嘲笑过矽谷隐藏了许多自闭者。我特别同意，我就是不善跟人交往，才选择和电脑朝夕相处。那知，AI竟然让我也不知道如何跟机器打交道了。
为什么能不能说笑话是一个里程碑？ Dr. Jane Goodall强调黑猩猩和人类非常像，它们会彼此搔痒玩闹，黑猩猩也会怕痒大笑。关于笑闹的相似度，也仅止于此，它们是绝不会说笑话让其它黑猩猩哈哈大笑的。写笑话虽然有一定的公式可循，但是也像文法一样，不是在正确的地方代入正确的文字就可以组成一句有意义的话。
Dr. V. S.Ramachandran 在 《The Tell-Tale Brain》书中进一步解释笑话的深层意义。他说笑话里的主角有各式各样的倒楣，但必须是无关紧要，不伤害人的倒楣，否则就不是笑话而是悲剧了。这就牵扯到什么是区别人与非常人的要素。一般人看见别人踩到香蕉皮滑倒了，也许会毫无顾忌地爆笑。万一那个滑倒的人撞得头破血流，除了毫无同情心的非常人，谁还能笑得出来？
AI能不能有这样的识别能力？
想起我最喜欢的StarTrek：The Next Generation里一个我很喜欢的角色，Data，一个拥有庞大知识库和非凡判断力的机器人，一步步慢慢学习让自己拥有人性。幸运的是，环绕他的都是「好人」。
Data毕竟是杜撰的人物，我不知道人类将来有没有能力创造出一个和他一样的实体。但是我相信，如果不对AI的发展有明确的严格规范，那会是一个让人担忧的未知。
我觉得多虑了。：）真的AI跟你几番交流下来，很快知道你是不善言谈，只会在代码里玩恶作剧，恶趣味的码农类型的人，接下来的交流AI大概率会投你所好，让你如同碰到知己一般滔滔不绝，言无不尽，说的笑话都是码农圈里的冷笑话。这应该是AI基本能力，不然，就该归类为另一种AI（Artificial Idiot）了。
至于本文提到的靠prompt的AI，我觉得依然是比较初级的AI机器，更像一个容量巨大的数据库输出工具，它可以在好规范里训练出好的结果，也可以被坏人训练出坏的输出，但是看起来目前应该还没有AI自身的想象力，超越人类做出比人类本身能做出的更大的恶，因而用法律来做这个规范，我想当前还是可行的。
不求理解，只求能记住。 这样的学生考个重点大学应该没有问题。
人工智能取决于其如何开发、部署和监管， 这些会决定AI是否对人类构成威胁。如何正确使用人工智能这个工具，非常重要。
赞码农又一篇让人思考的好文！
有时候我觉得人类会不会就是高等智慧创造的“AI”，然后在地球上做实验。等到自己收不了场了，那种智慧大佬就会来干预。他们如果看见人类对AI的热情和笨拙的发展，不知是何感受？
谢谢你分享的好书和podcast。周末愉快！