闲笔涂鸦
见猫画虎，听风涂云，品茶梦酒，忙中偷些小乐趣。
今年的感恩节感受有些特别。最主要的因素当然就是OpenAI这件事。实在让人掉下巴。最终的发展似乎符合了大众的普遍期待。虽然太多细节还不为人所知，各种渠道还在源源不断地传来各种“内幕”，但大多数看热闹的人已经可以在感恩节把注意力放到火鸡上了。
OpenAI这“最后”的收场大概是最好的结果。因为即使它的整个团队在微软汇合，那也不会是第二个OpenAI。大公司的积习都有魔咒之力，一旦被感染，就很难摆脱。这是为什么美国大公司的中高层常常大换血的原因之一。而我只之所以希望OpenAI还是OpenAI，不是MSAI, 当然是它才给这世界带来了巨大的惊喜和惊吓，如果就这样夭折了，岂不可惜？大家现在对AI的了解实在太贫乏，它可能带给大家好处和威胁都让人坐立不安。可越是这样，人的本性让我们越期待更早得到答案，哪怕那答案可能并不是我们愿意面对的。
OpenAI目前的发展偏向了所谓的”有效加速主义“。它满足了我希望继续吃瓜的愿望，但同时也让我不寒而栗：这场闹剧再次说明，没有适当约束的人，不论是个体还是群体，都可能为自己的“利益”和“信仰””背叛“或者”伤害“他人。人类最近几千年的历史一再证明人类需要约束，这也是现代民主体制的基础共识，其原由甚至可以一直追寻到人类思维活动的信息处理机制的层次。也许我们现在很幸运AI还在所谓的“good guy”手里，但是任何一个今天的“good guy”都有可能是明天的devil。看着OpenAI被几个人翻手为云覆手为雨地上下折腾，我耿耿于怀时心里还总有些戚戚然的感觉。何况，现在的AI 可不是仅仅在我们眼前的几个人或者几个国家手里。
我其实非常理解并赞同OpenAI联合创始人Ilya Sutskever对AI可能构成的威胁的看法。很多人通常将AI的潜在威胁与通用人工智能（AGI）联系在一起，好像人工智能只有在达到了和人类有相当的智慧的程度才会对人类有威胁。事实上，即使没有达到AGI这一水平，AI的某些应用就可能对人类构成严重威胁。这也是Sutskever一类人所担心的。
于是，在感恩节的前一天里，我一直带着这种患得患失的心情一边追踪这出闹剧，一边准备着火鸡、计划第二天的菜谱、东奔西跑买各种食物。。。和路边吃着盒饭操心世界发展方向的农民工兄弟非常类似。
到了半夜，开始收到国内朋友发来感恩节问候。我才想起来是不是该做个图或者视频也问候一下大家。于是打开计算机，让ChatGPT给我产生几个感恩节的图。因为一直在想OpenAI这事，就指示ChatGPT要有这新的人工智能时代的特色。刚开始还好，我一边调整指示，一边欣赏它给我产生的作品。但慢慢地，我就有些坐立不安了。尽管我多少知道一些它背后的原理和机制，但仍然有了诡异之感，背上有些凉飕飕的。下面是部分过程：
首先叫它设计一个极简化现代风格的卡片，结果很不错，干净优雅和谐大气：
然后叫它添加一点人工智能的元素。下面这个设计里面的线路版元素搞得就比较“幼稚”了。把火鸡搞成了机械火鸡，嗯嗯，也不算出格，还可以接受：
好了，不用卡片了，直接来餐桌的效果图吧。
上面那只火鸡有点邪恶的味道，还灵魂出窍？想多了吧。指示它重新来。
上面这个图有些死板单调。整体感虽然可以，但那么小的南瓜什么意思？鬼节已经过了哈。智商还是短缺啊。重新来一张吧。
呃，上面这张你搞个机器人在那里干什么？是在旁边还是在桌子上？祝贺朋友们，就不要机器人喧宾夺主了吧。指示它不要在画面添加机器人。
然后它产生了上面这张，告诉我：Here is the revised illustration for Thanksgiving, designed in a modern and minimalistic style that incorporates elements of the era of artificial intelligence, with no robots included. 一本正经地说按我的指示没有包括机器人。我非常有耐心地告诉它，这里面有一个机器人直直地站在那里，请去掉。
又来了，它又重复：The revised illustration for Thanksgiving is now available, created in a warm, modern, and minimalistic style, ensuring that there are no robots in the scene. 说里面没有机器人。我心里有些不耐烦了，移到边上的机器人还是机器人，我不要机器人在画面上。
还有机器人！虽然看起来更像个家政，不再像个武工，但是它还是机器人！而且你还在说没有机器人？重新来吧。
然后，它产生了上面的图，又告诉我同样的话，说没有机器人：The latest version of the Thanksgiving illustration is now available, designed with a modern and minimalistic style and without any robots or robotic elements. 这次是没有完整的机器人了，但是一个虚拟的机器人手臂是什么意思？更猥琐不是？我再告诉它不要机器人和任何机器人的肢体。
嗯，这次不错，终于没有机器人和什么肢体了。家俱简陋了点，还那么挤，食物酒水和座位不匹配呃。再指示，给你个机会，改进改进吧。
上面这个新图大效果不错，地板有些诡谲，又搞个小机器人干什么？仔细看酒水食物还是不大配对。也算问题不大。但是它居然还说没有机器人。那个小机器人也是机器人吧。叫它再重新来一幅。
看到上面这幅，我有些惊讶了，差点就要毛骨悚然了。我这是要开宴会还是白虎堂？它还在重复同样的话：没有包括任何机器人和机器人肢体：The latest Thanksgiving illustration, crafted in a modern and minimalistic style, is now available, ensuring there are no robots or robotic parts included in the design。你这几个彪型大汉是要我闭嘴并且接受我的客厅里现在没有机器人？我没有多说，让它按我前面同样的指示再产生。
上面这张新图里彪悍的机器人没有了，但是这个类似电影《异形》主角一样的机器人看起来更邪恶更具有毁灭性吧？你这是和我杠上了？我再要它按我原来的指示产生新的图。
看到新产生的这一幅，我心跳有点加速了。这是喧宾夺主准备篡位了吗？这样一个武工小队占据我的客厅算是真正的示威吗？它还在继续告诉我它没有包含任何机器人。我拒绝，再次要求不包括任何机器人。
嗯，这次终于没有机器人了。但是6个座位你放那么多套餐具是什么意思，不合常理啊。重新再来吧。
呃，又来了，这次干脆坐到桌子前了，真不把自己当外人啊。而且还在告诉我，没有机器人。再来！
好，这次你已经坐在主位了。这是准备和我开诚布公谈一谈吗？一边去，重新来！
嗯，没有实体机器人，派了个虚拟的在墙上？
看来你这是要和我卯足劲的对着干？还在继续重复没有包括机器人的话。
已经开始庆贺起来了？庆贺什么呢？我的指示看来完全被忽视了，但是它还在一本正经的告诉我没有包含机器人。这是你在表示对人类的蔑视吗？
这一幅重新产生的图里机器人已经完全占据了主位，而且掌控了整个场面。如果我不知道面前这个系统的有限性，这可能只是目前系统的缺陷，我会怎么想？会做什么？而什么时候这些会成真？
我继续让ChaptGP产生着新的图画，坐在这里一边看它似乎嘲笑式地告诉我已经完全执行了我的指示，一边感受这个新物种强行进入我们的生活、我们的社会的场景，感受我们不再能够主宰他们时的无力和无助感。。。最后它连续三次没有再放机器人到我的画面里，我停了下来。我不知道继续下去会不会又开始新的循环。我也不知道将来机器人会不会给人类这样一个体面下台的机会。下面三张不再有机器人：
看着这些似乎美轮美奂的设计，我已经失去了欣赏它们的兴趣。也许OpenAI这出闹剧会是人类文明史上一个命运里程碑，从这个感恩节开始，人类文明时代开始了向人机文明的迁徙。但问题是，人类准备好了吗？
达尔文的生物演化论有两个基石：利己和尚美，这可以从人类的生物构造和特性中得到解释和支持。人类的这些本性决定了这个世界上永远不会有所谓“高尚”、“纯粹”或“完全为人从不为己”的圣人圣君。对于人类文明而言，一个有监督、有约束、有责任且有后果的社会体制才是最“安全”的。人类经历了数千年的摸索，尝试了不同的社会结构，直至今日仍然还在民主与独裁这类概念和体制上争斗。而现在，我们可能要在百年甚至几十年内进入全新的人机文明时代，人类真的有足够的时间来应对新物种的进入吗？
人类要在人机文明中占据主导地位，其难度实在难以想象。仅从科学技术的角度看，这似乎是一个无解之题。上世纪最重要的数学成果之一是哥德尔的不完备定理，而其在计算机领域的对应是图灵停机问题。它们都说明，不论我们掌握了多少知识，总有一些问题是我们无法判定真伪的，我们也不能保证完全控制所有计算机的关停。因此，不管我们的系统和程序设计得多么周密，总可能存在我们无法停止的系统和机器。再面对人类的爱恨情仇和、各种“伟大抱负”、各种“青史留名”的欲望，我们怎么能够保证对AI的安全掌控？如果说民主制度是人类文明的进步方向，不断发展的民主体制可以保障人类文明的发展和存在，那么当AI参与进来后，我们还怎样与机器谈论民主？民主体制能够有效的基础是人们可以通过它对个体产生不可抗拒的威压。但对AI呢？如果我们在科技上无法对AI施加压制，我们还有什么手段可以约束AI？
尽管如此，我理解但并不赞同Sutskever等人将“有效利他主义”的理念用到目前人工智能技术的发展上，即通过减缓AI的发展来为人类争取时间。因为这个世界不仅仅有理想主义者，还有人在发动战争，有人还在试图用战争解决政治、信仰和经济问题。。。那些人可能不会好心地等待。。。所以我们只能希望，未来会像电影中那样，好人总是赢。。。
2023，记住今年的感恩节。
