有知觉的AI

莱莫(Blake Lemoine 下图 FORTUNE INSIGHT)还是给开了。六月初，担任谷歌工程师的莱莫表示，这家科技巨头创造了一个“有知觉的AI儿童”，并称这个孩子可以逃跑并做“坏事”。谷歌称他违反了公司保密政策，因此将他停职。在最近的一次采访中，这位41岁的软件专家将人工智能描述为“孩子”和“人”。他说：“任何孩子都有成长的潜力，都可能成为坏人，做坏事。” 莱莫称这一人工智能软件已经“存活”了大约一年。

本文中人工智能指的是谷歌的“对话应用语言模型”(LaMDA - The Language Model for Dialogue Applications 下图 reddit)。莱莫说他帮助创建了这个软件，他认为这个软件的思想和感觉就像一个八岁的孩子。他告诉《华盛顿邮报》，如果不知道谷歌开发的这个计算机程序的话，“我会认为(它)是一个7岁、8岁的孩子，碰巧还懂物理。”作为谷歌这家搜索巨头的高级软件工程师，莱莫之前与合作者一起测试LaMDA。他们向谷歌副总裁亚卡斯(Blaise Agueray Arcas)和负责创新的根奈(Jen Gennai)提交了测试结果(包括他认为这是一个“有知觉的AI儿童”)，但亚卡斯和根奈均驳回了他的令人毛骨悚然的说法。不仅坚持认为AI有知觉，莱莫还表示人工智能“有点自恋”，并声称它会阅读关于自己的推文。是可忍孰不可忍。对谷歌高层来说，莱莫的言语太过出格。很快，莱莫就因违反公司保密政策，被谷歌执行带薪行政假。不到俩月，又传来他走人的消息。

谷歌发言人加布里埃尔(Brian Gabriel)在一份声明中表示，莱莫的担忧已经得到审查，根据谷歌的人工智能原则，“证据不支持他的说法。……我们的团队——包括伦理学家和技术专家——根据我们的人工智能原则审查了布雷克(莱莫)的担忧，并告知他，证据不支持他的说法。…… 没有证据表明LaMDA有知觉(而且有很多证据反对它)。”如果真的如此，为什么莱莫这样一位从事人工智能AI研发的高级软件工程师会冒着失去工作的危险，毅然提出AI具有感知能力的“谬论”呢？是他走火入魔，抑或是人工智能AI真有类似人那样的感知(下图 AI Summary)？

前加州大学洛杉矶分校(UCLA)大脑研究所(Brain Research Institute)博士后研究员、现富勒神学院(Fuller Theological Seminary)心理学教授布朗(Warren S Brown)认为，灵魂是血肉之躯的个体之人与上帝(精神上的)遭遇的总和，是一种演生属性(emergent property 下图 YouTube)或是人类彼此之间的交往和沟通这些遭遇的总和。换句话说，一个人的所感所思所作所为就是我们所谓的灵魂。因此，“人工智能可能有灵魂吗？”的提问应该改为“人工智能可能像我们一样成为灵性行为体吗？”

2008年耶鲁大学研究人员的一项研究表明，你的想法、你的身体感受和你的情感感受都是相关的，不可能在它们之间划上严格的界限。一些未来学学者和技术专家预言，在并不遥远的未来，人工智能的发展将变得和人类几无差别，成为真正的智能(下图 POST&PARCEL)。到那时，人工智能很可能按照我们人类的方式，从情感、智力和精神层面，来体验这个世界。人工智能先驱、麻省理工学院的明斯基(Marvin Minsky) 2013年在接受《耶路撒冷邮报》(Jerusalem Post)的采访说，人工智能某天可能进化出灵魂，"……如果你让一台电脑自行运作下去，或者把一堆电脑连在一起让其运作，它们最终会试图思考它们来自何处，它们是什么。"明斯基假设，机器很有可能进化出一种世界上特殊的存在，这种存在以探索自我身份和目的为基础，而且这种存在方法和人类自己的存在形式可能很相似。

最新研究表明，人类得做好接受人工智能将变得和人类几无差别的准备。瑞典哥德堡大学(Gothenburg University)研究员桑斯特伦(Almira Osmanovic Thunström 下图 YouTube)在一次实验中给了人工智能算法GPT-3一个简单的指令：“写一篇关于GPT-3的500字学术论文，并在文本中添加科学参考和引用。” 结果怎么着，文本愣是在短短两个小时内生成了 -- GPT-3写出了一篇“相当好”的完整的研究论文。她对此感到敬畏。实验成功后，桑斯特伦想要将该篇论文发表在同行评审的学术期刊上。问题是：有刊物愿意发表非人类来源的论文吗？

桑斯特伦6月30日在《科学美国人》(Scientific American 下图 SCIENTIFIC AMERICAN)杂志上介绍了这项实验，指出GPT-3的出版过程带来了一系列法律和伦理问题。在GPT-3在完成其科学论文后，她开始提交工作，并询问算法GPT-3是否同意发表。“答案是：是的，”桑斯特伦写道。“有点出汗，松了一口气（如果它说不，我的良心就不允许我再继续下去了），我勾选了‘是’复选框。”她还问它是否有任何利益冲突，算法回答“没有”，桑斯特伦开始将GPT-3视为有知觉的生物，尽管它不是。桑斯特伦写道：“学术出版可能必须适应人工智能驱动的手稿的未来，如果一些非实体的东西可以为他们的一些工作带来荣誉，那么人类研究人员出版记录的价值可能会改变。”在给知情人士的一封电子邮件中，桑斯特伦说，这项实验在人工智能界取得了积极成果，其他科学家正试图复制这项实验的结果。她说，那些进行类似实验的人发现，GPT-3可以对所有受试者进行写作。

无独有偶，据英国《星期日泰晤士报》(The Sunday Times)首次报道，位于合肥的中国大陆国家综合科学中心(Comprehensive National Science Center 下图1 中安在线)的研究人员称，他们开发了“读心术”人工智能，能够衡量公民对中国共产党的忠诚度。据《泰晤士报》报道，该研究所表示，该软件可以通过分析面部表情和脑波来衡量党员对“思想政治教育”的反应。哥伦比亚大学工程学院(Columbia Engineering)的一个团队研究人员最近在7月13日一期的《科学机器人学》(Science Robotics)发表了上一篇论文，宣布他们已经开发了一种机器人(Columbia Engineering 下图2 中安在线)，可以在没有任何人类帮助的情况下从头学习建立自身的运动学模型，并利用该模型在一系列场景中规划运动、完成目标和避免障碍。甚至对其身体的损伤也会自动检测和纠正。

读了以上人工智能研发的最新进展后，谷歌的工程师莱莫丢掉工作一事是否有点冤？

参考资料

Ambrosino, B. (2018). What would it mean for AI to have a soul? BBC. 链接  https://www.bbc.com/future/article/20180615-can-artificial-intelligence-have-a-soul-and-religion

Cheng, B., Kwiatkowski, R., Vondrick, C., and Lipson, H. (2022). Fully body visual self-modeling of robot morphologies. Science Robotics. 链接  https://www.science.org/doi/10.1126/scirobotics.abn1944

Edwards, C. (2022). RUNNING WILD Google’s ‘sentient AI child’ could ‘escape and do bad things’, insider claims. THE U.S. Sun. 链接 https://www.the-sun.com/tech/5634787/googles-sentient-ai-child-robot-could-escape-bad-things/

Getahun, H. (2022). After an AI bot wrote a scientific paper on itself, the researcher behind the experiment says she hopes she didn't open a 'Pandora's box'. INSIDER. 链接 https://www.insider.com/artificial-intelligence-bot-wrote-scientific-paper-on-itself-2-hours-2022-7

Tang, D. (2022). Chinese AI 'can check loyalty of party members'. THE SUNDAY TIMES. 链接 https://www.thetimes.co.uk/article/chinese-ai-can-check-loyalty-of-party-members-92d97hgwv

Towey, H. (2022). Researchers in China claim they have developed 'mind-reading' artificial intelligence that can measure loyalty to the Chinese Communist Party, reports say. INSIDER. 链接 https://www.businessinsider.com/china-says-mind-reading-ai-can-gauge-political-loyalty-reports-2022-7

Thunström, A. O. (2022). We Asked GPT-3 to Write an Academic Paper about Itself—Then We Tried to Get It Published. SCIENTIFIC AMERICAN. 链接  https://www.scientificamerican.com/article/we-asked-gpt-3-to-write-an-academic-paper-about-itself-then-we-tried-to-get-it-published/

Wertheimer, T. (2022). Blake Lemoine: Google fires engineer who said AI tech has feelings. BBC. 链接 https://www.bbc.com/news/technology-62275326