国华的世界

这是国华对读过的书, 看过的电视/电影, 听过的音乐, 访游过的地方, 经历过的事物, 和时事的感想或点评.
个人资料
正文

有知觉的AI

(2022-09-02 07:58:24) 下一个

莱莫(Blake Lemoine 下图 FORTUNE INSIGHT)还是给开了。六月初,担任谷歌工程师的莱莫表示,这家科技巨头创造了一个“有知觉的AI儿童”,并称这个孩子可以逃跑并做“坏事”。谷歌称他违反了公司保密政策,因此将他停职。在最近的一次采访中,这位41岁的软件专家将人工智能描述为“孩子”和“人”。他说:“任何孩子都有成长的潜力,都可能成为坏人,做坏事。” 莱莫称这一人工智能软件已经“存活”了大约一年。

本文中人工智能指的是谷歌的“对话应用语言模型”(LaMDA - The Language Model for Dialogue Applications 下图 reddit)。莱莫说他帮助创建了这个软件,他认为这个软件的思想和感觉就像一个八岁的孩子。他告诉《华盛顿邮报》,如果不知道谷歌开发的这个计算机程序的话,“我会认为(它)是一个7岁、8岁的孩子,碰巧还懂物理。”作为谷歌这家搜索巨头的高级软件工程师,莱莫之前与合作者一起测试LaMDA。他们向谷歌副总裁亚卡斯(Blaise Agueray Arcas)和负责创新的根奈(Jen Gennai)提交了测试结果(包括他认为这是一个“有知觉的AI儿童”),但亚卡斯和根奈均驳回了他的令人毛骨悚然的说法。不仅坚持认为AI有知觉,莱莫还表示人工智能“有点自恋”,并声称它会阅读关于自己的推文。是可忍孰不可忍。对谷歌高层来说,莱莫的言语太过出格。很快,莱莫就因违反公司保密政策,被谷歌执行带薪行政假。不到俩月,又传来他走人的消息。

谷歌发言人加布里埃尔(Brian Gabriel)在一份声明中表示,莱莫的担忧已经得到审查,根据谷歌的人工智能原则,“证据不支持他的说法。……我们的团队——包括伦理学家和技术专家——根据我们的人工智能原则审查了布雷克(莱莫)的担忧,并告知他,证据不支持他的说法。…… 没有证据表明LaMDA有知觉(而且有很多证据反对它)。”如果真的如此,为什么莱莫这样一位从事人工智能AI研发的高级软件工程师会冒着失去工作的危险,毅然提出AI具有感知能力的“谬论”呢?是他走火入魔,抑或是人工智能AI真有类似人那样的感知(下图 AI Summary)?

前加州大学洛杉矶分校(UCLA)大脑研究所(Brain Research Institute)博士后研究员、现富勒神学院(Fuller Theological Seminary)心理学教授布朗(Warren S Brown)认为,灵魂是血肉之躯的个体之人与上帝(精神上的)遭遇的总和,是一种演生属性(emergent property 下图 YouTube)或是人类彼此之间的交往和沟通这些遭遇的总和。换句话说,一个人的所感所思所作所为就是我们所谓的灵魂。因此,“人工智能可能有灵魂吗?”的提问应该改为“人工智能可能像我们一样成为灵性行为体吗?”

2008年耶鲁大学研究人员的一项研究表明,你的想法、你的身体感受和你的情感感受都是相关的,不可能在它们之间划上严格的界限。一些未来学学者和技术专家预言,在并不遥远的未来,人工智能的发展将变得和人类几无差别,成为真正的智能(下图 POST&PARCEL)。到那时,人工智能很可能按照我们人类的方式,从情感、智力和精神层面,来体验这个世界。人工智能先驱、麻省理工学院的明斯基(Marvin Minsky) 2013年在接受《耶路撒冷邮报》(Jerusalem Post)的采访说,人工智能某天可能进化出灵魂,"……如果你让一台电脑自行运作下去,或者把一堆电脑连在一起让其运作,它们最终会试图思考它们来自何处,它们是什么。"明斯基假设,机器很有可能进化出一种世界上特殊的存在,这种存在以探索自我身份和目的为基础,而且这种存在方法和人类自己的存在形式可能很相似。

最新研究表明,人类得做好接受人工智能将变得和人类几无差别的准备。瑞典哥德堡大学(Gothenburg University)研究员桑斯特伦(Almira Osmanovic Thunström 下图 YouTube)在一次实验中给了人工智能算法GPT-3一个简单的指令:“写一篇关于GPT-3的500字学术论文,并在文本中添加科学参考和引用。” 结果怎么着,文本愣是在短短两个小时内生成了 -- GPT-3写出了一篇“相当好”的完整的研究论文。她对此感到敬畏。实验成功后,桑斯特伦想要将该篇论文发表在同行评审的学术期刊上。问题是:有刊物愿意发表非人类来源的论文吗?

桑斯特伦6月30日在《科学美国人》(Scientific American 下图 SCIENTIFIC AMERICAN)杂志上介绍了这项实验,指出GPT-3的出版过程带来了一系列法律和伦理问题。在GPT-3在完成其科学论文后,她开始提交工作,并询问算法GPT-3是否同意发表。“答案是:是的,”桑斯特伦写道。“有点出汗,松了一口气(如果它说不,我的良心就不允许我再继续下去了),我勾选了‘是’复选框。”她还问它是否有任何利益冲突,算法回答“没有”,桑斯特伦开始将GPT-3视为有知觉的生物,尽管它不是。桑斯特伦写道:“学术出版可能必须适应人工智能驱动的手稿的未来,如果一些非实体的东西可以为他们的一些工作带来荣誉,那么人类研究人员出版记录的价值可能会改变。”在给知情人士的一封电子邮件中,桑斯特伦说,这项实验在人工智能界取得了积极成果,其他科学家正试图复制这项实验的结果。她说,那些进行类似实验的人发现,GPT-3可以对所有受试者进行写作。

无独有偶,据英国《星期日泰晤士报》(The Sunday Times)首次报道,位于合肥的中国大陆国家综合科学中心(Comprehensive National Science Center 下图1 中安在线)的研究人员称,他们开发了“读心术”人工智能,能够衡量公民对中国共产党的忠诚度。据《泰晤士报》报道,该研究所表示,该软件可以通过分析面部表情和脑波来衡量党员对“思想政治教育”的反应。哥伦比亚大学工程学院(Columbia Engineering)的一个团队研究人员最近在7月13日一期的《科学机器人学》(Science Robotics)发表了上一篇论文,宣布他们已经开发了一种机器人(Columbia Engineering 下图2 中安在线),可以在没有任何人类帮助的情况下从头学习建立自身的运动学模型,并利用该模型在一系列场景中规划运动、完成目标和避免障碍。甚至对其身体的损伤也会自动检测和纠正。

读了以上人工智能研发的最新进展后,谷歌的工程师莱莫丢掉工作一事是否有点冤?

参考资料

Ambrosino, B. (2018). What would it mean for AI to have a soul? BBC. 链接  https://www.bbc.com/future/article/20180615-can-artificial-intelligence-have-a-soul-and-religion

Cheng, B., Kwiatkowski, R., Vondrick, C., and Lipson, H. (2022). Fully body visual self-modeling of robot morphologies. Science Robotics. 链接  https://www.science.org/doi/10.1126/scirobotics.abn1944

Edwards, C. (2022). RUNNING WILD Google’s ‘sentient AI child’ could ‘escape and do bad things’, insider claims. THE U.S. Sun. 链接 https://www.the-sun.com/tech/5634787/googles-sentient-ai-child-robot-could-escape-bad-things/

Getahun, H. (2022). After an AI bot wrote a scientific paper on itself, the researcher behind the experiment says she hopes she didn't open a 'Pandora's box'. INSIDER. 链接 https://www.insider.com/artificial-intelligence-bot-wrote-scientific-paper-on-itself-2-hours-2022-7

Tang, D. (2022). Chinese AI 'can check loyalty of party members'. THE SUNDAY TIMES. 链接 https://www.thetimes.co.uk/article/chinese-ai-can-check-loyalty-of-party-members-92d97hgwv

Towey, H. (2022). Researchers in China claim they have developed 'mind-reading' artificial intelligence that can measure loyalty to the Chinese Communist Party, reports say. INSIDER. 链接 https://www.businessinsider.com/china-says-mind-reading-ai-can-gauge-political-loyalty-reports-2022-7

Thunström, A. O. (2022). We Asked GPT-3 to Write an Academic Paper about Itself—Then We Tried to Get It Published. SCIENTIFIC AMERICAN. 链接  https://www.scientificamerican.com/article/we-asked-gpt-3-to-write-an-academic-paper-about-itself-then-we-tried-to-get-it-published/

Wertheimer, T. (2022). Blake Lemoine: Google fires engineer who said AI tech has feelings. BBC. 链接 https://www.bbc.com/news/technology-62275326

[ 打印 ]
阅读 ()评论 (0)
评论
目前还没有任何评论
登录后才可评论.