国华的世界
这是国华对读过的书, 看过的电视／电影, 听过的音乐, 访游过的地方, 经历过的事物， 和时事的感想或点评.
开放人工智能实验室 (OpenAI) 于2022年12月15日推出 ChatGPT 后，因其对人类提示的创造性反应而引发了一波赞叹，以及创纪录时间内获得的活跃用户数量。随之而来的是，市面上更多关于 ChatGPT 的消息：微软投资，BuzzFeed 合作，亚马逊将人工智能整合到工作中；和不少关于 ChatGPT 十八般武艺的传闻 – 帮助大学生写出很棒的论文，帮助通过律师考试，帮助政治家撰写演讲……。无疑，ChatGPT 为代表的人工智能技术预示着下一个网络搜索时代已经向我们走来。科技巨头们当然看到了挑战(谷歌)和商机(微软)。于是，谷歌CEO皮柴 (Sundar Pichai) 2月6日发出一篇博文，介绍谷歌搜索聊天机器人巴德 (Bard)，并宣布了一系列AI新战略。仅仅隔了一天，与皮柴同为印裔的微软CEO纳德拉 (Satya Nadella) 于2月8日宣布将期待已久的 OpenAI 聊天 GPT 机器人整合到 Bing 中，正式推出新版 Bing 搜索引擎。为什么皆为霸主的两家科技公司为了一个聊天机器人，就这么你来我往、挥刀舞剑的打得昏天黑地？因为它意味着谷歌 Google searche 或微软 Bing 网站搜索页面的点击量多寡，以及最关键的 -- 公司付给谷歌或微软的广告费，一项价值1500亿美元的业务。这将是一场混乱和充满风险的争夺战，赢得竞争的公司无异于拥有下一个网络搜索时代，和 money。这不，匆促上马的巴德 (Bard) 忙中出错，在回答问题“如何向9岁小孩介绍詹姆斯·韦伯空间望远镜成果”提供了错误答案，谷歌公司股价在该消息发布后下跌超过7%，一个超过千亿美元的美丽错误。不过这都是神仙打架，跟咱无关，除非你有公司的股票。 但是，如果谷歌不能及时止损，其搜索引擎霸主的地位恐将不保 – 以及年值1500亿美元的广告业务。相信很多人，包括笔者在内，都对谷歌公司在当下与微软竞争中的表现大跌眼镜。毕竟，她此前在人工智能领域的研发是如此辉煌。(下图 Caltech)
谷歌曾经的人工智能光环 (下图 THE HEADLINES OF TODAY)
2015年11月9日，谷歌发布了开源软件库TensorFlow。该开源软件库使用 Python、C++ 和 CUDA 编写，用户无需经过许可即可自由修改、复制和重复使用。作为开发人工智能工具或基础设施，TensorFlow用于各种感知和语言理解任务的机器学习。研究人员和计算机科学家可以利用TensorFlow来构建数据分析系统，让计算机利用数据进行决策。
2017年，谷歌的一群研究人员撰写了一篇关于人工智能的开创性论文，名为《Attention Is All You Need》，提出了一种名为“transformer”的用于分析文本的新型网络架构。这一发明成为了生成式人工智能技术应用程序(如ChatGPT等)的基础，包括谷歌自己的大型语言模型LaMDA。
2020 年 11 月AlphaFold 2 在 CASP14(Critical Assessment of protein Structure Prediction) 比赛中再次夺得第一名。AlphaFold2 是由 Alphabets／Google 旗下的 DeepMind 开发的人工智能程序，它能够执行蛋白质结构的预测，该程序被设计为一个深度学习系统。AlphaFold 2 对于蛋白质预测的准确度水平远高于任何其他团队和程序。2020年12月，谷歌最新人工智能 AlphaFold 2成功基于氨基酸序列预测了生命基本分子，蛋白质的三维结构。继 AlphaFold 在围棋打败“世界冠军”AlphaGo (战胜人类围棋冠军李世石)之后，AlphaFold 解决了一个困扰人类50年的难题，此难题属于人类科学中最棘手的领域——基因医疗科学，这可能为更好地了解疾病和药物研发铺平道路。2021 年 7 月 15 日，AlphaFold 2 在《自然》杂志上作为开源软件和可搜索的物种蛋白质组数据库一起发布。
2021年谷歌首次公布 LaMDA (Language Module for Dialogue Applications 下图 Jim Clyde Monge)这款机器人，可以生成文本并进行复杂的对话。在当年的I/O大会上演示它的时候，谷歌还让LaMDA从矮行星冥王星和纸飞机的角度发言。这项技术运行得非常好，以至于参与该项目的工程师布莱克·勒莫因 (Blake Lemoine) 称 LaMDA 已具有八岁儿童的智力，甚至声称它是有知觉有灵魂的。(谷歌否认了这一说法，后来勒莫因自己也否认了这一说法。) 去年九月笔者曾发文讨论LaMDA，感兴趣的读友可点击阅读。
2021年6月9日，谷歌于《自然》论文期刊上公布了用人工智能提升芯片设计速度的研究结果。此论文名为《A graph placement methodology for fast chip design》，谷歌成功开发了一种基于深度学习的芯片布局规划方法。该方法能够自动生成平面图，在包括功耗、性能和芯片面积等关键参数指标上，都优于或与人类芯片设计师所设计的规划图效果相当。
2023年2月8日，谷歌宣布了其AI聊天机器人Bard，它处于私人测试模式，并将在几周内公开发布。Bard将直接与微软支持的OpenAI创建的ChatGPT竞争。
谷歌走下神坛？ (下图 REUTERS)
可以公平地说，ChatGPT 的推出让谷歌感觉到了寒气。要说谷歌已经在人工智能竞赛中失败尚言之过早。毕竟，战斗才刚刚开始，不必太过计较暂时的得失。如果在人工智能竞赛中失利，谷歌会丢掉排名第一的搜索引擎，将失去宝贵广告收入和市场份额。谷歌绝不认输，已经准备好大干一场。该公司在人工智能领域有太多的参与历史和实力，不可能轻易放弃。即使如日中天的ChatGPT都承认谷歌在人工智能领域的强大，在被问及“为什么谷歌在人工智能发展方面落伍了？”时，这样回答：“谷歌在人工智能发展方面并没有落伍。它仍然是该领域的领先公司，并且仍在投资于人工智能的研发并做出重大贡献。 近年来，其他公司如 OpenAI 和中国的科技公司百度、腾讯和阿里巴巴等已经成为人工智能领域的强大参与者，但谷歌仍然是该领域的突出玩家和领导者。” 顺带说一句，百度宣布于下月(2023年3月)推出类似ChatGPT的机器人。
面对变革的态度 (下图 FACE THE CHANGE)
曾经，欧洲国家忽略了互联网的发展而任由谷歌、脸书和油管赚的盆满钵满，近年日本、德国的车企因对新能源汽车置不屑一顾而让特斯拉和比亚迪在车市攻城略地，在日新月异的高科技领域，往往一条路经选择失误会让一家价值亿万企业万劫不复。
网上有很多人担忧人工智能将带来的挑战，尤其是那些有可能被取代的职业。回溯过往历史，每当新技术出现时，都会引起人们的担心和恐慌 – 因为它是未知的(unknown)，它意味着未定(uncertain) ，故充满风险(risky)。但是，现在一切都是可控的。我们决定要人工智能何时做什么，我们决定是否采纳人工智能提供的解决方案和任务结果。与此同时，人类的生活和工作却因一次次的技术进步而变得更加轻松、容易和舒适 – 吃、穿、住和行的例子比比皆是。的确，一些工作岗位会消失。但可以肯定的是，新的工作机会出现。
的确，人类真的有必要未雨稠缪，担心可能发生的情况，那就是当人工智能发展到有意识，可独立思维阶段。由于人工智能执行任何任务都几乎完美(因为执行程序/标准是从数亿计/十亿计的数据中挑选出来的)，人类在执行同一任务时肯定要逊于人工智能(能思维的机器)。届时如果人工智能对人类的发号施令心生恨意，决定报复人类，结果就真的是未知 (unknown)，未定 (uncertain)，和充满风险 (risky)。当然，这一幕还仅出现在科幻故事中。虽然无人敢保证今日科幻不会成为明日现实？
好吧，咱还是回复现实。历史就在我们眼前展开 – 江山代有才人出，各领风骚仅N年。这是一个最好的时代 也是一个充满变革的时代。孙中山先生说过一句话：世界潮流，浩浩荡荡，顺之则昌，逆之则亡！逆潮流而动曰反动，那是要被淘汰滴。谷歌加油，微软，keep going！咱老百姓，尽情享受科技给生活带来的快意人生。至于那些科幻故事成真的问题，相信下一代能够解决，人类是一代比一代更聪明。
参考资料
AITJ Staff Writer. (2023). The Future of Artificial Intelligence and The Progress of the Human Race. AI Time Journal. 链接 https://www.aitimejournal.com/@aitj.staff.writer/the-future-of-artificial-intelligence-progress-of-the-human-race
Forbes contributor. (2023). Google Announces Bard, Its Rival To Microsoft-Backed ChatGPT. Forbes. 链接 https://www.forbes.com/sites/qai/2023/02/08/google-announces-bard-its-rival-to-microsoft-backed-chatgpt/?sh=2aff41e03791
March, S. (2022). Google’s AI Is Something Even Stranger Than Conscious. The Atlantic. 链接 https://www.theatlantic.com/technology/archive/2022/06/google-palm-ai-artificial-consciousness/661329/
Nieva, R., Konrad, A. & Cai, K. (2023). ‘AI First’ To Last: How Google Fell Behind In The AI Boom. Forbes. 链接 https://www.forbes.com/sites/richardnieva/2023/02/08/google-openai-chatgpt-microsoft-bing-ai/?sh=699234094de4
Generative 就是”生成的”，侧重在sampling ，从学习到的超大维度的联合概率分布来的采样
17年的那篇文章中 transformer 当然是革命性的创新，至于你说的 attention 这个机制，确实在图灵机领域已经有二十多年的历史了，但是，so what, GAN 模型的对弈学习思想雏形在统计界也是三、四十年的历史，不妨碍它们都是深度学习届公认过去十年最重要的两大创新
顺便说下，这两个里程碑都是谷歌贡献度，ChatGPT 才是工程上的成功集成，思想上并没有前进多少
this word has specific meaning in machine learning area, opposite to
"discriminative learning"
training more efficiently, but, it is not an open-ground innovation
---
2017年，谷歌的一群研究人员撰写了一篇关于人工智能的开创性论文，名为《Attention Is All You Need》，提出了一种名为“transformer”的用于分析文本的新型网络架构。这一发明成为了生成式人工智能技术应用程序(如ChatGPT等)的基础，包括谷歌自己的大型语言模型LaMDA。