每次和朋友聚餐,比食物更精彩的是桌上的谈话。
玛丽娜问起我:最近有没有和AI好好相处?你的乳酪被它搬走了没?
她接着提起公司最近的大震动。她在某大药厂工作了一辈子。一年多前钦定的接班人,全世界绕一圈考察之后,大刀阔斧提出了新计划,第二层管理阶级尽数被淘汰。与玛丽娜同一层级的技术人员,必须自我管理,提出预算与计划。
我问玛丽娜,新老板的计划是谁帮忙做的?
是一个大家耳熟能详的顾问公司。
我点点头,只怕也少不了AI的推波助澜。
前几天我的同事,不满意产品经理提出的要求,硬气的回应:我更同意AI提出的分析与反馈。
气得经理当场结束会议。
同事说的也没错,AI能依数据提出更精准的建议与回馈,产品经理人或设计人的市场评估与产品设计能力,受到极大的挑战。
我同玛丽娜说,我大概能理解这个计划背后的因素。当一个打工人能提供的价值,可以被更低成本取代时,留你何用?
AI不是精灵也不是魔术,是数学,是逻辑分析的能力。但是目前的模型,也被训练成了讨好型人格,总是高高兴兴地说:是的主人。
老麦夫妻都是著作等身的法学教授。老麦最近在写的研究报告,需要类似的案例或阐述来佐证。 AI尽责地给出了两个范例,老麦觉得与他的理论相通,可以采用。继续问AI:这些论点的出处是哪里?
AI又一本正经的给了出处。
老麦用另外一个模型查证,却查不到来源。
于是他回到原来的模型,问:我找不到来源,是不是你编的?
AI又毫不愧疚的承认:是我编的。
我们交代给AI的事情,是必须经过交互验证,并反覆诘问的。
AI的确很厉害,它会瞎编乱造。
最近常被提起的一个有名案例,是纽约的一位资深律师,因为在法庭上采用AI提供的假案例,而受到处罚。
老麦太太不由有些感慨,曾经发生过的案例千千万万,以一个凡人之力,即使是有数十年经验的律师,也不可能每一个案例都看过,即使看过也不见得能记得。当他们桌上的案例堆积如山时,他们不可能有时间一个个去查证。
我深有同感,当一个人有业绩压力时,如何判断取舍AI提供的资料,成了职场必备的能力。在一个业界技术会议上,我感受到满场对AI高度期许的能量时,对主讲人提出一个问题:人的脑力速度已经追不上晶片的算力,却必须对AI提出的许多执行方案画押负责。 AI不受法律约束,受到惩罚的是人。我们该怎么办?
没人知道答案。
AI的崛起,不只是业界的豪赌,也是一种新的社会秩序在成型,是技术在前面跑,人力在后面追。我们需要的不只是技术,更需要法律规范,有框架,有制度,才能稳固超速往前的社会的安定力量。
赞菲儿卓见!
如果有一天,我们把生物版的“智能”分析完了,会不会发现,我们只是另一种高能的制造品。hmmmm.
“你会不会觉得AI有时候非常固执己见,我发现我跟AI吵架的时间越来越多。" -- 哈哈,不能更同意了。但我也很固执,上星期,我两天啥也没干,光和AI 战斗了,精疲力尽,总算train好了一个model,但鬼知道这个model哪天又发疯,totally unpredictable 啊,我也要疯了。。。
几十年来和家医相处得不错,还是没办法把自己交给一个机器人,也无法想象如何和机器人建立信任。
这是好几年以来,我用网上搜索引擎查询资料,最困惑的一点,来源不同,但是内容大同小异,分不清谁抄谁,更难变真假了。现在AI把水搅的更浑了。
现在有了手术机器人,我问AI,外科医生还需要吗?人家回答说:手术机器人只是用来减轻外科医生的负担的,而不是替代外科医生。因为医生的职责远超一个动刀那么简单,何况动刀的时候机器人也可能出现意外,外科医生得立刻接管手术。
這些都在文學城品茶小軒發過:有的現在實現了,有的還沒有,有興趣可以參見https://daohuanblog.wordpress.com/2023/06/08/。