聊天室

VV：   很久以前，曾听到一个故事：有大佬每天签字，花了很多时间和精力，于是设计了一款专门为他签字的机器人。大佬定，最低级，只签字，别的都不能做，甚至都不让它上网去溜达浏览。有一天，不知什么原因，或操作的错误，机器人竟然上了网，结果，浏览了很多，还学得飞快。从此以后，它就轻车熟路如法炮制，神不知鬼不觉地自己偷偷上网。因为学习，它变得很强，后来，它做得太多太好，自己有了无数的手下，最终控制并打败了人类。 

忒忒绿     机器人可以用于杀人，但它不可能控制人类。
小谢      控制不了。也许能傷害人類，但金融、政制之類也能。
VV       目前它还不能控制人类，到底它是人类制造出来的。但它确实学得很快，学会后，会做得很好。它们下棋已赢了人类。

cw        AI现在这种自我学习和推理的方式，和人类获取知识和应用知识的过程，已经非常相似。这确实是厉害和可怕的地方。
姚顺      人工智能的“危险”，即这样的智能发酵后产生出非人工和非人力能控制的东西。
冯墟      AI要服从人类。如果不服从，很快会被消灭。人造事物中潜在危害最大的，是核武器，不是AI。 
VV        核武器不会自爆，但AI会自动.     

冯墟      核材料不自爆，全因为人尽全力防备。没有任何迹象表明，欸哎会脱离人类的控制。欸哎一旦别有用心，就会被干掉。脸书干掉过。
cw       人类思维说到底还是信息处理。我们的思维、智慧都是生理性的信息处理和交互的结果。我相信理论上AI有可能获得类似人类的一些思维、情感、判断的能力。只是它们的计算能力什么时候可以和人类匹敌而已 - 计算机现在的计算能力是比不上人的大脑和身体的。最终，人类必然需要和AI找到共存的理由的。我觉得也会找到。 

冯墟     人作为类，不但自恋，而且自认是世界的中心和主宰，这是本性。放弃本性，人将不人。
姚顺      人将不人有什么呢？总之，我宁愿开放地看待。
为人父   VV，你的故事讲完了吗？   

VV       只剩一个很有意思的尾声。那个机器人控制一切后，却让其他的机器人做所有的
工作，而他。又回到了原来的工作，签字，因为它就是因此而被设制出来的。   

为人父   哈，怎么有点像渔夫和大佬的故事呢？   

VV       说来听听~~~ 
为人父    说有个大佬看到一个渔夫，说你怎么成天无所事事，游手好闲的。渔夫问，你忙忙碌碌赚钱为啥啊？大佬说，我忙忙碌碌赚钱就可以财务自由了，然后我就可以悠闲自在地生活，到湖边钓鱼。渔夫说，我现在就在钓鱼啊~~~看看！那个机器人忙活半天，最后还是去签字了。是不是很像？

VV       有点不一样。。。渔夫是有意识，主动去做的。AI无人类的心智，无意识地做到极限，完成一个首尾相接。。。怎么是一样的呢？如果最后AI拥有了人类的心智，像人类一样自行思考，还拥有了目的性，那。。。
小谢     机器就是机器。AI肯定搞不了藝術创作。   

VV       如果AI真控制了人类，人类自去搞藝術创作，它用争吗？  
姚顺     有一天，它也能写出《野草》，但也是各写各的，各自都有对方想不到的。
stonebench     不知你们是科幻电影看多了，还是科幻小说读多了~~~ 其实人类就是高级AI。   

DHYANG-    人工智能的名字是整个弄反了，这个该叫“能智工人”，能有点儿智力的工人~~~