人工大脑之父放言:50年后机器人威胁人类(请热爱AI的同学们关注本帖的后续精彩讨论)

ubuntuhk

强帖留名

我正在搭建一个小Linux集群，看看能不能搞点人工大脑DNA出来

青山

度过这个大关，要看人类如何看待这个问题。如果简单的把人工智能体当作其他种族，甚至像某些人说的那样，希望永远把他们当作奴隶来驱使，我估计就很难能够平稳过渡了。如果人类的爱心可以超越狭义的物种的限制，把新的，拥有更高智能的存在当作自己的后代和未来，也许可以平稳过渡，让他们继承人类的文明和历史。

另外还有就是一些很大的不确定性，比如人工智能的发展速度，早期人工智能的故障，人类是不是会在人工智能不成熟的阶段，过早地用于军事和暴力，这都不好说。总的来说，这个过程恐怕不会是很顺利的。不要说人工智能替代人类，同样是人类之间，特权阶层不仍然为了自己那点既得利益，而不顾越来越大的火药桶？

原帖由 stellahie 于 30-6-2009 19:02 发表

                               
登录/注册后可看大图

我不反对扩张与进步，只是要看这个权力放在谁的手里，谁来主导这个步伐。

就好像你所说的，有很多不确定性。但是这条路总归还是要走下去的。

来说说你所谓的“度过这个大关”，到底要有什么条件？

刘叔

嘿嘿，既然牵涉到那个了，不说觉得心痒痒。各位看官请带好眼镜入场，禁止交头接耳，看不明白自己回家想去。

话说有个人得了癌症，身上癌细胞扩散。

化疗也没用，因为这个癌细胞非常厉害，与一般的癌细胞大不一样。

为啥不一样呢？一般的癌细胞，也就是由正常细胞变异、靠自身分裂增长而来，它们与正常的细胞争夺养分，而且面临被白细胞攻击的危险。

可是这个人身上的癌细胞，不仅控制着白细胞，还完全控制了养分的分配。正常细胞组成的身体，通过进食消化吸收得来的养分，首先得由这群癌细胞来决定如何分配。看你顺眼，就多给你点；用得上你了，就给你加点。怎么，你不服？大团的白细胞就围上来直接把你给干掉。白细胞说你是变异细胞，你都没地儿申冤去。

癌细胞聪明着呢，各个器官、组织都有它们的点，明的暗的都有。一是通风报信，二是发展更多的癌细胞。正常细胞呢，只要你通过一个仪式表示愿意成为癌细胞，就算入伙了，当然也会有一段时间的考察期。

癌细胞与正常细胞的本质区别，那就是它不从事生产活动，所有的需求都是来自于掠夺。它们疯狂的掠夺和占有，越是资历深的癌细胞就能占得越多。

癌细胞与正常细胞也会有冲突和矛盾，有时候还搞得挺大的。毕竟癌细胞只是少数，还指望着正常细胞的工作来获得养分呢。这种情况下癌细胞就会一边出动白细胞，一边拿出养分，把冲突和矛盾化解掉。对于引起事件的那一小撮过火的癌细胞，当然能保护还是要保护的，谁叫大家都是一伙的呢。最多闹得不可调和的时候，选出几个作为替死鬼，处理一下以平息事态。

当然癌细胞们也懂得扩张，它们明白这个宿主已经越来越不行了。现在神经网络这么发达，细胞间发个电信号，光一般的速度就到了。万一那天正常细胞们集体罢工，它们就没得玩。所以资深一点的细胞都带上多年积蓄的养分，扩展疆土，到其它宿主身上去了。到了那边就不能太嚣张了，它们都装成普通细胞的样子，一边低调的过日子，一边回忆以前要淋巴细胞提供特殊服务的事，回忆着从前坐着红细胞在血管里飚车的事.........

你说，这个人癌症已经晚期了，他还有救么？

刘叔

版主你别删啊，咱只不过在软件技术的版块里面扯了一点生物医学的东西。

癌细胞就是比喻人类；那个癌症患者呢，就是比喻咱们的地球；正常细胞，就是比喻身边为我们服务的动物、植物、空气、水什么的。

呵呵

[ 本帖最后由 liuhuey 于 30-6-2009 18:02 编辑 ]

刘叔

癌细胞也是人类的一部分，不是么？

人类的本性，在癌细胞身上体现的淋漓尽致。所以我在前面的帖子里说，人类必将被新的物种代替。

癌细胞也是一样

青山

这个比喻不恰当，人类之于地球，顶多算是病毒，而显然不是癌细胞。
人类会通过某些途径，传播到其它星球，而不是死守地球。

原帖由 liuhuey 于 30-6-2009 20:00 发表

                               
登录/注册后可看大图

癌细胞也是人类的一部分，不是么？

人类的本性，在癌细胞身上体现的淋漓尽致。所以我在前面的帖子里说，人类必将被新的物种代替。

癌细胞也是一样

刘叔

真不是我打击你，加加林1961年进太空，阿波罗1969年登月。到现在了，还有载人太空活动超过这两者的吗？都40年了哦！

stellahie

原帖由 liuhuey 于 30-6-2009 20:12 发表

                               
登录/注册后可看大图

真不是我打击你，加加林1961年进太空，阿波罗1969年登月。到现在了，还有载人太空活动超过这两者的吗？都40年了哦！

40年算什么？看远点。。。

刘叔

如果说我是悲观的宿命论者，你就是乐观的机会主义者。

你一定相信在不远的将来，人类能够实现自由的太空航行，而且能够突破超光速飞行、和人体超低温冷冻保存并复原这两大技术难题！

青山

我没说现在属于动物界的人类能够自由的太空旅行。
但是人工智能体可以相对容易得多的来做这个工作，作为人类的后继者，把人类文明传播到更远的星球。

这也是为什么我相信，也许人工智能体是一种生物文明发展到一定阶段的必然。因为只有他们，才可能
离开地球这个摇篮，成为真正的宇宙文明。

原帖由 liuhuey 于 30-6-2009 20:18 发表

                               
登录/注册后可看大图

如果说我是悲观的宿命论者，你就是乐观的机会主义者。

你一定相信在不远的将来，人类能够实现自由的太空航行，而且能够突破超光速飞行、和人体超低温冷冻保存并复原这两大技术难题！

刘叔

原帖由 青山 于 30-6-2009 17:43 发表

                               
登录/注册后可看大图

如果人类的爱心可以超越狭义的物种的限制，把新的，拥有更高智能的存在当作自己的后代和未来，也许可以平稳过渡，让他们继承人类的文明和历史。

单凭爱心，无法突破面对灭亡的恐惧。

还是一部分一部分的进化吧，比如先植入部分电子脑、电子眼。

给青山出个题，你觉得那些部位被替换了，心肝肺脑等，人就不是人，变成另外一个物种了？

保留所有的记忆、情感、自我意识信息，而躯干不复存在，人还是人么？

刘叔

原帖由 青山 于 30-6-2009 18:24 发表

                               
登录/注册后可看大图

我没说现在属于动物界的人类能够自由的太空旅行。
但是人工智能体可以相对容易得多的来做这个工作，作为人类的后继者，把人类文明传播到更远的星球。

好家伙，你偷换概念！

刚才才说人类会扩张到其它星球，现在碰到技术难题了，就说由人类的后继者——也就是另一物种——把人类文明传播出去。

fredku

乱说!一相情愿! 人工智能凭什么要死守着人类的躯体和精神? 它们完全可以寻找甚至制造出更强悍的生物或者机械存在形态做寄主,完全就不需要人类了!

stellahie

原帖由 liuhuey 于 30-6-2009 20:28 发表

                               
登录/注册后可看大图

好家伙，你偷换概念！

刚才才说人类会扩张到其它星球，现在碰到技术难题了，就说由人类的后继者——也就是另一物种——把人类文明传播出去。

青山，你要说清楚。我是因为你的那句“爱心”才支持你的。

你不要打着爱心的旗号，去侵略其他的星球。那跟癌细胞/病毒没什么两样。

stellahie

原帖由 fredku 于 30-6-2009 20:28 发表

                               
登录/注册后可看大图

乱说!一相情愿! 人工智能凭什么要死守着人类的躯体和精神? 它们完全可以寻找甚至制造出更强悍的生物或者机械存在形态做寄主,完全就不需要人类了!

如果是这样，你觉得如何呢？

青山

说实话，如果我一个人的话，只要保留记忆，自我意识，其他的都不重要。

原帖由 liuhuey 于 30-6-2009 20:26 发表

                               
登录/注册后可看大图

单凭爱心，无法突破面对灭亡的恐惧。

还是一部分一部分的进化吧，比如先植入部分电子脑、电子眼。

给青山出个题，你觉得那些部位被替换了，心肝肺脑等，人就不是人，变成另外一个物种了？

保留所有的记忆、情感、自我意识信息，而躯干不复存在，人还是人么？

青山

对我来讲，没什么本质不同。

原帖由 liuhuey 于 30-6-2009 20:28 发表

                               
登录/注册后可看大图

好家伙，你偷换概念！

刚才才说人类会扩张到其它星球，现在碰到技术难题了，就说由人类的后继者——也就是另一物种——把人类文明传播出去。

青山

我还是那观点，不扩张，就灭亡。

原帖由 stellahie 于 30-6-2009 20:38 发表

                               
登录/注册后可看大图

青山，你要说清楚。我是因为你的那句“爱心”才支持你的。

你不要打着爱心的旗号，去侵略其他的星球。那跟癌细胞/病毒没什么两样。

青山

我从没说过人工智能体要保持人类的躯体和精神。他们可以继承人类的历史和文明，但是肯定会发展出他们自己的文明。

原帖由 fredku 于 30-6-2009 20:28 发表

                               
登录/注册后可看大图

乱说!一相情愿! 人工智能凭什么要死守着人类的躯体和精神? 它们完全可以寻找甚至制造出更强悍的生物或者机械存在形态做寄主,完全就不需要人类了!

stellahie

原帖由 青山 于 30-6-2009 20:41 发表

                               
登录/注册后可看大图

我还是那观点，不扩张，就灭亡。

那我先不要支持你好了。

再观察观察。。。

刘叔说的那个癌细胞是不是指你啊？我的意思是指你所谓的扩张行为？ 挑拨一下 ~

coredump

我就知道一发这个帖子，就会成为青山的布道场。

freshfish

比较赞同青山的观点........

chinese

青山，人类的文明是什么？如果人类不存在了，人类的文明传播的意义何在？靠人工智能来传播人类文明，就好像现在人根据壁画来判断远古文明一样，我们理解不了，就算理解了，对于现在的人类，又有什么意义呢？只是徒增感慨，原来曾经有这么一个$^%&^&^的文明存在过。那和这个文明从来就没有出现过，有何区别？
我赞成青山说的人类的侵略本性，但是我不赞同人工智能是人类的延续的看法，人类是要吃饭的，即使是类人猿，那也是摄取同一种养分，这是人类与其他物种的区别之一。人工智能摄取“养分”和人类的是一样的吗？如果不是，人工智能就绝对不是人类的延续，他们对于人类的文明连基本的理解都做不到，更别说尊重和传承。
所以，人工智能的发展，必然是对人类的侵略，即使你对它友好，它也不会对你友好，因为它要求它的生存空间，就如你所说，钢筋混凝土是它们的梦想家园，人类要求的大自然可能才是它们最欲毁之的。

青山

第一，人类文明，就是人类的历史和文化。人类作为动物体，局限性是非常大的。让人类肉体限制地球文明的长期发展，是没有意义的。

第二，猿人也不存在了，难道高度进化的人类对于猿人没有意义么？猿人虽然跟人类摄取同一种养分，但是现在人类的生活，却与猿人相去甚远。猿人肯定不喜欢我们钢筋水泥的城市。但这又有什么关系呢？

第三，人工智能文明可以继承全部的人类文明的历史和记忆，包括各种知识，这本身就是对人类文明的传承。人类文明之于继承的文明，就像尧舜禹汤之于现代中国人。虽然他们都已经不存在了，但是历史和精神遗产还在。

第四，人类该退出历史舞台的时候，就退出历史舞台，把这个舞台让给更高级的生命形式，就像我们死去，我们的孩子走向未来那样，没有什么不好。我所追求的，就是两点，和平过渡，还有历史的继承。其他的，就由继任文明自己去发展和书写了。

其实对于我来说，一个能够理解和继续我思想的人工智能体，比一个我亲生的却没有继承我文化思想的香蕉人，对我来说可能意义更大。
不用担心人工智能体不能理解人类，当他们智力高度发达的时候，理解人类的想法并不是难事，尤其当人类主动把思想导入他们的时候。

原帖由 chinese 于 30-6-2009 22:06 发表

                               
登录/注册后可看大图

青山，人类的文明是什么？如果人类不存在了，人类的文明传播的意义何在？靠人工智能来传播人类文明，就好像现在人根据壁画来判断远古文明一样，我们理解不了，就算理解了，对于现在的人类，又有什么意义呢？只是徒增感慨，原来曾经有这么一个$^%&^&^的文明存在过。那和这个文明从来就没有出现过，有何区别？
我赞成青山说的人类的侵略本性，但是我不赞同人工智能是人类的延续的看法，人类是要吃饭的，即使是类人猿，那也是摄取同一种养分，这是人类与其他物种的区别之一。人工智能摄取“养分”和人类的是一样的吗？如果不是，人工智能就绝对不是人类的延续，他们对于人类的文明连基本的理解都做不到，更别说尊重和传承。
所以，人工智能的发展，必然是对人类的侵略，即使你对它友好，它也不会对你友好，因为它要求它的生存空间，就如你所说，钢筋混凝土是它们的梦想家园，人类要求的大自然可能才是它们最欲毁之的。

青山

原帖由 coredump 于 30-6-2009 21:01 发表

                               
登录/注册后可看大图

我就知道一发这个帖子，就会成为青山的布道场。

刘叔

忙着陪儿子玩，先挖个坑，明天再来回你

刘叔

原帖由 coredump 于 30-6-2009 19:01 发表

                               
登录/注册后可看大图

我就知道一发这个帖子，就会成为青山的布道场。

开心，俺是来砸场子的

key

我们现在展望40年，400年后的人类科技，
相当于40年前，400年人的人来想象现在的科技。

40年前的电子管计算机与当前的互联网科技比较，的确能超乎人们的想象，
而400年前，牛顿的三大定律和微积分堪称天下第一，但和现在的物理学又根本不能比较。

然而，无论人类怎样发展，虽然我们的环境有一定的保坏；但人类科技发展始终能为人服务，
说穿了，就是工具的发展。

人工智能的发展已经很多年了。一个依靠FPGA做所谓的人工大脑实验的科学家，对于未来
科技的展望，没有必要引来未来新的智能物体的恐惧；也不能佐证人工智能就能飞越“工具”的范畴。
就目前而言，人工智能还只是一些高速运算单元对于逻辑化，或可逻辑化的命题进行快速运算，
这只是我们手上一个工具。别说制造一个象人这样独立思考还会灌水的机器暂时未有可能，
就算做一只有狗的智慧，能自己找地方吃喝拉撒的机器都暂时没有可能。

至于机器在某些方面比人类更有优势，这是必然的；数万年前我们的祖先拿起石头来做工具，
就是因为石头比我们的手掌、指甲更有优势。某一天我们，或我们的子孙有可能会入大脑植入一些
芯片，以帮助我们记忆、计算、搜索，这都只是一些工具。我们现在也有不少人做手术，往关节加入
支撑物件，这又有什么呢？至于所谓改造人，怎样怎样，同学，你现在开个汽车，相对于几百年前
骑马的人来说也是改造人啦。

至于科技是否会让人类互相XX；这个问题在几万年前，我们的祖先拿起石头来砸坚果的时候就可能
人要在考虑：把石头的边缘磨得锋利，那是多么危险的一件事呀。。。。

工具而已；更何况，这些工具远未达到让我们恐慌的地步。

青山

工具？你没明白当一个个体智力超过人类甚至大幅超过人类以后，你是不可能把他当作工具的。
这是一个量变到质变的过程。

原帖由 key 于 30-6-2009 23:23 发表

                               
登录/注册后可看大图

我们现在展望40年，400年后的人类科技，
相当于40年前，400年人的人来想象现在的科技。

40年前的电子管计算机与当前的互联网科技比较，的确能超乎人们的想象，
而400年前，牛顿的三大定律和微积分堪称天下第一，但和现在的物理学又根本不能比较。

然而，无论人类怎样发展，虽然我们的环境有一定的保坏；但人类科技发展始终能为人服务，
说穿了，就是工具的发展。

人工智能的发展已经很多年了。一个依靠FPGA做所谓的人工大脑实验的科学家，对于未来
科技的展望，没有必要引来未来新的智能物体的恐惧；也不能佐证人工智能就能飞越“工具”的范畴。
就目前而言，人工智能还只是一些高速运算单元对于逻辑化，或可逻辑化的命题进行快速运算，
这只是我们手上一个工具。别说制造一个象人这样独立思考还会灌水的机器暂时未有可能，
就算做一只有狗的智慧，能自己找地方吃喝拉撒的机器都暂时没有可能。

至于机器在某些方面比人类更有优势，这是必然的；数万年前我们的祖先拿起石头来做工具，
就是因为石头比我们的手掌、指甲更有优势。某一天我们，或我们的子孙有可能会入大脑植入一些
芯片，以帮助我们记忆、计算、搜索，这都只是一些工具。我们现在也有不少人做手术，往关节加入
支撑物件，这又有什么呢？至于所谓改造人，怎样怎样，同学，你现在开个汽车，相对于几百年前
骑马的人来说也是改造人啦。

至于科技是否会让人类互相XX；这个问题在几万年前，我们的祖先拿起石头来砸坚果的时候就可能
人要在考虑：把石头的边缘磨得锋利，那是多么危险的一件事呀。。。。

工具而已；更何况，这些工具远未达到让我们恐慌的地步。

stellahie

那么，你不同意人工大脑之父说的，50年后机器人将威胁人类？