人工大脑之父放言:50年后机器人威胁人类(请热爱AI的同学们关注本帖的后续精彩讨论)

stellahie

你没怀疑过他要人家叫他叔是占人家的便宜吗？

清风不写字

原帖由 coredump 于 1-7-2009 13:50 发表

                               
登录/注册后可看大图

属龙的也可能是今年45或者21，更小更大的可能都不会上网。鉴于论坛上多是30左右的人，而且大家都叫你叔的现实，你应该是45岁了，很不巧，45岁在中国文化里是倒霉的年龄，戏称属驴年。

他肯定是33，老乞丐要赌一把么？

coredump

不赌，我只是说可能啊。刘叔在这油嘴滑舌的，蛮像45岁时的属相的

beysup

我想两位没有明白我的意思，我所谓的精密，是从整体上来看的，人没有机械力量大，没有计算机计算速度快，但是人比机械和计算机要“精密”，要“高级”。这种所谓的高级和精密包括思想，意识，情感，结构，存在方式，控制能力，改变能力和运用能力等。首先，从结构和存在方式上看，人类是生物体，这点与机械和计算机有着本质的不同，世界上没有任何机械或电子设备的复杂和精密度能比得上生物体，因为人类本身就是生物体，所以不可能创造出生物体或与其同样精密，高级的事物。而机械和计算机是人类这个高级事物为了弥补自身在力量和计算速度方面的不足而制造出来的，这是一种运用能力的表现，人类知道怎么用，机械不知道，计算机也不知道。同时机械和计算机的所有特点和能力都是人类希望的并受控于人类的。

换个角度看，人类为什么会具有上述提到的那些特点，是什么事物使人类具备这些特点呢？或者说人类的思想，意识，情感和各种能力是某种比人类更高级的事物希望人类具有并受之控制的呢？做为人类这个级别的我们是没有能力知道的。从哲学的角度看，某种级别事物的存在，一定有更高级别事物的存在。事物可以发展，进化，但是不能超越。假如达尔文的进化论正确，人类从猿到现在所谓的高度文明，也没有达到超越。

青山

我属兔的，你比我还小点。

原帖由 liuhuey 于 1-7-2009 13:45 发表

                               
登录/注册后可看大图

俺属龙的，今年也33，咱们做兄弟...

难道你还是不肯相信么？

青山

老兄，你这里有明显的问题啊。如果你相信上帝创造了人，那我就不跟你讨论了。
否则的话，人是怎么来的？还不是从单细胞生物逐渐进化来了？复杂的生物，都是
从简单的生物来的。

从进化成为动物开始，你我每一代祖先的母亲，都生产了一个比自己更聪明和精密的后代。
只不过生物个体的进化极其缓慢，而人工智能体则不是，可以不受动物界的很多约束。
可以一下子提高很多。

智力是可以依靠处理单元的累积而提高的。人脑的处理单元是限定的，但是人工智能体
的处理单元是依照摩尔定律，高速发展的。

原帖由 beysup 于 1-7-2009 15:36 发表

                               
登录/注册后可看大图

我想两位没有明白我的意思，我所谓的精密，是从整体上来看的，人没有机械力量大，没有计算机计算速度快，但是人比机械和计算机要“精密”，要“高级”。这种所谓的高级和精密包括思想，意识，情感，结构，存在方式，控制能力，改变能力和运用能力等。首先，从结构和存在方式上看，人类是生物体，这点与机械和计算机有着本质的不同，世界上没有任何机械或电子设备的复杂和精密度能比得上生物体，因为人类本身就是生物体，所以不可能创造出生物体或与其同样精密，高级的事物。而机械和计算机是人类这个高级事物为了弥补自身在力量和计算速度方面的不足而制造出来的，这是一种运用能力的表现，人类知道怎么用，机械不知道，计算机也不知道。同时机械和计算机的所有特点和能力都是人类希望的并受控于人类的。

换个角度看，人类为什么会具有上述提到的那些特点，是什么事物使人类具备这些特点呢？或者说人类的思想，意识，情感和各种能力是某种比人类更高级的事物希望人类具有并受之控制的呢？做为人类这个级别的我们是没有能力知道的。从哲学的角度看，某种级别事物的存在，一定有更高级别事物的存在。事物可以发展，进化，但是不能超越。假如达尔文的进化论正确，人类从猿到现在所谓的高度文明，也没有达到超越。

刘叔

原帖由 青山 于 1-7-2009 13:37 发表

                               
登录/注册后可看大图

我属兔的，你比我还小点。

好，咱们结拜了吧，有这么多论坛朋友做见证呢。

先点上三根香

青山兄在上，请受小弟一拜

换你了，你可以说“愚兄”怎样怎样。

青山

成啊，收你这个弟弟了。贤弟请起。
不过你那3根香，貌似太结实了点。

原帖由 liuhuey 于 1-7-2009 15:59 发表

                               
登录/注册后可看大图

好，咱们结拜了吧，有这么多论坛朋友做见证呢。

先点上三根香

青山兄在上，请受小弟一拜

换你了，你可以说“愚兄”怎样怎样。

beysup

况且人类目前对世界和事物的认知还局限于一般的运用，并不能改变和控制。比如光速，万有引力，元素，为什么同样由碳氢氧元素组成的物质，有的就有生命，有的就是大石头？牛顿只是发现了万有引力，但是并没有解释万有引力是怎么来的；爱因斯坦说光速是最快的，但是他能解释光速为什么是30万公里/小时，而不是40万公里/小吗？还有，就算物质是由原子组成的，原子是由原子核内质子，中子和核外电子组成，那么谁知道质子，中子，电子又是什么构成的吗？所以，人类或许是很低等的事物，也许有更高级的事物像人类观察草履虫那样在观察我们呢。

青山

人工智能并不需要改变自然界的基本规则。你说的这些问题，自然有那个领域的人去研究。
这和人工智能的发展没有任何矛盾之处。

原帖由 beysup 于 1-7-2009 16:02 发表

                               
登录/注册后可看大图

况且人类目前对世界和事物的认知还局限于一般的运用，并不能改变和控制。比如光速，万有引力，元素，为什么同样由碳氢氧元素组成的物质，有的就有生命，有的就是大石头？牛顿只是发现了万有引力，但是并没有解释万有引力是怎么来的；爱因斯坦说光速是最快的，但是他能解释光速为什么是30万公里/小时，而不是40万公里/小吗？还有，就算物质是由原子组成的，原子是由原子核内质子，中子和核外电子组成，那么谁知道质子，中子，电子又是什么构成的吗？所以，人类或许是很低等的事物，也许有更高级的事物像人类观察草履虫那样在观察我们呢。

coredump

原帖由 beysup 于 1-7-2009 15:36 发表

                               
登录/注册后可看大图

我想两位没有明白我的意思，我所谓的精密，是从整体上来看的，人没有机械力量大，没有计算机计算速度快，但是人比机械和计算机要“精密”，要“高级”。这种所谓的高级和精密包括思想，意识，情感，结构，存在方式， ...

你这种观点唯一的结论就是神创论

刘叔

原帖由 青山 于 1-7-2009 14:00 发表

                               
登录/注册后可看大图

成啊，收你这个弟弟了。贤弟请起。
不过你那3根香，貌似太结实了点。

结实好，见证咱友谊地久天长。

好了，各位现场的观众朋友，各位潜水的水民兄弟，今天是我跟青山结拜弟兄的大喜日子。


还望大家有分的加分，有空的顶个帖子。


以后咱在论坛上也是有人罩着的啦，各位版主删贴的时候手下留情哦


我大哥他比较老实，以后不准谁对他冷嘲热讽挖苦打击，被我发现坚决死掐到底哈

stellahie

青山

原帖由 liuhuey 于 1-7-2009 16:08 发表

                               
登录/注册后可看大图

结实好，见证咱友谊地久天长。
好了，各位现场的观众朋友，各位潜水的水民兄弟，今天是我跟青山结拜弟兄的大喜日子。
还望大家有分的加分，有空的顶个帖子。
以后咱在论坛上也是有人罩着的啦，各位版主删贴的时候手下留情哦  
我大哥他比较老实，以后不准谁对他冷嘲热讽挖苦打击，被我发现坚决死掐到底哈

key

原帖由 ubuntuhk 于 1-7-2009 01:24 发表

                               
登录/注册后可看大图

拜托，我的Linux集群还没搞好呢，而且也准备搞的也只是DNA而已，离什么自我意识（到底是什么意思啊？ ）差了没有十万也有8千里

刘叔的意思是你和他都有小孩。你们的小孩不是比任何”智能“体都聪明吗？而且绝对是你们的”成果“。。。。。
你联系刘叔一直说的那些话就马上明白了。

key

原帖由 coredump 于 1-7-2009 16:05 发表

                               
登录/注册后可看大图

你这种观点唯一的结论就是神创论

其实倒不是神创论。

我前面也说过，只要能逻辑化的东西，最后用电子计算的方式进行逻辑，理论上还是可以的。
但有的东西目前还不能逻辑化，或者人们还根本不知道或还未意识到的东西，那是无从电子化。
这就是计算科学的局限性。

比如，自然语言分析方法，目前对于自然语言的语言学研究还只是一个很初级的阶段；语言中很多东西
在语言学本身就没有形成科学的研究结果。这是最基础的科学。在这个前提下，人们要实现自然语言的
计算机处理就只能见步行步。个人认为Functional Grammar对于自然语言的计算机处理会很有帮助，
Functional Grammar就是澳洲的语言学科学家搞出来的，他老人家还活着，他老婆还在悉尼大学。

为什么ML现在大量针对Natural Language，那是因为市场在那里。然而，即使是简单到计算机翻译这样
一个看似一目了然的领域，现在还只是一个很初级的阶段；就根本不用提知识理解了。

青山

我现在研究的就是自然语言。语法这一层面，其实已经有很多研究成果了，
已经相对成熟，想继续仅仅依靠语法分析去提高，已经很难了。
现在自然语言的关键问题在语义（semantics）这一层。

我已经基本上想清楚了语义和语法层同时工作的模型，现在就在
尝试建立和完善这个模型。事实上，一些语法分析的错误，是需要
靠语义理解来弥补的，单纯的语法分析，并不能解决全部的语法问题。
现在我们需要的，是一个至少囊括语法和语义的系统。其实仅有这些
还不够，比语义更进一步，还需要有时间和空间想象的能力，才能更
好的理解人类写的文章。

我现在的切入点就是语义的理解，但是我思考的，是整个自然语言理解的模型。

机器翻译其实是自然语言处理的一个应用。只要可以做到真正的理解，
那么机器翻译的问题也就迎刃而解了。比如我现在主攻的多义词解析。
word sense disambiguation.机器翻译之所以质量差，很大程度
上就是因为不能够根据上下文，选择正确的词义去翻译，所以结果
看上去前言不搭后语。只要能解决WSD的问题，机器翻译的质量马上
就会有很大的提高。

原帖由 key 于 1-7-2009 17:24 发表

                               
登录/注册后可看大图

其实倒不是神创论。

我前面也说过，只要能逻辑化的东西，最后用电子计算的方式进行逻辑，理论上还是可以的。
但有的东西目前还不能逻辑化，或者人们还根本不知道或还未意识到的东西，那是无从电子化。
这就是计算科学的局限性。

比如，自然语言分析方法，目前对于自然语言的语言学研究还只是一个很初级的阶段；语言中很多东西
在语言学本身就没有形成科学的研究结果。这是最基础的科学。在这个前提下，人们要实现自然语言的
计算机处理就只能见步行步。个人认为Functional Grammar对于自然语言的计算机处理会很有帮助，
Functional Grammar就是澳洲的语言学科学家搞出来的，他老人家还活着，他老婆还在悉尼大学。

为什么ML现在大量针对Natural Language，那是因为市场在那里。然而，即使是简单到计算机翻译这样
一个看似一目了然的领域，现在还只是一个很初级的阶段；就根本不用提知识理解了。

key

原帖由 青山 于 1-7-2009 10:34 发表

                               
登录/注册后可看大图

到目前为止，所有科幻电影里描述的，基本上都是智力水平不及人类的人工智能体。
因为即使是科幻小说的作者，也还不能完全接受，一个在智力上显著超越人类的存在。

事实上真正的高智力的人工智能体，并不是电影中 ...

其实关于智力水平的定义，我不是太清楚。
一个正常人，要计算 1531432151432 x 143354351234234231，没有几分钟，怎样也算不出来，如果计算 sqrt(15454344235456234543)，取小数点后8位，
那一个正常人可以去死了。但叫一台电子计算机去做，8086就可以了。

再者，如果有人自称能记住整个wikipedia上的资料，有两个可能，一是这个人说谎，另一个可能就是这个人说疯话，因为谁都知道不可能。
但叫一台计算机去做。。。。。我的Palm treo 650上就有中文wiki的全部资料。

我不反对，我也没有权力去反对其他学者去研究人智模拟；但个人观点，作为一个严肃的学者，我认为应该更多关注计算科学的计算优势，
结合当前的理论，建立能够帮助人类的设备、机器，或发展相关的理论。

我总喜欢用1999年cmu大学和我们一起做的一个研究来说事。当时我们实验室的想法是要从影片中识别某个人，比如bill gates；但当时cmu做的
是在影片中找到脸的位置。后来我们的工作不了了之；而现在，所有的digital camera上都有脸的动态定位。我不知道这个技术是否来自cmu，
但作为全球最好的人智实验室（至少之一），我相信他们代表了最前沿的科技；而他们做的事，和我们最大的不同，是务实。实实际际的做事。

青山

你说得没错，我现在就在具体做研究工作。我具体的课题是word sense disambiguation。

但是，并不等于你研究一个课题，就只着眼于一个具体课题。我发现很多学校的研究者，就在
一些前人的理论上加加减减，只看到眼前一寸那么远。而事实上，人工智能方面的研究，不仅
需要具体的课题，也需要新的思想，方向性的指引。坦率地说，就WSD这个具体课题，过去10
年中，多数论文都走在错误的方向上。

我试图在具体课题和新思想方面，都有所贡献。事实上，我是一群Phd学生中，唯一一个把最
大部分的时间用在编程上的人。我的工作模式，是experiment->prototype->paper。
而多数学校的研究者，都是paper->experiment->prototype。往往最后一步就省略了。
从脚踏实地这一点上，在学校科研这个圈子里，我应该算是最实在的了。

在过去一年半的研究中，我的思想不断的引导我得到预期的实验结果。所以我现在相信，我的
思想，至少在方向上是正确的。

原帖由 key 于 1-7-2009 17:43 发表

                               
登录/注册后可看大图

其实关于智力水平的定义，我不是太清楚。
一个正常人，要计算 1531432151432 x 143354351234234231，没有几分钟，怎样也算不出来，如果计算 sqrt(15454344235456234543)，取小数点后8位，
那一个正常人可以去死了。但叫一台电子计算机去做，8086就可以了。

再者，如果有人自称能记住整个wikipedia上的资料，有两个可能，一是这个人说谎，另一个可能就是这个人说疯话，因为谁都知道不可能。
但叫一台计算机去做。。。。。我的Palm treo 650上就有中文wiki的全部资料。

我不反对，我也没有权力去反对其他学者去研究人智模拟；但个人观点，作为一个严肃的学者，我认为应该更多关注计算科学的计算优势，
结合当前的理论，建立能够帮助人类的设备、机器，或发展相关的理论。

我总喜欢用1999年cmu大学和我们一起做的一个研究来说事。当时我们实验室的想法是要从影片中识别某个人，比如bill gates；但当时cmu做的
是在影片中找到脸的位置。后来我们的工作不了了之；而现在，所有的digital camera上都有脸的动态定位。我不知道这个技术是否来自cmu，
但作为全球最好的人智实验室（至少之一），我相信他们代表了最前沿的科技；而他们做的事，和我们最大的不同，是务实。实实际际的做事。

8戒

强贴留名。这事吧，我觉得不大可能，因为现在人类已经认识到这个问题了，除非有哪个疯子要让机器人来造反。否则出现这种可能性不大。不过如果机器人强大了，今天人类可能就会出现另一种形态，半生物半机械人。或者科技再发达一点可以制造出生物机械夹克把人类包裹在一个半机器半生物的外壳中也说不定。这样人类就可以适应各种极端环境了。

key

原帖由 青山 于 1-7-2009 17:33 发表

                               
登录/注册后可看大图

我现在研究的就是自然语言。语法这一层面，其实已经有很多研究成果了，
已经相对成熟，想继续仅仅依靠语法分析去提高，已经很难了。
现在自然语言的关键问题在语义（semantics）这一层。

我已经基本上想清楚了语 ...

我没有你这么乐观。我读过General Linguistics, Functional Linguistics, Applied Linguistics
（Freeoz的TheWall比我专多了，我只是上了半年，逃课多），但这些大的语言学理论都没有达到一个所谓的“很高水平”。
以Applied Linguistics来例，现在是否有发展，我不知道，但就几年前，代表这个领域一个很高水平的成果是
一个学者以他的小孩学习第一语言的作为研究对象写的日记式研究结果。而人们对于Second language acquisition
的研究也只是很有限。在这些条件下，连人类自己对自己是怎样掌握语言都不是太清楚，你怎样去模拟？

你一直说自己有海量资料。的确，我很羡慕你的研究条件；我只是想知道，你在应用什么样的模型。如果你打算创造一个
新的模型，请问你的语言学基础是什么？你的计算机基础模型又是什么？不要告诉我你的模型是突然蹦出来的。
这世界上就没有哪一种理论是突然蹦出来的。

至于翻译科学。我读过翻译理论。以你所说的“翻译水平大有提高”，请问这种提高怎样应用到下面这首诗的翻译上来：

古道西风瘦马，
夕阳西下，
断肠人在天涯

这首诗我们的老师吹了一个学期。

让计算机做计算机能做的事，我们做好自己的工作，这是我一直以来的宗旨

ubuntuhk

我对青山号称自己以语义（Semantic）的方式在WSD问题上取得的进展表示高度怀疑，希望青山快点（五年内吧）来证明我的怀疑是错的

key

原帖由 8戒 于 1-7-2009 17:56 发表

                               
登录/注册后可看大图

强贴留名。这事吧，我觉得不大可能，因为现在人类已经认识到这个问题了，除非有哪个疯子要让机器人来造反。否则出现这种可能性不大。不过如果机器人强大了，今天人类可能就会出现另一种形态，半生物半机械人。或者科 ...

其实不妨更relax地想一下。相象一下15年前，就说程序员吧，他要做程序，差不多都要记住所有的文档，api等。
但现在，几乎没有人会这样做，因为他可以很轻松地通过google等找到solutions。而google也越来越成为很多技术人员不能离开的工具。
这就是人类通过科技进行的智能扩展。

而再想象十年或二十年之后，我们会有更好的设备，好的媒介。比如眼动仪，我一直认为这是一个很神奇的东西。
我也有朋友做脑电波处理，虽然我懂得很有限。但这些前途科技或工具，都有可能让我们把自己的能力结合现在正在发展的计算科学
进行扩展，而不是一定要做一个chip植入人脑才叫扩展。

key

原帖由 ubuntuhk 于 1-7-2009 18:08 发表

                               
登录/注册后可看大图

我对青山号称自己以语义（Semantic）的方式在WSD问题上取得的进展表示高度怀疑，希望青山快点（五年内吧）来证明我的怀疑是错的

8年前我就开始听有人在说语义网络。
但去年，我离开实验室的时候，我们还在用二分词进行机械的语言处理。
或者你说我们实验室很落后，
但这几年的Search Engine比赛我们都有冠军拿回来。

当然，我自己不搞这一块，没什么可吹的地方。

青山

第一，linguistics本身并不能解决linguistic的所有问题。但是linguistics这一层已经相对成熟了。
比如我用于语法分析的standford dependency parser，自动的词性标注，正确率已经接近95%。
dependency graph解析的正确率，如果你取它的前5个解，正确率也是很高的。
而在这些可能的解中确定真正的解，则需要语义分析的帮助。

第二，我没有海量资料，我说的是互联网上有海量的资料。而我要做的，是尝试让系统能够通过阅读普通的文章，进一步的学习。我的真正经过标注的训练集，也是很不够的。

第三，以往的很多研究，都是期望人先把自然语言的规律总结出来，然后再教给系统，这个思路根本就是错的。自然语言的多样性，让任何这种总结规律的努力都不可能成功。事实上，真正的出路在于让计算机自己从大量的训练集中，去总结不同范围的规律。

第四，你上来就要求人工智能去翻译诗是错误的思路。人工智能确实需要有一个学习的过程。一个人也有学习的过程，而一个人很重要的一个能力，就是当你读到一篇文章的时候，你能判断你自己能否读懂。对于你能读懂的，你可以处理，对于你不能读懂的，你可以先扔掉。而这正是我研究的突破口。我也在尝试赋予人工智能系统有选择性的阅读并学习的能力。

第五，计算机能做比你想象的多得多的事。你没有信心，不代表问题就不能解决。我没看到不可逾越的障碍，也一直在不断推进，需要的只是时间。

原帖由 key 于 1-7-2009 18:01 发表

                               
登录/注册后可看大图

我没有你这么乐观。我读过General Linguistics, Functional Linguistics, Applied Linguistics
（Freeoz的TheWall比我专多了，我只是上了半年，逃课多），但这些大的语言学理论都没有达到一个所谓的“很高水平”。
以Applied Linguistics来例，现在是否有发展，我不知道，但就几年前，代表这个领域一个很高水平的成果是
一个学者以他的小孩学习第一语言的作为研究对象写的日记式研究结果。而人们对于Second language acquisition
的研究也只是很有限。在这些条件下，连人类自己对自己是怎样掌握语言都不是太清楚，你怎样去模拟？

你一直说自己有海量资料。的确，我很羡慕你的研究条件；我只是想知道，你在应用什么样的模型。如果你打算创造一个
新的模型，请问你的语言学基础是什么？你的计算机基础模型又是什么？不要告诉我你的模型是突然蹦出来的。
这世界上就没有哪一种理论是突然蹦出来的。

至于翻译科学。我读过翻译理论。以你所说的“翻译水平大有提高”，请问这种提高怎样应用到下面这首诗的翻译上来：

古道西风瘦马，
夕阳西下，
断肠人在天涯

这首诗我们的老师吹了一个学期。

让计算机做计算机能做的事，我们做好自己的工作，这是我一直以来的宗旨

青山

我现在的目标是两年内要能有被承认的阶段性成果。我还有两年毕业。
成败都有可能，但是我现在坚信我的道路是对的。

原帖由 ubuntuhk 于 1-7-2009 18:08 发表

                               
登录/注册后可看大图

我对青山号称自己以语义（Semantic）的方式在WSD问题上取得的进展表示高度怀疑，希望青山快点（五年内吧）来证明我的怀疑是错的

ubuntuhk

别对自己要求这么高，那我就过三年再来看看你的作业

key

原帖由 青山 于 1-7-2009 18:12 发表

                               
登录/注册后可看大图

第五，计算机能做比你想象的多得多的事。你没有信心，不代表问题就不能解决。我没看到不可逾越的障碍，也一直在不断推进，需要的只是时间

被鄙视了，不爽

青山

管型火器刚发明的时候，射速慢，下雨就不能用。
过了起码上百年，才体现出真正的价值。

科学研究如果只找眼前最容易出成绩的路，很容易走进死路。

其实很多Phd，包括教授们都是这样，那个可以最快出paper，就做哪个。
但是这样出不了真正有贡献的成果。

原帖由 key 于 1-7-2009 18:12 发表

                               
登录/注册后可看大图

8年前我就开始听有人在说语义网络。
但去年，我离开实验室的时候，我们还在用二分词进行机械的语言处理。
或者你说我们实验室很落后，
但这几年的Search Engine比赛我们都有冠军拿回来。

当然，我自己不搞 ...

key

原帖由 青山 于 1-7-2009 18:18 发表

                               
登录/注册后可看大图

管型火器刚发明的时候，射速慢，下雨就不能用。
过了起码上百年，才体现出真正的价值。

科学研究如果只找眼前最容易出成绩的路，很容易走进死路。

其实很多Phd，包括教授们都是这样，那个可以最快出paper，就 ...

其实我很admire你的志气和勇气的啦
不过我有十年时间听一个可能比你更有志气和勇气的老板唱歌仔，多少有点过敏而已