www.649.net-新葡亰496net【官方网站】

热门关键词: www.649.net,新葡亰496net,新葡亰官方网站

科技(science and technology)巨头忧人工智能失控灭人

作者: 中国军情  发布:2019-11-14

  在不久的未来,人工智能(Artificial Intelligence,英文缩写AI)技术会全面超越人类的智慧,甚至会反过来控制或毁灭人类——这一灾难性的预测来自一群世界上公认“最聪明的人”,包括微软创始人比尔·盖茨、英国科学家史蒂芬·霍金以及美国的“科技狂人”埃隆·马斯克。甚至有美国学者认为,人工智能超过人类的时间点——“奇点”已经逼近,很可能就在几十年后。这一切真的会发生吗?还是正在发生之中?

昨天下午,谷歌围棋人工智能Alpha Go与韩国棋手李世石进行了最后一轮较量。今天的棋局,会不会是未来人工智能全面战胜人脑的预演?钱江晚报记者梳理了人工智能发展的历程,并请浙江大学计算机科学与技术学院教授蔡登分析,人工智能会不会在未来KO人脑。如果有一天,电脑的运算速度快到令人难以置信时,它们掌握人工智能的时刻也到来了——那时电脑,将能够模拟人脑、产生意识:人类本身也将发生改变。人工智能处理数据的能力远远大于人的能力,然而它们不用睡觉、没有情绪,不会被领导骂几句,工作效率就降低。他估计,至少在100年的时间里,人工智能不会超越人脑。科幻电影中那种拥有自我意识,能够和人类交流的人工智能,蔡登不认为会出现。

  科技巨头担忧人工智能失控

新葡亰496net 1

人工智能;蔡登;李世石;围棋;机器人;人脑;电脑;谷歌;茶壶;定律

  据多家美国媒体报道,在最近一次网络答问活动中,盖茨被提问如何看待人工智能的潜在危害,他表示,这确实是值得担心的问题。盖茨说:“如果我们能够很好地驾驭,机器能够为人类造福,但如果若干年后机器发展得足够智能,就将成为人类的心头大患。”

《奇点临近》

昨天下午,谷歌围棋人工智能Alpha Go与韩国棋手李世石进行了最后一轮较量。最终,AlphaGo获得本场比赛胜利,人机大战总比分定格在1:4。

  此前,数十位科学家、企业家及与人工智能领域有关的投资者曾联名发出一封公开信,警告人们必须更多地注意人工智能的安全性及其社会效益。参加联署的人中包括霍金及马斯克等。据英国《金融时报》报道,这封发自生命未来研究所的公开信还附带了一篇论文,其中建议应优先研究“强大而有益”的人工智能。目前,人们日益担心机器的智力和能力可能会超过创造它们的人类,从而影响到人类的就业,甚至影响到人类的长期生存。马斯克表示,他相信不受控制的人工智能“可能比核武器更危险”。

作者简介

连续苦战五场,一方展示的是人工智能的最高水准,另一方代表的是进化了几千万年的人类智慧。今天的棋局,会不会是未来人工智能全面战胜人脑的预演?

  《金融时报》2日一篇名为《机器人何时“造反”?》的文章称,物理学家霍金最近向BBC表示,“完备人工智能的发展可能导致人类灭亡。”霍金认为,一旦诞生了真正的人工智能——即人类思想的全数字化版本——它“将开始自主迅速发展,并以越来越快的速度重新设计自己……受限于缓慢生物进化的人类无法与之竞争,将被取代”。

雷·库兹韦尔(Ray Kurzweil)(美国):是世界领先的发明家、思想家、预言学家,他用20余年的时间记录和追溯历史的发展轨迹,以预测未来。他被《华尔街日报》誉为“永不满足的天才”,被《福布斯》杂志誉为“最终的思考机器”,被《Inc.》杂志称为“托马斯·爱迪生的法定继承人”。他还入选了美国国家发明名人堂,是美国国家科技奖章获得者,Lemelson—MIT大奖(世界上最重要的发明奖)获奖者。拥有13项荣誉博士头衔,曾经获得3位总统嘉奖。

钱江晚报记者梳理了人工智能发展的历程,并请浙江大学计算机科学与技术学院教授蔡登分析,人工智能会不会在未来KO人脑。

  2045,人工智能超人脑?

内容推荐

灵长类机器出现了吗

  人工智能全面超越人脑这样具有科幻色彩的话题,不仅在国内外科技界受到关注,甚至还有美国学者明确提出了人工智能超过人类的时间点。美国著名专家库兹韦尔在他的《奇点临近》一书中预测这个时间点将是2045年。

《奇点临近》论述严谨,案例丰富,深入阐释了“奇点”作为一种思潮,其在世界范围内所产生的广泛影响,并介绍了其在哲学、科学、技术、艺术等各个方面所展示的独特魅力。

从普罗大众的角度来看,机器人的历史可以分三个部分。

  那什么是人工智能呢?从字面来看就是人造的智能,也就是让机器具备人类一样的行为能力及思维意识。美国麻省理工学院的温斯顿教授认为:“人工智能就是研究如何使计算机去做过去只有人才能做的智能工作。”

雷•库兹韦尔是我所知道的预测人工智能未来最权威的人。他的这本耐人寻味的书预测未来信息技术得到空前发展,将促使人类超越自身的生物极限——以我们无法想象的方式超越我们的生命。

最早出现的机器,是人的体力、肌肉的延伸。它们的“四肢”极其发达,头脑简单到几乎没有头脑,是人类体力的帮手;

  那人工智能技术是否可以等同于机器人呢?360公司副总裁谭晓生11日接受《环球时报》记者采访时表示,机器人要用到人工智能技术,两者是一个交集关系,但不能完全等同。对于超级计算机和人工智能的关系,谭晓生认为,超算只是一个拥有巨大计算能力的载体,这是人工智能更深度发展的一个物质基础。除了这个物质基础,还有一些软性的东西。他认为,学界探讨的人工智能主要是指机器是否可能有自主意识,像人类一样去做一些复杂的智力活动。争论的核心可能包括,机器的智商能有多高?机器是否会产生自我意识?

——比尔•盖茨

第二代机器,是对人类的感官——眼、耳的延伸,像电脑、智能手机;

  谭晓生表示,人工智能近来受到关注可能与计算机芯片性能提升、计算能力提升以及算法的优化有关,但更重要的因素可能与深度学习技术的进步有关。深度学习技术就是机器模拟人脑的工作机理,这个理论很早就被提出了,但由于计算能力的限制,一直没法实现。随着深度学习的进步,使人类看到机器按照人脑的机理工作可以取得这么大的进步,因此产生了对于机器超越人脑的推理。

这是一本卓越的书,讲述了我们这个时代最杰出的预言学家对未来的深刻见地。

而以Alpha Go为代表的最新一代的机器,是对人类脑神经的一种延伸,我觉得,“它们”已经可以改称为“他们”了,因为灵长类机器人几乎出现了。

  对于是否存在奇点的问题,国内的学界与产业界也存在着完全不同的观点。中科院计算所研究员、中国计算机学会副秘书长陈熙霖不认同2045奇点到来的结论。他认为,机器智慧很难超越人类,也许更像永远处在逼近的过程中。对于如何衡量智慧,如果仅仅是从记忆能力上看,或者计算能力上看,今天的计算机已经远远把人的能力甩在后面了。但从人类的智力活动来看,我们包括了记忆、联想、归纳、演绎、判断、思考、顿悟、甚至做梦等诸多智力活动,我们的智力还与情感有关,从这个意义上看机器智慧很难超越人类。

——马文•明斯基,麻省理工学院媒体艺术与科学系教授

生物进化到人类,大脑的容量和沟壑回路复杂程度,登峰造极。但是这是一个非常缓慢的演化过程,今天人的大脑,不敢说比两千年前苏格拉底的脑子发达。

  中国科学院计算所研究员、中国计算机学会高性能计算专委会秘书长张云泉也认为,机器智慧很难超越人类。仅从超级计算机的技术发展状况看,几十年内出现奇点的可能不大,但在资本的推动下,也有自我实现的可能。

阅读本书,你将惊叹于人类发展进程中下一个意义深远的飞跃,它从根本上改变了人类的生活、工作以及感知世界的方式。库兹韦尔的奇点是一个壮举,以不可思议的想象力和雄辩论述了即将发生的颠覆性事件,它将像电和计算机一样从根本上改变我们的观念。

但是灵长类机器的进化速度,非常惊人。过去的机器,它们的优化是由人来完成的,但现在的阿法狗们,已经可以自我优化了。

  而百度深度学习研究院(IDL)常务副院长余凯则认为,以他从事人工智能行业十几年的经验,再从上世纪八十年代到现在整个的发展看,人工智能产业发展非常快,至少从过去30年的进展看,计算能力跟数据量高速成长,人工智能(超越人类)的发展走势是有可能的。

——迪安•卡门,物理学家

我们没有跟Alpha Go交流过,无法领教它的凶猛。据科学家说,在Alpha GO正式出山前,它用了3000万局“自我对弈”的数据,来训练自己比赛时对每一颗落子的价值进行评估。

  英特尔中国研究院院长吴甘沙表示,相信奇点,但是采用一种预测的态度,而非预报,言之凿凿说2029或2045有点不合适。人的智慧形成,也存在奇点,在那之后加速进化。他表示,人的生理结构、DNA编码、脑和神经系统那么精密,常常有种错觉,人就是过了奇点的机器。吴甘沙写过一篇名为“与机器赛跑:Win or die”的文章,总的观点是机器智能终将超越人类。

本书对科技发展持乐观的态度,值得阅读并引人深思。对于那些像我这样对“承诺与风险的平衡”这一问题的看法与库兹韦尔不同的人来说,本书进一步明确了需要通过对话的方式来解决由于科技加速发展而引发的诸多问题。

3000万局围棋,对于人类来说,即使每局只要15分钟,可能要八百多年才能下完。事实上,关注这次人机大战的朋友是有体会的,这几场比赛,平均每一盘需要4~5个小时。

  “进化的机器”会最终毁灭人类吗?

——比尔•乔伊,SUN公司创始人,前首席科学家

而自从去年10月和樊麾对弈后到上周开始和李世石交手,短短5个月时间,Alpha GO又完成了2000万局自我对弈,掌握了更加大量的判断、评估局面的数据库。

  美国《华尔街日报》曾发表题为《人工智能不是威胁——现在还不是》的文章称,在过去几十年里,从象棋到算术再到网上交易,计算机在许多事情上的表现都有长足进步,但到目前为止,它们还没有对我们或我们的财物表现出一星半点的兴趣。FT的文章也认为,人工智能展示的技术进展意义重大,它们展示了非凡计算能力、海量数据和案例分析软件所能形成的威力。它们将改善我们的生活、改变我们的经济,但它们造反的可能性与叉车没有两样。人类面临大量短期挑战,为什么要把未来的幽灵说成即将到来的恶魔呢?

目录

电脑运算速度快到难以置信时,突变会否到来

  谭晓生的观点则相对激进。他表示,文明的进化不用过分担心。哪天机器进化超过人了,从优胜劣汰角度,如果机器会带来更高的文明,人类为啥还要占着茅坑呢?看看《三体》、《星舰文明》,就很能理解。为了文明延续,要让最强者得到机会,4艘星舰留存1艘,其它舰人员甚至沦为食物,so what?更何况,即使从文明延续的角度看,机器智能与人类也未必不能共处。▲(文中部分专家观点摘选自《互联网与人工智能的未来:奇点临近》专题沙龙)

摘要
对本书的赞誉
译者序
前言
致谢
作者简介

在宇宙学中,霍金和彭罗斯证明了,在一般的条件下,空间——时间一定存在奇点,最著名的奇点就是黑洞里的奇点,以及宇宙大爆炸处的奇点。

第1章 六DA际元
直觉的线性增长观与历史的指数增长观
六DA际元
奇点临近

在奇点处,所有定律以及可预见性都失效。

第2章 技术进化理论:加速回归定律
摩尔定律与超摩尔定律
DNA序列、记忆、通信、因特网和小型化
奇点是一项经济命令

临近奇点,局面就完全就转折了。

新葡亰496net,第3章 达到人脑的计算能力
计算机技术第六范式:三维分子计算和新兴计算技术
人类大脑的计算能力
计算的限制

著名的国王下国际象棋的故事,或许可以佐证。战胜国王的大臣,想要得到的奖励是米,放到棋盘山:第一个格一粒米,第二格两粒……装满64个格子,要放9.2233720368548×10粒米。18个零是什么概念?8个零就是一个亿,这是指数级增长,经济学上讲的复利效应。

第4章 达到人类智能的软件:如何实现大脑的逆向工程
大脑的逆向工程:任务概况
人类大脑是否与计算机不同
对等进人大脑
构建人脑模型
大脑与机器间的接口
加速人类大脑逆向工程
人脑上传

爱因斯坦说:”世界上最大的能量不是核能量,而是复利。”

第5章 GNR:三种重叠进行的革命
基因技术:信息与生物的交汇
纳米技术:信息与物理世界的交汇
机器智能:强人工智能

我们每个人都知道,电脑的计算速度正变得越来越快。如果有一天,电脑的运算速度快到令人难以置信时,它们掌握人工智能的时刻也到来了——那时电脑,将能够模拟人脑、产生意识:人类本身也将发生改变。在信息学上,这个时间点也被称为“奇点”。

第6章 影响的盛装
关于人体
关于人类大脑
关于人类的寿命
关于战争:远程的、机器人的、健壮的、更小尺寸的、虚拟现实的范式
关于学习
关于工作
关于游戏
关于宇宙中智能的命运:为什么我们可能是宇宙中唯一的

一些科学家认为,正如天体物理学上存在着一个让所有物理定律都失效的“奇点”一样,信息技术也正朝着“超人类智能” 的“奇点”迈进。发明家、计算机科学家雷蒙德·库兹韦尔在接受《时代》杂志采访时表示,信息技术的奇点将在2045年到来。“届时,人工智能将超越人脑,人类的意义彻底改变,与机器融合为‘超人类’,并借助科技的发展而获得‘永生’”。

第7章 我是奇点
关于意识的烦人问题
我是谁?我是什么
奇点是一种超越

人工智能处理数据的能力远远大于人的能力,然而它们不用睡觉、没有情绪,不会被领导骂几句,工作效率就降低。

第8章 GNR:希望与危险的深度纠结
相互纠缠的益处
相互纠缠的威胁
生存危机的概观
准备防御
放弃的理念
防守技术的发展和监管的影响
GNR的一个防御计划

我们人类需不需要开始担心:10年或者更短的时间以后,可能失业的我们,到底还能做点什么?我想我要给替我写稿子的机器人做推拿。

第9章 回应评论家
一系列的批评
来自怀疑者的批评
来自马尔萨斯的批评
来自软件的批评
来自模拟处理的批评
来自神经处理的复杂性的批评
来自微管和量子计算的批评
来自图灵支持派理论的批评
来自故障率的批评
来自锁定效应的批评
来自本体论的批评:一个计算机可以有意识吗
来自贫富差距的批评
来自政府管制可能性的批评
来自整体论的批评

后记
本书相关资源与联系信息
附录重新审视加速回归定律
注释

序言

当人们看到太多相同的时候,也许我们很无知;

当人们看到太多不同的时候,也许我们视野不够大;

当人们同时看到不同和相同的时候,也许这恰是我们的智慧原点。

物质是静止的能量,能量是运动的物质,生命是连接物质与能量的桥梁;智慧是生命的形态,智能是智慧的简化,计算是智慧的元素,当人与机器以计算作为交集时,我们会发现它们的生命是相通的。

15世纪欧洲的文艺复兴,让科学挣脱神学的束缚,成为一匹驰骋的野马,为18世纪初的工业革命以及20世纪末至今的信息革命奠定了基础。求真、细分与发散的逻辑,让物质得到了无限的发展,然而人类的精神却被混淆了。

信息科技发展到今天,已呈现出了两大趋向:一方面传统IT正在走向资源化,即计算可以像水、电一样被资源化;另一方面软件正在与文化融合。在科技与人文的碰撞中,科技似乎走到了发散的尽头,人文也正在艰难地溶解着科技,人文化的科技正逐见端倪。

1998年,我们所在的南开大学嵌入式系统与信息安全实验室,在普适计算研究与新媒体阅读产业实践中,发现阅读作为人的一种基本行为,正在被雨后春笋般出现的各种网络化电子装置裂解,带有理性思考的传统阅读正在被无情的娱乐化,萃取、整合理性阅读成为一种使命,同时人迁就机器的时代正在淡去,人与机器融合的时代将要到来。由此带来的众多困惑,驱使我们不断地在Intemet上寻求营养。2008年,无意间看到了一则消息,称在美国的硅谷将成立一所“奇点大学”,这个大学的名称和教育探索,源起于一本《奇点临近》的图书。出于好奇,简单在网上搜索了一些评述资料和评论,发现作者是大名鼎鼎的雷•库兹韦尔先生。由于国内没有完整的原版图书,我便通过正在美国UCLA联合培养的宫晓利博士,买了本《奇点临近》电子书,浏览后发现书中的观点很特别,而且与我们计算机专业相关,就安排实验室的硕士、博士按照章节进行报告、讨论,经过半年的讨论,发现书中的观点对我们非常有启发意义。在这期间董振华博士(现在UMN联合培养)建议我将其翻译成中文,介绍给中国的读者,由此产生了翻译本书的冲动。

奇点一词来源于数学的Y=1/X函数曲线上X=0的点,这个点应该是数学的禁区,也因此给人们以无限的遐想,在这一点上,也许科学与人文得到了交融。

在本书的翻译过程中,我们发现了本书的叙述方式和内容有以下特点:

(1)奇特与警示的结论

书中六个纪元的划分非常奇特而又富于哲理,宇宙的唤醒是个神圣的命题,大脑的模拟、计算能耗、人与机器的相互融合等都是一个个令人惊叹的结论,其结论如此的积极、如此的自信、如此的奇特。.

(2)严谨与独特的论述方法

书中前两章运用了归纳式推理总结,后几章又大量运用了演绎式推理预测,真正诠释了回溯有多远,预见就有多远的道理;作者通过追溯、分析以往的科学发展趋势和当今科技的现状,演绎并预测未来。
其重点论述的技术加速回归定律已被现实逐步地验证。

(3)警世之语与探讨性对话

书中每章章首都有名人的警世之语:通过智者的眼睛去审视自然、科学以及我们生存的世界,从而不断强化思想的力量;

章尾是与未来的对话,是一种思想的博弈:通过设想中的未来去理解当今的技术发展和进化中的人类。

(4)东西方思维的对话

本书集中体现了西方科学注重演绎的思维方式,即分科放大的纵向思维回归;不同于东方哲学着重归纳的横向思维方式;书中以东方的归纳思维为基础,以西方的演绎思维导出结论,两者恰如“T”字形中的“横”与“竖”,无意之中完成了一次东西方思想的对话。

(5)GNR综合,科学的东方回归

GNR是三门可敬可畏的学问:触动物种的遗传(G)、复制物质的纳米(N)和改变智慧和灵魂的机器(R)。西方科学本质的发散性极有可能令G、N、R失控;东方哲学的宇宙观本质是收敛的,注重与自然、宇宙的和谐共存,科技的发展亟须东方哲学的收敛性作为制动系统,保证天地人的共生。

(6)衍生无限的奇点

“奇点”后续的衍生物包括:

•“奇点主义”:“奇点”已经成为了一种思潮,在世界范围内具有广泛影响,关于它的争论没有一天停息过,拥护者将奇点升级为奇点主义,从哲学、科学、技术、艺术等各个方面构建奇点。

•“奇点大学”:2009年2月,Google和NASA联合建立了奇点大学,旨在解决“人类面临的重大挑战”。

•电影《奇点临近》:由库兹韦尔自编、自导、自演,从艺术的角度说明“奇点”,本片将于2011年上映。

后记

我不知道这个世界会如何看我,但对我自己而言,我仅仅是一个在海边嬉戏的顽童,为时不时发现一粒光滑的石子或一片可爱的贝壳而欢喜,可与此同时对我面前的伟大的真理的海洋熟视无睹。

——艾萨克•牛顿

生命的意义在于创造爱。这并不是因为爱是一种内在的感觉,或是一种私密的脆弱的情绪,而是因为爱是一种动态的力量穿梭于世间,驾驭着最原始的事物。

——汤姆•莫里斯,《If Aristotle Rann General Motors》

没有指数增长是永远的,但我们可以延迟“永远”。

——戈登•E•摩尔,2004

多么奇异?奇点有多么奇异?它会发生在瞬间吗?让我们再来考虑一下这个词的出处。在数学中,奇点是一个值,它实质上超越任何限制,是无穷大的值。(一般来说含有奇点的函数在这个点是没有定义的,但我们可以证明,函数在这个奇点附近的值是超过任何具体的有限的值的。)

正如本书所讨论的,奇点并没有实现无限级别的计算、存储,以及任何其他可测量的属性。但是在所有这些特性上,包括智能,奇点肯定已经达到很高的水平。随着人脑逆向工程的发展,我们有能力将并行的、自组织的、无序的人工智能算法应用于大规模的复杂计算。届时这种智能将有能力在一个快速推进的迭代过程中,在硬件和软件两个方面改善自己的设计。

但是局限性似乎依然存在。宇宙所能支持的智能计算能力似乎只有大约1090cps,这一点在第6章就曾经讨论过。也有些理论(如全息宇宙理论)指出宇宙所支持的智能计算能力可以达到更高的水平(比如10120cps)。但这些量级显然都是有限的。

当然,对于我们当前的计算能力能够实现的所有实际目标来说,这种智能的计算能力看起来是无限的。宇宙智能的计算能力是1090cps,这比当今地球上所有的生物大脑还要强大。1048倍。就像我在第3章回顾过的那样,即使是一个1kg的“冷”计算机,它的峰值计算能力是1042cps,这也比全人类大脑的计算能力高1016倍。

鉴于指数计数法的力量,我们可以很容易地联想到更大的数字,即使我们缺乏想象力去考虑这些意味着什么。在可以预见的未来,我们将可能把智慧传播到其他的宇宙中去。这种情况是基于我们目前对宇宙的了解所做出的设想,尽管不太确定。这可能使我们未来的智能水平足以超越任何限制。如果我们有能力创造或向其他宇宙移民的话(如果有办法做到这一点,我们在未来的文明里所拥有强大智能很可能是可以驾驭它的),我们的智能水平最终将能够超出任何具体有限水平。这正是我们在数学函数里所说的奇点。

“奇点”这个词在物理学中又是如何应用的呢?物理学从数学中借用了这个词,总是用在一些拟人化的情况(就好像将“有魅力”和“奇异的”用于夸克的命名)。在物理学中,“奇点”在理论上是指密度无限大的零点,以及其无限大的万有引力。

但是,由于量子的不确定性,实际上不存在无穷大密度的点,事实上,量子力学也不允许出现无穷值。

就像我们在本书中所讨论的奇点一样,物理学中的奇点表示的是难以想象的巨大的值。

而物理领域所感兴趣的,并不是实际的大小是否为零,而是一个有着和黑洞内的奇点理论相似的事件视界(这甚至都不一定是黑洞了)。事件视界内的粒子和能源,如光,都是无法逃避的,因为重力太强大了。因此,从事件视界以外,我们肯定不能轻易看到视界内部。

然而,因为黑洞释放出了粒子雨,这给出了一种看到黑洞内部的方法。事件空间附近会产生粒子一反粒子对(这会发生在空间里任何的地方)。对于某些粒子对,有时候会有一个被拉到黑洞里,有一个会趁机逃跑。这些逃离的粒子会形成光束,称为霍金辐射,是用它的发现者史蒂芬•霍金的名字来命名的。现在普遍认为的是,这种辐射并不反映(以一种编码方式,并作为一个量子纠缠与内部粒子形式的结果)黑洞内部发生了什么。霍金起初抵制这个解释,但现在似乎已经同意。

因此,我们认为在本书中所使用的“奇点”这个词的准确性并不比物理学领域差。正如我们很难看到超出了黑洞的事件视界,我们也很难看到超越历史奇点的事件视界。我们怎么能够在我们每个大脑限制于1016cps的情况下,去想象我们在2099年能够拥有进行1060cps计算的能力来思考和处理事情。

然而,正如我们从未实际进入黑洞中,但却能通过概念思考得到关于黑洞属性的结论。我们现在的思考足以洞察奇点的含义。这正是我在本书中一直在尝试做的。

人本主义。人们普遍认为,科学一直在纠正我们过分夸大自己的意义。斯蒂芬•杰伊•古尔德说:“所有重要的科学技术革命的共性是:推翻了人们相信自己是宇宙中心的信仰,而后使人类放弃顽固的傲慢。”

但事实证明,我们始终是“中心”。我们有能力在大脑中创造模型来虚拟现实,凭借这种能力再加上一点前瞻性的思考,我们就足以迎来又一轮的进化:技术进化。这项进化使得物种进化的加速发展过程一直延续,直到整个宇宙都触手可及。

文摘

我不能确定自己是在什么时候第一次意识到奇点的,应该承认这是一个逐渐认识的过程。在近半个世纪的时间里,我致力于计算机及其相关技术的研究工作,并努力去理解我亲身经历的很多层面上的巨大变革及其背后的内涵和意义。渐渐地,我开始认识到21世纪前五十年里变革的大致轮廓——就好像空间中的黑洞突然改变了物质和能量的模式,加速朝其边界发展。这逼近未来的奇点,从肉体到精神,逐步地改造人类生活的各个方面。

那么,什么是奇点呢?奇点是未来的一个时期:技术变革的节奏如此迅速,其所带来的影响如此深远,人类的生活将不可避免地发生改变。虽然这个纪元既不是乌托邦,也不是反乌托邦的形态,但它将人类的信仰转变为生命能理解的意义;将事物模式本身转变为人类生命的循环,甚至包含死亡本身。理解奇点,将有利于我们改变视角,去重新审视过去发生的事情的重要意义,以及未来发展的走向。一个人真正理解了奇点的含义,将从根本上改变他的人生观和他的人生。我所尊重的一些人,他们理解了奇点,领悟了它的内涵,他们终身都是奇点人。

我可以理解,为什么很多观察家不能较快地意识到加速回归定律的本质内涵(发展变革的本质加速,包括技术的进化作为生物进化的延续)。毕竟,我用了四十年的时间去见证这个定律的正确性,而且,这个定律所带来的后果并不都是令人满意的。

奇点临近暗含一个重要思想:人类创造技术的节奏正在加速,技术的力量也正以指数级的速度在增长。指数级的增长是具有迷惑性的,它始于极微小的增长,随后又以不可思议的速度爆炸式地增长——如果一个人没有仔细留意它的发展趋势,这种增长将是完全出乎意料的。

请看这样一个寓言:一个湖的主人希望呆在家中照料湖中的鱼,他要确保湖面不会被百合浮萍覆盖,这种浮萍据说每天都以其自身两倍的数量增长。日复一日,湖的主人耐心地等待,他发现只有很少量的百合浮萍出现,而且它们似乎不会以任何显著的方式扩展蔓延。由于只有不到百分之一的湖面覆盖了百合浮萍,湖的主人确认可以与家人度过一个悠闲的假期。几周之后,当他回来的时候,他被眼前的景象震惊了:整个湖面都被浮萍覆盖了,所有的鱼也都死了。由于浮萍的数量以每天成倍的速度增长,7次加倍就可以使浮萍覆盖整个湖面(7次加倍将达到原来128倍)。这个例子说明了指数增长的内涵。

再来看看国际象棋世界冠军格瑞•卡斯帕罗夫,1992年,他曾不屑于计算机棋手的水平。但是由于计算机的能力每年都以两倍的速度递增,所以五年后,卡斯帕罗夫被计算机击败。。在很多方面,计算机现在已经超越了人类的计算能力,并以更快的速度发展。同时,计算机智能应用也在逐渐拓宽。举例来说,计算机能够诊断心电图和医学图像,侦测飞机的起飞与降落,控制自动武器的战术决策,做出信用与金融决策,同时承担着很多需要人工智能辅助完成的任务。但是人工智能在众多领域也存在缺陷,怀疑者认为人工智能在某些领域无法超越人类智能,这恰恰说明了人类的能力优于其本身的创造能力。

尽管如此,本书将会讨论在未来的几十年里,基于信息的技术将会容纳人类所有的知识和技能,甚至包含识别模式的能力、解决问题的技巧,以及人类大脑中内在的情感与道德的智慧。

尽管大脑在很多方面具有极为优越的性能,但其仍有很多局限性。现在已经可以通过技术使用大量的并行(数百T级的模拟内部神经元链接操作)来迅速认知大脑中微妙的模式。但我们的思考却是很慢的:基础的神经元事件处理比同等的电子电路要慢上数百万倍。这将导致人类在生理上处理新知识的能力远远跟不上人类知识的指数级增长速度。

人类生物体的1.0版本也是很脆弱的,他容易屈服于大量的错误模式,而且,维持生命需要大量的成本。虽然人类的智能在某些时刻能够突破他的创造力和表象,但是人类的大多数想法还都是衍生的、琐屑的、受限的。

奇点将允许我们超越身体和大脑的限制:我们将获得超越命运的力量;我们将可以控制死亡;我们将可以活到自己想达到的年龄(这与“永生”有细微的差别)。我们将充分理解人类的思想并极大程度地拓展思想的外延。在21世纪行将结束的时候,人类智能中的非生物部分将无限超越人类智能本身。

我们正处于这一变革的早期阶段。模式变化的加速度(我们改变基本技术方法的速率)将与信息技术的指数增长速度相同,并都将处于膝曲线的拐点(在这个时期指数增长的趋势将变得非常明显)。一旦越过这一阶段,这种加速的趋势将爆炸式地增长。在2l世纪中期以前,我们的技术增长率(与我们自身的增长速度大不相同)将以近似垂直线的速度增长。从严格的数学角度来看待这个问题:虽然速度的增长仍然是有限的,但它近乎极限的速度,必将撕裂人类固有的历史结构。至少在无法提高人类生物智能这一理论的前提下,该观点成立。

奇点将代表我们的生物思想与现存技术融合的顶点j它将导致人类超越自身的生物局限性。在人类与机器、现实与虚拟之间,不存在差异与后奇点。如果你想知道在这个时代人类的哪些特质将保持不变,很简单:人类这一物种,将从本质上继续寻求机会拓展其生理和精神上的能力,以求超越当前的限制。

很多批评家对于这些改变的评述都聚焦于这个过渡时期带给人类的在一些重要方面的缺失。但若从这个角度考虑问题,就不能准确地理解技术的未来。当前所有的机器都比不上人类本身那么精妙。尽管奇点有很多方面,但其最重要的内涵是:我们的技术将能够和人类最优秀最精妙的品质相媲美,并超越它们。

本文由www.649.net发布于中国军情,转载请注明出处:科技(science and technology)巨头忧人工智能失控灭人

关键词: www.649.net 新葡亰496net 荐书 随笔 人脑