您正在使用IE低版浏览器,为了您的FUTUREAI账号安全和更好的产品体验,强烈建议使用更快更安全的浏览器
FUTUREAI 智能新品
发私信给FUTUREAI
发送

人工智能的超级英雄:这个天才可以控制它吗?

本文作者:FUTUREAI 2018-09-12 13:15
导语:凭借他的公司DeepMind,Londoner Demis Hassabis领导Google的项目,构建比人脑更强大的软件。 但这对人类的未来意味着什么呢? 2016年2月16日星期二 08.15 GMT 最后修改于2017年2月22日星期三 17.5

凭借他的公司DeepMind,Londoner Demis Hassabis领导Google的项目,构建比人脑更强大的软件。但这对人类的未来意味着什么呢?


德米斯哈萨比斯。

 展望未来:Demis Hassabis。照片:David Ellis为谷歌

Demis Hassabis有着谦虚的风度和谦逊的面容,但当他告诉我他正在执行“解决情报,然后用它来解决其他问题”的任务时,他是致命的严重。来自几乎所有人,声明将是可笑的; 来自他,而不是他。Hassabis是39岁的前国际象棋大师和视频游戏设计师,其人工智能研究的启动,DeepMind,是由谷歌在2014年收购报道为6.25亿美元。他是移民之子,曾在Finchley参加过全州综合大学,并拥有剑桥大学和伦敦大学学院的计算机科学和认知神经科学学位。哈萨比斯认为,他是一位“有远见”的经理,他也认为他已经找到了“使科学研究高效”的方法,并表示他正在领导“21世纪的阿波罗计划”。他是那种看起来很正常的男人,你不会在街上看两次,但Tim Berners-Lee曾经把他描述为我这个星球上最聪明的人类之一。

当然,每当我们询问Siri或在Android上获得推荐时,人工智能已经在我们周围。从短期来看,即使个性化,搜索,YouTube,语音和面部识别方面的改进没有像“AI”一样呈现,Google产品肯定会受益于Hassabis的研究。(“那它只是软件,对吗?”他笑着说道,“这只是有用的东西。”但从长远来看,他正在开发的技术不仅仅是情感机器人和智能手机。它不仅仅是谷歌不仅仅是Facebook,微软,苹果和其他大公司目前正在吸收AI博士学位,并将数十亿美元投入到最新的技术军备竞赛中。这是我们可能想象的一切; 还有很多我们做不到的事情。

如果听起来雄心勃勃,那就是。大多数人工智能系统都是“狭窄的”,培训预先编程的代理来掌握特定的任务,而不是其他任务。所以IBM的Deep Blue可以在国际象棋中击败Gary Kasparov,但是在一轮零星和十字架中将会与三岁的孩子作斗争。Hassabis,在另一方面,从人脑到他的灵感,并试图建立的第一个“通用型学习机”:一个单一的集合,可以学习灵活,自适应算法-在 相同 的方式生物系统做的-如何从头开始掌握任何任务,只使用原始数据。



谷歌以4亿英镑收购英国人工智能创业公司Deepmind

 

阅读更多



这是人工一般情报(AGI),强调“一般”。在他对未来的展望中,超智能机器将与人类专家协同工作,以解决任何问题。“癌症,气候变化,能源,基因组学,宏观经济学,金融系统,物理学:我们想要掌握的许多系统都变得如此复杂,”他争辩道。“有这样一种信息超载,即使是最聪明的人也很难在其一生中掌握它。我们如何筛选这些大量数据以找到正确的见解?考虑AGI的一种方法是将非结构化信息自动转换为可操作知识的过程。我们所做的工作可能是任何问题的元解决方案。“

这个元解决方案可能还需要几十年的时间,但它似乎越来越紧密。2015年2月,世界领先的科学杂志“ 自然 ” 在其封面上展示了像素化的太空入侵者,以及“自学成才的人工智能软件”在电子游戏中获得“人类水平表现”的启示。在内部,DeepMind的论文描述了第一个成功的通用“端到端”学习系统,其中他们的人工智能代理,一种在图形处理单元上被称为Deep-Q网络的算法,已经学会了如何在屏幕上处理输入,有意义它,并做出导致预期结果的决定(在这种情况下,在一系列经典的Atari 2600游戏中成为超人,包括Space Invaders拳击乒乓球。)这是一个突破技术世界的突破。

FacebookTwitterPinterest

Hassabis谈论AlphaGo的发展

然后,上个月,DeepMind发布了第二部自然封面故事 - 在如此短的时间内取得了令人瞩目的成就。这一次,它的测试床比70年代和80年代的老式街机游戏更进一步。深奥的中国策略游戏Go已有2500多年的历史,并在孔子的着作中有所提及。它的分支因素是巨大的:它比宇宙中的原子有更多可能的移动; 并且,与国际象棋不同,它不能通过粗暴计算得出。难以理解,也不可能编写评估函数,即一组规则,告诉你谁赢得了一个位置以及多少。相反,它需要类似于其玩家的“直觉”的东西:当被问及为什么他们采取了某种行动时,专业人士常常会说:“感觉正确。”

出于显而易见的原因,计算机传统上做出这样的判断是很糟糕的。因此,长期以来,Go一直被认为是人工智能的“杰出巨大挑战”之一,大多数研究人员预计,至少还需要十年时间,机器甚至可能希望破解它。

但是严格的同行评审证据显示,去年秋天,DeepMind的新人工算法AlphaGo在一场秘密比赛中以5比0击败了三届欧洲冠军范辉,并且正在排队争夺世界冠军,Lee Sedol,三月。“一项惊人的成就”是帝国理工学院认知机器人教授默里·沙纳汉(Murray Shanahan)后来向我描述的。“一个重要的里程碑”,超人主义哲学家尼克博斯特罗姆同意,他的书“ 超级智能:路径,危险,战略”认为,如果AGI能够完成,那将是一个无与伦比的后果 - 也许是借用谷歌工程总监Ray Kurzweil的话,甚至是历史结构的破裂。博斯特罗姆在他位于牛津大学人类未来研究所的办公室告诉我,AlphaGo的成就“戏剧化了过去几年在机器学习方面取得的进步”。

“这很酷,是的,”当我们在他的办公室见面讨论最新的胜利时,哈萨比斯同意,没有戏剧性。像往常一样,他穿着一身不起眼的黑色上衣,裤子和鞋子:据报道,谷歌的这笔交易据报道,他个人获得了8000万英镑的罚款,因为他认为自己是一名实习生,你会被原谅。“Go是最终的:游戏的巅峰,以及智力深度最丰富的游戏。这是令人着迷和美丽的,对我们来说令人兴奋的不仅仅是我们已经掌握了游戏,而是我们用非常有趣的算法完成了它。“Play Go更像是一门艺术,而不是一门科学,他坚持认为,”和AlphaGo以一种非常人性化的方式演奏,因为它是以人的方式学习,然后通过演奏变得更强大,就像你或我一样。“哈萨比斯可能看起来像一个学生,但他像父母一样骄傲。AlphaGo是他职业生涯中最令人兴奋的事情。“这比任何人想象的要好一个数量级,”他兴奋地说,“但对我们来说最重要的一点是,这不是一个使用手工制作规则的专家系统。它通过使用通用机器学习技术教会自己掌握游戏。最终,我们希望将这些技术应用于重要的现实问题,如气候建模或复杂的疾病分析,对吧?因此,开始想象它可能能够解决的问题非常令人激动......“ 它通过使用通用机器学习技术教会自己掌握游戏。最终,我们希望将这些技术应用于重要的现实问题,如气候建模或复杂的疾病分析,对吧?因此,开始想象它可能能够解决的问题非常令人激动......“ 它通过使用通用机器学习技术教会自己掌握游戏。最终,我们希望将这些技术应用于重要的现实问题,如气候建模或复杂的疾病分析,对吧?因此,开始想象它可能能够解决的问题非常令人激动......“


 

气候模型,复杂的疾病分析 - 开始想象接下来可能会解决的问题是非常令人兴奋的

德米斯哈萨比斯


Advertisement

我与Hassabis的第一次相遇是在2014年夏天,也就是DeepMind之后的几个月收购。从那时起,我观察他在各种环境中工作,并在过去八个月中三次分别正式采访了他。在那段时间里,我看到他从谷歌的人工智能天才发展成为一个引人注目的沟通者,他找到了一种有效的方式来向像我这样的非科学家描述他非常复杂的工作 - 他对此非常感兴趣 - 以及为什么这很重要。无懈可击,越来越风度翩翩,他非常擅长打破DeepMind的方法; 即他们将新旧AI技术相结合 - 例如,在Go中,使用传统的“树搜索”方法分析移动与现代“深度神经网络”,近似于大脑中的神经网络 - 以及他们有条不紊的“婚姻” “人工智能研究的不同领域。

在DeepQ中,他们将深度神经网络与“强化学习”相结合,这是所有动物通过大脑多巴胺驱动的奖励系统学习的方式。通过AlphaGo,他们更进一步,增加了另一个更深层次的强化学习,处理长期规划。接下来,它们将集成,例如,记忆功能,等等 - 直到理论上,每个智能里程碑都到位。“我们在路线图上有一个关于这些能力有多少的想法,”哈萨比斯说。“结合所有这些不同的领域是关键,因为我们对可以使用他们从一个领域学习并将这些知识应用于新领域的算法感兴趣。”

这听起来有点像男人本人。乍一看,他的简历表明,从棋盘游戏,视频游戏,计算机编程到认知神经科学等各种各样的好奇心,更不用说人工智能了。事实上,他今天的立场是激光聚焦的结果:故意综合他自己强大的,一代一代的智力以及他一生中磨练的学科。(简要介绍卷轴:写自己八岁的电脑游戏;在13岁时达到国际象棋大师身份;创建主题公园,第一个纳入AI的视频游戏之一,17岁; 20岁时从剑桥大学获得计算机科学双学位; 不久之后,他创立了自己的开创性视频游戏公司Elixir; 在2011年创立DeepMind之前,将海马和情景记忆的开创性学术工作作为“拼图游戏的最后一块”。

“我很容易感到无聊,这个世界非常有趣,还有很多很酷的事情要做,”他承认。(他还拥有五次世界纪录,成为Mind Sports Olympiad精英“Pentamind”的五倍冠军,哪些竞争对手在多场比赛中相互挑战。)“如果我是一名体育运动员,我本来想成为一名十项全能运动员。”


欧洲围棋冠军范辉


FacebookTwitterPinterest

 欧洲围棋冠军范辉采用了AlphaGo系统。照片:宣传图片

运动的荣耀永远不会被招手。尽管Hassabis是一名热衷于利物浦的球迷,并且热爱观看所有体育赛事,但在四岁时他开始下棋,一年之内就在全国范围内竞争,不久之后在国际上竞争。据推测,他很快就会变得非常明显,这将是他心灵的生命。

Advertisement

1976年出生于伦敦北部的希腊塞浦路斯父亲和新加坡华裔母亲,他是三个兄弟姐妹中最大的一个。他的父母是曾经拥有玩具店的老师。他的妹妹是作曲家和钢琴家; 他的兄弟研究创意写作。技术在家庭中并不存在。“我绝对是我家里的外星黑羊,”他开玩笑说,回忆起小时候他如何在ZX Spectrum 48K上获得国际象棋奖金,然后是Commodore Amiga,他迅速拆开并想出如何程序。“我的父母都是技术恐惧症。他们真的不喜欢电脑。他们有点波希米亚风格。我的姐姐和兄弟也走了艺术路线。他们都没有真正参加过数学或科学研究。“他耸了耸肩,几乎是道歉。“所以,是的,这很奇怪,我不太确定这一切是从哪里来的。”

他的公司,谷歌收购它的50强,现在雇佣了来自45个国家的近200名员工,占据了一座建筑的六层楼,位于King's Cross的一个重建角落。尽管有压力转移到其他地方(包括可能是硅谷的山景城),哈萨比斯决定他的公司应该保持接近他的根基。

“我在伦敦北部出生并长大,”他提醒我。“我非常喜欢这座城市。这就是为什么我坚持住在这里:我觉得伦敦没有理由不能建立世界一流的人工智能研究所。我为自己的位置感到自豪。“所有的房间都以知识巨头的名字命名:特斯拉,拉马努金,柏拉图,费曼,亚里士多德。玛丽雪莱。(他是粉丝吗?“当然,”他向我保证。“我已经读过几次弗兰肯斯坦。记住这些事情很重要。”)

在一楼是一个咖啡馆和外露砖接待处,有一些椰子水储存的冰箱,桌上足球机和豆袋,你期望从世界上最雄心勃勃的科技公司之一。楼上环绕着原有的建筑,是一个现代化的开放式结构,设有一个甲板,无可否认地看到伦敦屋顶的壮丽景色。

周五晚上,DeepMinders聚集在一起喝酒。一位员工热情地将这种仪式描述为“以高端结束本周”的方式。社交是一种内在的生活方式:我被告知DeepMind跑步俱乐部,足球队,棋盘游戏俱乐部。(“那个人很有竞争力。”)一张带有可移动照片的挂图表明每个人在任何一天都在办公桌上。这是积极的开放计划。我走过走廊的工程师 - 大多数是男性 - 打破了人类工作在人类工作的角落里工作的刻板印象:这些人看起来很健康,快乐,很酷。必须要说的是,一种充满智慧魅力的空气在大气中振动。并不奇怪。这个星球上最聪明的人正排队到这里工作,到目前为止,保留率是100%,

“我们真的很幸运,”哈萨比斯说,他将自己的公司与阿波罗计划和曼哈顿计划进行了比较,因为它雄心勃勃的雄心壮志和他正以越来越高的速度组装的思想品质。“我们每年都能从每个国家获得最好的科学家。因此,我们将拥有赢得波兰物理奥林匹克竞赛的人,他是法国年度最佳数学博士。我们有更多的想法,而不是我们的研究人员,但与此同时,还有更多伟大的人来到我们家门口。所以我们处于一个非常幸运的位置。唯一的限制是我们可以吸收多少人而不损害文化。“



埃隆·马斯克说,他在“终结者”的恐惧中投资了DeepMind


这种文化比豆袋,免费小吃和屋顶啤酒更深刻。坚持认为谷歌收购并没有以任何方式迫使他偏离自己的研究路径,哈萨比斯认为他“至少花了很多时间考虑DeepMind作为算法的效率”,并将该公司描述为“混合了拥有最激动人心的初创企业,拥有令人难以置信的能量和嗡嗡声,为创造力和进步提供了最好的学术机会。“他提到了许多”创造力“,并观察到尽管他的正式培训都是在科学方面,但他是”自然而然地在创造性或直观的“方面。“我不是,有点像,一个标准的科学家,”他说,显然没有讽刺意味。对DeepMind结构至关重要的是他所谓的“胶水思维”:能够充分掌握无数科学领域的博学家们“找到连接点并快速确定哪些有希望的跨学科联系可能会以某种左场方式进行。”应用正确的基准,这些胶粘人员可以检查工作组每隔几周,并迅速,灵活地,在需要的地方移动资源和工程师。“因此,你将拥有一位不可思议的天才研究员,而且几乎立即就像学术界一样,来自不同地区的三到四个人可以拿起那根指挥棒,并以自己的才华加入它,”他描述道。“这可以很快地产生令人难以置信的结果。”仅在18个月前推出的AlphaGo项目就是一个完美的例子。“应用正确的基准测试,这些胶水人员可以每隔几周检查一次工作组,并且可以灵活地,灵活地在必要时移动资源和工程师。“所以你将拥有一位不可思议的,天才的研究员,而且几乎立即就像学术界一样,来自不同地区的三到四个人可以拿起那根指挥棒并加上它自己的才华,”他描述道。“这可以很快地产生令人难以置信的结果。”仅在18个月前推出的AlphaGo项目就是一个完美的例子。“应用正确的基准测试,这些胶水人员可以每隔几周检查一次工作组,并且可以灵活地,灵活地在必要时移动资源和工程师。“所以你将拥有一位不可思议的,天才的研究员,而且几乎立即就像学术界一样,来自不同地区的三到四个人可以拿起那根指挥棒并加上它自己的才华,”他描述道。“这可以很快地产生令人难以置信的结果。”仅在18个月前推出的AlphaGo项目就是一个完美的例子。来自不同地区的三到四个人可以拿起那根指挥棒并加上它自己的才华,“他描述道。“这可以很快地产生令人难以置信的结果。”仅在18个月前推出的AlphaGo项目就是一个完美的例子。来自不同地区的三到四个人可以拿起那根指挥棒并加上它自己的才华,“他描述道。“这可以很快地产生令人难以置信的结果。”仅在18个月前推出的AlphaGo项目就是一个完美的例子。

每天晚上,哈萨比斯都会在北线上跳来回家,与家人共进晚餐。他们住在Highgate,离他长大的地方不远。他的妻子是意大利分子生物学家,研究阿尔茨海默病。他们的两个儿子分别是七个和九个。Hassabis将与他们一起玩游戏和阅读书籍,或帮助他们完成家庭作业。(“他们都以自己的方式表现出色,但在科学和创造方面,他们几乎就像我的对立面。”)

他会像任何一个普通的爸爸一样把它们放在床上。然后,大约晚上11点,当大多数人可能合理地期望进入时,他开始称他为“第二天”。凌晨1点一直有Skype电话与美国一起举行。在那之后,这是一个“只是想时间的机会”。直到凌晨三四点,我才会思考:研究,下一次挑战,或者我会写一个算法设计文档。“

他承认,实际的AI编码并不是那么多,“因为我的数学现在太生疏了。它更多的是直觉思维。或者也许是对公司的战略思考:如何扩展和管理。或者它可能只是我在一篇文章中看到的东西或当天看到的新闻,想知道我们的研究如何与之相关联。“

我想起了AlphaGo,它在谷歌难以想象的强大计算云中,只是玩耍,玩耍和玩耍,每一天每一秒都在自我提升,因为它可以学到的唯一方法就是继续......

“它有没有休息?”我问道。

“不。没有休息!它甚至没有圣诞节。“

我犹豫。“它不需要休息吗?”

“也许它喜欢它,”他回击道,眼中闪烁着光芒。

点了。那么哈萨比斯本人呢?“绝对超人,”他的一位同事随随便便对我说。他 - 他能不能 - 关掉?“这很难,”他承认道。“我从来没有真正做过与生活有关的工作; 它是同一画布的所有部分。我喜欢看书,看电影,听音乐,但它往往都会回到我所做的事情上。“(一个大电影迷,他认为亚历克斯加兰德,他是最近的AI电影Ex Machina,作为朋友;并提到他刚刚与美国电影制片人布莱恩·格雷泽(Brian Grazer)会面,这是一个“非常酷的家伙”,他们在谈论,你猜对了,人工智能。)“我的大脑完全被它消耗掉了。”

他的孩子,朋友,正常生活怎么样?“我当然试着坚持下去,否则我会有点生气。对于孩子来说,最酷的是他们几乎是唯一可以以同样的方式消耗你的东西。“


 

如果存在超出人类智能的数字智能,则“帮助”不是正确的描述

伊隆马斯克


他当然让他的朋友们保持密切关系:他遇到了他的一位DeepMind联合创始人Shane Legg,当他们都是伦敦大学学院的博士学位时,他们认识了另一个人Mustafa Suleyman,因为他们还是孩子。他讲述了一个可爱的故事,即在剑桥与一位名叫Dave Silver的本科生结交,后来教他在业余时间玩棋盘游戏 - 包括一些古老的中国游戏。二十年后,我注意到,David Silver是DeepMind Go团队的主要程序员,也是最新Nature论文的主要作者“是的,戴夫和我在一起有着悠久的历史,”哈萨比斯笑着说。“我们曾经梦想在我们的一生中这样做,所以我们19岁的自我可能会非常放心,我们来到这里。”

他反思地补充说:“虽然这是真的,但我没有太多正常的生活。每一个醒着的时刻,这都是我在想的,也可能在我的梦中。因为它如此令人兴奋,它非常重要,而且这是我最热衷的事情。“

他的眼中有一种我只能描述为光芒四射的目的,在其纯真中几乎像孩子一样。“我感到非常幸运。我想不出比我正在研究的问题更有趣的问题,我每天都会想到它们。每一刻我都在做一些我真正相信的事情。否则,为什么要做,因为生命有多么短暂?“

如果人们对斯蒂芬霍金,比尔盖茨,伊隆马斯克,贾恩塔林,尼克博斯特罗姆以及其他一些巨大的科学头脑的人工智能相关的恐惧得以实现,那么生活可能会缩短很多。关注范围从未经检查的AGI武器到“ 技术奇点 ”的幽灵“导致”智能爆炸“,其中机器变得能够递归地自我改进,并且这样做超过了人类大脑的智力能力,并且进而扩展了我们控制它的能力。如果一场超级情报灾难迫在眉睫,历史并不是一个可靠的指标,我们将会有远见在即将到来之前退出AI军备竞赛。“当你看到技术上甜美的东西时,”罗伯特奥本海默曾经观察过,着名的,“你继续做下去,只有在你取得技术上的成功之后才会争论该怎么做。”“如果有办法保证优秀的人工智能永远不会伤害人类,”博斯特罗姆注意到,几十年后,“那么这样的知识就会被创造出来。如果没有办法得到这样的保证,人类历史上最大的事件不幸的是,它也可能是最后一次。“

“好吧,我希望不会,”哈萨比斯说道。在他看来,公众对AGI的危言耸听掩盖了近期巨大的潜在利益,并且从根本上是错位的,尤其是因为时间尺度。“我们距离人类普通情报还有几十年的距离,”他提醒我。“我们正处于阶梯的第一梯队。我们正在玩游戏。“他承认存在”我们现在应该考虑的合法风险“,但坚持认为这些不是科幻小说的反乌托邦情景,其中超智能机器无情地分配他们的人类创造者。



Demis Hassabis:关于DeepMind Technologies创始人的15个事实

 

阅读更多



此外,他坚持认为,在减轻AGI的潜在危险方面,DeepMind正处于领先地位。该公司虽然显然不受政府主导的阿波罗或曼哈顿项目的官方审查,但却非常透明地运作。它倾向于发布其代码,而谷歌交易的条件是禁止在军事或情报应用中使用其技术。哈萨比斯和他的同事们在波多黎各举行的关于人工智能的2015年会议上发挥了重要作用,并签署了公开信,承诺在“避免潜在的陷阱”的同时“善用”这项技术。他们最近在纽约帮助协调了另一次这样的会议,他们大肆吹嘘的内部道德委员会和咨询委员会现已召开会议(尽管是私下会议)。“哈萨比斯完全熟悉人工智能安全论点,”穆雷沙纳汉指出。“他当然不是天真,也不是他的头脑。”

“DeepMind在鼓励就这些问题进行对话方面一直是行业中的佼佼者,”博斯特罗姆表示赞同,“并参与了长期应对这些挑战所需的一些研究。”

我要求哈萨比斯概述他认为主要的长期挑战是什么。“随着这些系统变得越来越复杂,我们需要考虑如何以及如何优化它们,”他回答道。“技术本身是中立的,但它是一个学习系统,所以它们不可避免地会带来设计师价值体系和文化的一些印记,所以我们必须非常仔细地思考价值观。”

关于超级情报问题,他说:“我们需要确保目标得到正确规定,并且那里没有任何含糊不清的内容,并且随着时间的推移它们会保持稳定。但在我们所有的系统中,顶级目标仍将由其设计师指定。它可能会提出自己的方法来达到这个目标,但它没有创造自己的目标。“

他的口气无情地让人放心。“看,这些都是有趣而艰巨的挑战。与所有新的强大技术一样,这必须以道德和负责任的方式使用,这就是我们现在积极呼吁辩论和研究问题的原因,以便在时机成熟时,我们将做好充分的准备。

什么时候到来?为了让机器变得超级聪明,还是让它们成为人类的成功者?他笑了。“不,不,不,我的意思是,在那之前的方式!”(我认为他在开玩笑,虽然在2011年他的同事Shane Legg确实说过:“我认为人类灭绝可能会发生,技术可能会在这方面发挥作用。 “哈萨比斯澄清说:”我的意思是,当这些系统比仅仅玩游戏更强大时,我们会让他们放松一些更现实世界,更重要的事情,比如医疗保健。然后我们需要确保我们知道他们的能力是什么。“他对我咧嘴一笑。“那就是停止机器接管世界的情景。”



伊隆马斯克:人工智能是我们最大的生存威胁

 

阅读更多



哈萨比斯笑了很多。他很友善,非常有说服力。他说的一切似乎都是合理的,不是特别狂热,谁知道:也许AGI将继续在我们的控制之下。但许多人仍持怀疑态度。“很显然,如果存在大大超过人类智能各个方面的数字智能,‘援助’是不正确的描述,”认为伊隆·马斯克最近将人工智能技术的进步描述为人类“召唤恶魔”。SpaceX创始人兼特斯拉和PayPal联合创始人是DeepMind的原始投资者之一,但不是为了钱。“我不关心为投资而投资,”他在加州办公室告诉我。“我将资金投入DeepMind的唯一原因是为了更好地了解AI的进展和危险。如果我们不小心人工智能并且发生了一些不好的事情,那么银行存款就没有任何意义。

“埃隆是那里最聪明的人之一,与他交谈很神奇,”哈萨比斯中立地回应道。“而且我实际上认为像他一样非常酷的人正在进入人工智能,因为它只是显示了它的重要性。”他仍然保持外交,但显然让他感到恼火的是,来自其他地区的科学家可以自由地公开发表AI毕竟,你没有听到他对粒子物理学的看法。

“总的来说,我发现那些没有真正参与AI工作的人并不完全理解它。他们经常没有与许多人工智能专家交谈过,所以他们的思想实验正在逐渐消失,因为他们的基础是我认为结果是不正确的假设。“他再次提到内部伦理委员会和他组建了一个顾问委员会 - 来自不同科学和哲学学科的领导人物 - 来管理AGI技术未来的任何使用。他在这个阶段坚决捍卫他将诉讼程序保密的决定。“之前没有人尝试过这样的事情,所以在我们对公众进行额外的审查之前,我们必须要做很多探索性的事情,从第二天开始我们在推特上做什么,或者其他什么。”相,他说,是关于“让每个人都加快速度,以便在下一阶段我们准备好讨论实际的算法和应用程序。对于很多相关人员来说,这不是他们的核心领域。我们需要他们的专业知识,但他们必须更好地处理真实情况。“



马斯克,沃兹尼亚克和霍金敦促禁止战争AI和自主武器

 

阅读更多



史蒂芬霍金被认为是一个令人鼓舞的例子,说明这种“快速上升”的含义。最近两人在剑桥举行了由哈萨比斯煽动的私人谈话。“只是见到他,这显然是一种极好的荣誉,”他兴奋地说,拔出他的iPhone - 他仍然是一位奉献者,尽管他有新的工资主管 - 向我展示自拍。“我们只安排了一个小时,但他有很多问题,我们最终谈了四个小时。他错过了午餐,所以他的看护人对我不满意。“

哈萨比斯指出,自从他们的会面以来,霍金没有在报刊上提到“人工智能的任何煽动性”; 最令人惊讶的是,在他上个月的BBC Reith讲座中,他没有将人工智能纳入他对人类的假定威胁列表中。“也许它有所帮助,更多地了解实用性; 更多关于我们可能建立的实际系统以及我们可以对这些系统进行的检查和控制,“Hassabis冒险。他瞥了一眼房间,看到了无法辨认的字形白板。“一旦你理解了工程,这一切似乎都更容易理解和合理。”

显然,对我来说没有希望,但他是否真的相信霍金被皈依了?“我想最后,是的,他很放心。他有这种搞笑,非常干燥的幽默感,就在我离开之前,我对他说,“你觉得怎么样?” 他打字道,“祝你好运。” 然后,他的眼中充满了这种真正厚颜无耻的闪光,补充说,“但不要太多。”“Demis Hassabis给了我自己的解除武装的微笑。“我想,'我会把它当作一场胜利。'”


声明:景智AI网尊重行业规范,任何转载稿件皆标注作者和来源;景智AI网的原创文章,请转载时务必注明文章作者和"来源:景智AI网", 不尊重原创的行为将受到景智AI网的追责;转载稿件或作者投稿可能会经编辑修改或者补充,有异议可投诉至:mailto:813501038@qq.com

分享:
相关文章
最新文章