人工智能会在某一天超过人类的智力,然后计算机将会接管整个世界

Elon Musk联手YC CEO阻止计算机接管世界

来源:创业邦  |  作者:Christian  |  阅读:

难道当前人工智能技术战场的竞争还不够激烈吗?谷歌、苹果、Facebook、微软等在到处争夺人工智能技术人才,就连丰田等汽车制造商也加入了这场人工智能人才争夺大战之中。但是这还不够,今天人工智能战场又迎来了一个新的选手,而且其实力还不容小觑。这是一家名为OpenAI的非盈利组织,该组织在今天正式宣布成立。OpenAI最与众不同的地方在于,他们表示会将自己的研究成果完全免费公布给大众,他们希望自己的研究成功可以造福人类,并且打消一些人对于人工智能技术的顾虑:人工智能会在某一天超过人类的智力,然后计算机将会接管整个世界。这家机构的投资方为多个科技行业的杰出人物和企业,其中就包括Elon Musk、Reid Hoffman、Peter Thiel、Jessica Livingston和亚马逊的AWS等。

他们一共筹集了超过10亿美元的资金,供OpenAI在未来很长一段时间内进行研究之用。这家机构的两个联合主席分别为特斯拉公司CEO Elon Musk和Y Combinator CEO Sam Altman。值得注意的是,Altman本人以及Y Combinator公司都是OpenAI这个机构的出资方。

此前,在人工智能技术问题上,Musk一直都扮演着反对者的角色,他的加入已经足够让很多人感到不解了。再加上Y Combinator,相信会有更多人觉得费解。作为一个在10年前成立的科技企业加速器项目,他们每年都会为那些有前途的科技初创企业及其创始人提供各种帮助,加快这些企业的成长速度。自成立以来,YC已经为接近1000家科技企业提供了协助,其中包括了不少我们耳熟能详的企业,例如Dropbox、Airbnb和Stripe等。而就在不久之前,YC又有了新的动作:他们成立了一个研究部门。在过去两年内,YC的领导人一直都是Altman,他此前曾经创立了一家名为Loopt的公司,该公司与2012年被成功收购,收购价格为4340万美元。虽然无论是Altman本人还是YC都有在科技创业方面有着极丰富的经验,但是对于他们来说,OpenAI绝对也算得上是一次全新的尝试,甚至可以说是冒险。

从本质上来看,OpenAI其实算是一个研究实验室,它的任务,是和那些大公司进行对抗,防止他们垄断超级智能系统,并且将这项技术完全用于盈利;此外,他们还要与政府进行博弈,防止政府使用人工智能技术来滥用权力,甚至是压迫人民。作为一个刚刚成立的机构,OpenAI的动作可谓不小,他们已经吸引了一些大名鼎鼎的科技从业人员,例如前Stripe公司CTO Greg Brockman,他将出任OpenAI的CTO,以及在全世界范围内都享有盛誉的研究人员Ilya Sutskever,他此前曾供职于谷歌公司,他将出任OpenAI的研究总监一职。除了这些大牌之外,OpenAI还吸引了一些青年才俊,但是值得注意的是,虽然年轻,但是这些人才都出自一些大名鼎鼎的企业,例如Facebook和谷歌在2014年所收购的AI企业DeepMind等。而且OpenAI还找来了一些非常杰出的从业人员作为机构的顾问,其中就包括了计算机科学方面的拓荒者Alan Kay。

OpenAI的领导者和我进行了一次对话,我们讨论了他们将要进行的项目,以及成立这样一家非盈利机构的原因。本次采访共有两个部分,第一个部分中采访对象为Altman,而在第二部分中,我的对话者除了Altman之外,还包括Musk以及Brockman。为了更加清晰的呈现本次采访的内容,我对两个部分进行了编辑和整合。

为何要成立这样一家机构?

Elon Musk要联手YC CEO与科技巨头抗衡

Tesla公司CEO兼产品架构师Elon Musk、Y Combinator主席Sam Altman

Sam Altman: 大约一年零一个月之前,我们在YC内部成立了YC Research这个研究部门,但是其实在很长时间以前,我就开始思考有关人工智能技术的问题了,Elon也是如此。当前哪些技术对于未来世界最为重要?我觉得优秀的人工智能技术一定会在这份名单之内。正是出于这个原因,我们才成立了OpenAI这家机构。这个机构的任务,就是努力开发出对人类有益的人工智能技术。而且,由于这是一家非盈利机构,因此它的所有技术都将免费提供给全世界。

Elon Musk: 正如你知道的那样,此前有很长一段时间,我都对人工智能技术有着不小的担心。其实关于人工智能技术,我曾经和Sam、Reid Hoffman、Peter Thiel和其他许多人进行过多次对话。我们的想法是:“有没有某种方法,能够确保人工智能技术将会为人类带来好处?或是增加这个技术对于人类的益处?”在进行了很多次讨论之后,我们做出了这个决定,那就是成立一家非盈利机构,因为非盈利机构不受经济上的束缚,不求经济回报,这样才最能让我们专注于技术开发本身。同时,我也能非常专注于这个技术的安全性上。

此外,对于人工智能技术的发展,我们的理想就是:让人工智能得到广泛的传播。对于人工智能技术,人们有着两派看法:你是想要很多人工智能?还是只想要一点点人工智能?在我们看来,人工智能应该是越多越好。直到一个完美的数量,在这个数量下,我们可以将人工智能技术与个体人类的意愿结合在一起,从而获得良好的结果。

人类意愿?

Musk: 其实人工智能只是每一个人的延伸,每一个人从本质上说都是可以和人工智能并存的,人工智能的普及并不会让其成为人们的对立面。你可以想象一下自己当前使用技术产品的方式,例如,互联网应用,你每天都在使用电子邮件、社交媒体以及手机上的各种应用——这些技术产品有效的扩展了你的能力,你并不认为这些产品是另一个人,而是将其视为你自己的延伸。因此,在这样的理念下,我们可以让人工智能技术也走上这条发展道路,这也是我们所希望的。而且我们找到了许多和我们想法一样的人工智能领域工程师和研究人员,他们愿意和我们一起完成这个工作。

Altman: 我们认为,人工智能技术最好的发展道路,就是让人们获得对于这项技术的信心,让人类变得更好,而且要让所有人都可以自由使用它,而不是让它成为某个企业或其他类型的实体的专有营收工具。我们和谷歌不一样的地方在于,我们并不是一家追求利润的企业,因此我们不用想尽一切办法讨好股东。但是我们相信,人工智能将会是对于未来人类世界来说最好的一个东西之一。

难道谷歌不会将他们的开发结果共享给公众吗?他们此前曾经共享过机器学习方面的技术成果。

Altman: 他们当然也会和世界分享自己的许多研究成功。但是随着时间的推移,他们或许将会找到一些超越人类智能的东西,在这个情况下,谷歌还能分享多少成果,我们就不得而知了。

难道OpenAI自己的员工找不到超越人类智能的新技术吗?

Altman: 我希望我们可以达到这个成就,但是我们的工作完全是开源的,所有人都可以使用,而不仅仅只有某家公司可以使用而已。我们开发的任何技术,所有人都可以使用。而且,如果你对我们的技术进行了改进,你也没有分享的义务。但是无论如何,只要是我们开发的技术,我们都会共享给每一个人。

如果我是个坏人,并且使用了你们的技术,那么你们难道不是在助纣为虐吗?

Musk: 我觉得这是一个特别好的问题,这也是我们讨论了很多次的一个问题。

Altman: 对于这个问题,我们之间产生了多种不同的看法。我认为,人类社会中,大多数人都是好人,这个由大多数好人所构成的社会,也包含了一些坏的元素。我们认为,和人类社会一样,许多许多的人工智能技术,将会阻止那些偶尔发生的不良行为。而且不会有哪一种人工智能技术的能力可以超过所有其他技术,成为坏人的独门暗器。除非某个人工智能技术走上了错误的道路,被邪恶的人所利用了,而且没有任何其他技术可以对抗它,否则我们不会陷入绝境。

你们会对OpenAI开发的技术进行监管吗?

Altman: 我们的确希望随着时间的推移来建立起一个监管机制。最开始的时候,只有Elon和我负责这个工作。距离开发出真正的人工智能新技术,我们还有很长很长的路要走。但是我们希望未来能够有足够多的时间来建立起这样一个监管系统。

Musk: 我很希望能够和团队一起花时间来解决这个问题,基本来说,可以是每周一个下午的时间,来讨论升级,为他们提供反馈,并且让我更好的了解人工智能技术当前的趋势,以及我们是否在进行一些危险的工作。对于技术的安全性问题,我个人会保持时刻的警醒,这个事情我会特别的小心。而且,如果我们发现了某个东西有可能会导致安全性方面的问题,我们也会第一时间将这个消息分享给大众。

有什么坏AI的例子吗?

Altman: 我能想到的都是科幻电影里的例子,而且都是很久远的那些科幻电影,例如《终结者》。但是对于这些东西,我并不是特别担心,因为我觉得短期之内它们还不可能出现。但是有一件事情的确让我有些担心,但是我并不认为它是不好的人工智能技术,这就是大规模自动化以及工作岗位需求的下降。另一个坏人工智能技术的例子,也是人们经常讨论的东西,那就是一些类似人工智能技术的程序进入了我们的计算机,而且它们的工作效果要比任何人类都要好,这样的事情今天已经发生了。

你们会使用一个已经开发好的系统开始工作吗?

Altman: 不会。OpenAI将会以一个研究实验室的形态开始工作,而且在未来很长一段时间内,我们都将会继续这种形态。现在还没有人知道要如何开发这个系统。从成立第一天开始,我们有着8个研究人员,在未来的几个月中,还会有几个新的研究人员加入我们的团队。目前,我们将会使用YC的办公空间,随着团队的扩大,他们将会搬到属于自己的办公室里。他们将会寻求新的创意,并且编写新的软件,以此来努力推动当前人工智能技术的发展。

机构之外的其他人能否为你们贡献力量?

Altman: 当然可以。以开源项目的形式进行研究,其最大的优势之一,就是我们的实验室可以和任何人进行合作,因为我们之间可以自由的分享信息。外人很难和谷歌的员工进行合作,因为盈利企业对员工有着非常苛刻的保密要求。

Sam,你说OpenAI将会使用YC的办公室,那么你们旗下的初创企业是否可以使用OpenAI的技术?[更新:Altman在采访后表示OpenAI将会搬到位于旧金山的办公室内。]

Altman: 如果OpenAI真的开发出了非常优秀的技术,那么任何人都可以免费使用它,当然也包括任何一家科技企业。然而要注意的是,我们也将会要求YC旗下的初创企业将自己的数据分享给OpenAI,当然他们可以自由选择自己可以分享哪些数据。事实上,Elon也正在考虑,他要将Tesla和Space X两家公司的哪些数据分享给OpenAI。

可不可以举例说明你们会要求初创企业分享哪种类选的数据?

Altman: 企业的很多种数据都可以拿来和我们分享。例如,在技术搭建阶段,所有的Reddit对我们来说都非常有用。你可以想象到,所有Tesla的无人驾驶汽车视频信息对我们来说都会非常有价值。大量的数据对我们来说非常重要。如果一个人想要变得更聪明,那么你就需要读书,读书会让人变得更聪明。但是读书只能让你自己变得聪明,不可能在你看了一本书之后,我们两个人就都变聪明了。但是人工智能技术却可以,还是用Tesla来举例,如果一辆Tesla汽车学到了一个新东西,那么其他Tesla汽车就可以立刻掌握这个新东西,这就是人工智能的好处之一。

Musk: 总体来说,我们还没有非常具体的计划,因为这个机构还处于非常萌芽的阶段;它还只是一个胚胎而已。但是当然Tesla会收集到海量的数据,这些数据都来自真实世界,因为每天只要有人开我们的汽车,我们就能从这些汽车那里收集到数据。甚至也许可以说,Tesla收集到的数据要比世界上其他任何公司都要多。

开发人工智能技术需要大量的计算,你们将会使用什么样的基础设施?

Altman: 我们与亚马逊的AWS服务达成了合作协议。在我们的开发进程中,他们将会为我们提供大量的基础设施服务。

你们已经为未来的技术开发筹集了10亿美元吗?

Musk: 我认为,更好的说法是,我们已经接触到了数十亿美元。我们还不想透露过于具体的数字,我们可以透露的是,正如在我们所发布的博文中提到的那样,我们联系到了大量捐助,捐助者的名字都在那篇博文中出现过了。

这些资金够你们用多长时间?

Altman: 足够我们进行长时间的技术开发。我们将会尽可能的节俭,但是这很可能是一个长达几十年的项目,要想顺利进行下去,它将会要求我们投入大量的人力和硬件。

你们完全没有赚钱的压力吗?

Musk: 完全没错。这并不是一笔追求利润的投资。也许它在未来可能会产生营收,就像Stanford Research Institute那样,虽然它是一家501c3非盈利组织,但是却产生了营收。也就是说,也许我们未来可以获得利润,但是我们不会从中盈利。作为一家非盈利机构,我们不用为了讨好股东而追求盈利,我们也不会上市交易。我们认为这是发展人工智能技术最好的办法。

Elon,你此前曾经投资过DeepMind这家人工智能企业,在我看来,那次投资和你本次成立OpenAI的目的完全一样:为了监视人工智能技术。之后DeepMind被谷歌收购了,本次成立OpenAI,是为了重新开始监视人工智能吗?

Musk: 我应该说,我并不是一个传统意义上的投资人。我投资的目的并不是为了获得经济上的回报。我会把资金投给那些我曾经参与创造过的企业,我有时也会通过投资的方式为我的朋友提供帮助,或者,有时候我投资某家企业,是因为我相信或是担心这家企业的产品。我所进行的投资,并不是像很多人所说的那样,是为了给我的自己的公司带来更多的多样性。然而有一点你说的不错,我对DeepMind公司所进行的那次所谓的“投资”,是为了更好的了解人工智能技术。除此之外,如果你的确想这么说的话,那次投资也是为了监视人工智能。

从现在开始,你们将和许多顶尖企业一起竞争那些最好的研究人员,例如谷歌旗下的DeepMind、Facebook和微软等。

Altman: 截止到目前为止,我们的招聘工作进行的还不错。我们吸引研究人员最大的优势之一,就是我们所拥有的自由性和开放性,以及他们可以将自己正在从事的工作分享给其他人,在其他企业中,你很难拥有这种自由度。我们成功的构建了一个高质量的初始团队,这个团队也正在凭借其自身的号召力帮助我们吸引其他人。而且,我认为,无论是我们的使命、愿景还是我们的架构,都非常吸引人。

你们最终将会招聘多少研究人员?几百个吗?

Altman: 有可能。

我还想再谈谈人工智能安全性的问题。通过分享人工智能技术,其带来的负面效果对谁的影响最大?让人工智能技术更加普及,难道不会增加其风险吗?你们是否在增加其潜在的危险性?

Altman: 对于这个问题,我已经和Elon以及其他人讨论过无数次了,但是到目前为止,我依然没有100%的把握。但是无论对于什么问题,你都无法做出100%正确的判断,不是吗?只有行动之后你才能找到答案。在技术方面封锁信息的做法,其效果一直都不是很好。任何技术都会被别人所利用,你如何确定究竟是谷歌、美国政府、其他国家政府还是ISIS掌握了这个技术呢?世界上有很多坏人,但是坏人并没有导致人类的灭绝。如果这个坏人的权利比其他人大10亿倍,又会发生什么呢?

Musk: 我认为,对抗人工智能技术滥用的最好方法,就是让尽可能多的人都拥有人工智能技术。如果每个人都掌握了人工智能技术,那么这个技术就不会成为某个个人或是小团体的超级能力,人工智能技术也就不会成为他们的邪恶武器了。

Elon,你现在已经是两家企业的CEO了,现在又成为了第三家机构的主席。有人也许会觉得你太忙了,根本没有足够的时间来投入到一个全新的项目中。对于这个问题你怎么想?

Musk: 是的,这话说的没错。但是人工智能技术的安全性问题,很长时间以来都一直回荡在我的头脑里。因此我觉得我未来并不需要太多的时间来思考这个问题。