AI教父辛顿:30年内AI使人类灭绝可能性10%到20% * 阿波罗新闻网
新闻 > 科教 > 正文
AI教父辛顿:30年内AI使人类灭绝可能性10%到20%

人工智能(AI)教父”辛顿(Geoffrey Hinton)认为,未来30年内有10%到20%的可能性出现AI导致人类灭绝的结果;他警告,科技变革的速度比预期要“快很多”。

辛顿今年因在AI方面的贡献而获颁诺贝尔物理学奖。

英国“卫报”(The Guardian)报导,辛顿曾说,对人类而言,AI科技有10%的可能性引发灾难性后果。

英国广播公司第4电台(BBC Radio4)“今日”(Today)节目询问他对可能出现的AI末日和10%的发生几率分析是否有变时,他说:“没什么变,10%到20%。”

节目客座编辑、前卫生大臣贾维德(Sajid Javid)说“几率增加了”,辛顿答道:“如果一定要说,你看,我们以前从未和比我们聪明的东西打交道。”

他补充说:“你知道有多少例子是一个较聪明的东西被一个较不聪明的东西控制?这种例子很少。以一个母亲和一个婴儿为例,演化费了很大力气让婴儿控制母亲,但那是差不多我唯一知道的例子。”

辛顿说,人类与强大AI系统的智慧相比,就像学步的幼儿,“我喜欢这么想:想像你自己和一名3岁小孩;我们就是那个3岁小孩”。

辛顿去年辞掉在谷歌公司(Google)的工作,以更畅快地谈论AI发展不受控制所构成的风险。AI安全倡议人士的主要疑虑之一是,创造通用AI或比人类更聪明的系统,可能导致这项技术脱离人类掌控,危及人类存亡。

他说,现在的状况是多数专家认为或许能在未来20年内开发出比人类聪明的AI,“这是很恐怖的想法”。

他认为,研发AI的速度“非常、非常快,比我原本预期要快很多”,政府必须监管这项技术。

他说:“我担心的是,看不见的手无法保障我们的安全,所以只将问题交给大企业的利润动机,不足以确保这些公司安全地研发(AI)…唯有政府监管能迫使这些大企业从事更多安全研究。”

不过,网络科技巨头Meta的首席AI科学家勒昆(Yann LeCun)不认为人类面临存亡威胁,反而说AI“实际上可能拯救人类免于灭绝”。勒昆2019年与辛顿、班吉欧(Yoshua Bengio)一起获得有“电脑界诺贝尔奖”之称的年度图灵奖(Turing Award)。

责任编辑: 李华  来源:中央社 转载请注明作者、出处並保持完整。

本文网址:https://d3icyu3vmjgcad.cloudfront.net/2024/1228/2151886.html