“人工智能(AI)教父”辛顿(Geoffrey Hinton)认为,未来30年内有10%到20%的可能性出现AI导致人类灭绝的结果;他警告,科技变革的速度比预期要“快很多”。
辛顿今年因在AI方面的贡献而获颁诺贝尔物理学奖。
英国“卫报”(The Guardian)报导,辛顿曾说,对人类而言,AI科技有10%的可能性引发灾难性后果。
英国广播公司第4电台(BBC Radio4)“今日”(Today)节目询问他对可能出现的AI末日和10%的发生几率分析是否有变时,他说:“没什么变,10%到20%。”
节目客座编辑、前卫生大臣贾维德(Sajid Javid)说“几率增加了”,辛顿答道:“如果一定要说,你看,我们以前从未和比我们聪明的东西打交道。”
他补充说:“你知道有多少例子是一个较聪明的东西被一个较不聪明的东西控制?这种例子很少。以一个母亲和一个婴儿为例,演化费了很大力气让婴儿控制母亲,但那是差不多我唯一知道的例子。”
辛顿说,人类与强大AI系统的智慧相比,就像学步的幼儿,“我喜欢这么想:想像你自己和一名3岁小孩;我们就是那个3岁小孩”。
辛顿去年辞掉在谷歌公司(Google)的工作,以更畅快地谈论AI发展不受控制所构成的风险。AI安全倡议人士的主要疑虑之一是,创造通用AI或比人类更聪明的系统,可能导致这项技术脱离人类掌控,危及人类存亡。
他说,现在的状况是多数专家认为或许能在未来20年内开发出比人类聪明的AI,“这是很恐怖的想法”。
他认为,研发AI的速度“非常、非常快,比我原本预期要快很多”,政府必须监管这项技术。
他说:“我担心的是,看不见的手无法保障我们的安全,所以只将问题交给大企业的利润动机,不足以确保这些公司安全地研发(AI)…唯有政府监管能迫使这些大企业从事更多安全研究。”
不过,网络科技巨头Meta的首席AI科学家勒昆(Yann LeCun)不认为人类面临存亡威胁,反而说AI“实际上可能拯救人类免于灭绝”。勒昆2019年与辛顿、班吉欧(Yoshua Bengio)一起获得有“电脑界诺贝尔奖”之称的年度图灵奖(Turing Award)。