“人工智能教父”再发警告:AI对人类的威胁或比气候变革“更为紧迫”_人工智能_风险
自本月初宣告从谷歌离职后,辛顿频频公开表达对AI技能的担忧,包括使人失落业、散布虚假信息等问题,并称如果没有监管,科技巨子间的竞争将升级为环球性竞赛且难以停步。
本月早些时候,白宫公布了AI监管操持,美国总统拜登和副总统哈里斯会见了谷歌、微软、OpenAI和Anthroic的首席实行官,敦促这些行业领先企业办理AI发展的风险。
杰弗里·辛顿
现年75岁的辛顿在人工神经网络领域长期从事首创性事情,被认为对当代人工智能系统的发展至关主要,在业内被称为“人工智能教父”。1986年,辛顿和同事在论文中提出了“反向传播算法”机制,这是当代“深度学习”理论的奠基石之一。以此为根本,辛顿在该领域提交了诸多专利申请,并与其余两位“深度学习之父”共同得到2018年图灵奖。
本月5日接管路透社采访时,辛顿就AI技能风险发出警告,他将之与景象变革比较:“我不想贬低景象变革的代价,我不会说‘你不用担心景象变革’,那也是个巨大风险。但我认为,这件事(AI)终极可能会变得更加紧迫。”
他补充称,应对景象变革的建议很随意马虎提出,比如你该当停滞燃烧碳,只要践行,统统都会好起来,但对付AI“我们根本不清楚该当怎么做”。
不过,虽然辛顿担心AI可能被证明是对人类生存的威胁,但他不同意停息干系研究。
“这完备不现实。我所在的阵营认为这是一个存在主义风险(existential risk),且迫不及待,我们现在该当全力事情,投入大量资源,弄清楚我们能做些什么。”
此外,辛顿称:“科技企业高管们对此最理解,宦海人士也必须参与进来。它影响到我们所有人,以是我们都必须思考这一问题。”
据《纽约时报》早前宣布,辛顿于当地韶光5月1日宣告自己从谷歌离职,他透露离职便是希望在不影响前店主的情形下,公开自由地评论辩论AI技能的风险。他眼下担心互联网会充斥虚假信息,普通人将“再也无法知道什么是真实的”,他还担心AI技能迟早会颠覆就业市场。
他乃至对自己在人工智能领域所做的事情和贡献感到遗憾和懊悔,“我用一个惯常的借口来安慰自己——如果我没有这样做,其他人也会这样做”。
辛顿认为,AI技能发展的速率已经超过了自己曾经的预期,如果没有环球性的监管,科技巨子间的竞争将升级为环球性竞赛,且难以停滞。
当地韶光5月2日,辛顿接管美国有线电视***网(CNN)采访时再度表态称,作为一名科学家,溘然意识到AI比人类更聪明之后,他才想要做一个“吹哨人”,以阻挡AI可能掌握人类的事情发生。
此前,马斯克、苹果联合创始人史蒂夫·沃兹尼亚克等1000名科技人士签署了一封公开信,呼吁所有AI实验室立即停息演习比GPT-4更强大的AI系统至少6个月。
当地韶光5月4日,美国总统拜登和副总统哈里斯在白宫会见了谷歌、微软、OpenAI和Anthroic四家科技企业的首席实行官,敦促这些企业办理人工智能发展的风险。会议召开前几小时,白宫还公布了一系列应对人工智能寻衅的举措,并宣告美国国家科学基金司帐划拨款1.4亿美元,用于启动7所新的AI研究机构。
本文系不雅观察者网独家稿件,未经授权,不得转载。
本文系作者个人观点,不代表本站立场,转载请注明出处!