“AI教父”忧AI反客为主

　　去年5月1日，欣顿证实自己已辞去谷歌副总裁的职位。他警告说，AI系统学习速度惊人，会变得越来越危险，“目前它们不比我们聪明，但我认为很快就会”。他认为，短期内，生成式AI可能引发假资讯狂潮。去年5月30日，包括欣顿在内的350多名AI领域的行业高管、专家和教授在非营利组织人工智能安全中心（CAIS）的网站上发表联署公开信，信中说：“减轻AI带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球优先事项。”CAIS列出几种AI可能引发的灾难，包括AI被用来制造生化武器、AI生成的错误信息破坏社会稳定等。

　　今年3月，欣顿重申对AI的担忧。他说，AI的危险之处在于其可能采用对人类有害的手段来实现被设定的目标，并且AI之间还可能出现竞争。“面对通过竞争变得更聪明的AI，我们人类将会落后。很多人主张，要防止AI失控，只要关掉电源开关即可。但超越人类智慧的AI可以用语言操纵我们，或许会试图说服我们不要关掉开关。”