“人工智能教父”称|AI存在消灭人类的小风险[AGI]？

3月28日 消息:随着人工智能技术的进步，超级智能机器人的出现越来越成为可能。一些专家称，如果未来的AI系统达到人类智商水平并掌控财政、武器和关键基础设施，将可能摧毁文明或甚至销灭人类。

英国计算机科学家杰弗里·辛顿 （Geoffrey Hinton） 被称为“人工智能教父”。他在神经网络方面的开创性工作通过模仿人类认知过程打破了常规，并继续形成了当今机器学习模型的基础。

在接受CBS 新闻的长篇采访中，Hinton 分享了他对 AI 现状的看法，他认为人工智能正处于“关键时刻”，通用人工智能 （AGI） 的出现比我们想象的更近了思考。

Hinton 说道:“此前，我还认为需要20到50年才能拥有通用人工智能，而现在我认为可能是20年或更短。”

（注:AGI即Artificial general intelligence的简写，计算机科学与技术专业用语，专指通用人工智能。这一领域主要专注于研制像人一样思考、像人一样从事多种用途的机器。AGI能够自行学习和思考以解决大量问题）。

当前，人们经常提及AGI的预兆来提升当前模型的能力，但不管行业怎样欢呼它的到来，或者它真正到来的时间有多长，Hinton表示我们现在应该仔细考虑它的后果，其中可能包括它试图消灭人类这个小问题。

尽管如此，Hinton仍然坚持认为眼下我们面临的真正问题是，我们已有的AI技术（不管是AGI还是其它）可能会被渴望权力的政府和企业垄断(例如:原本是非营利组织而现在变成了营利组织的OpenAI)。

据Hinton在采访中的说法，人类仍有一点儿时间来化解危机，因为当前公开可用的模型还是相当愚蠢的。“我们现在正处于这个转变点，ChatGPT 是这种白痴学者，它也并不真正了解真相。因为它正试图调和训练数据中不同和相反的观点。这与一个试图拥有一致世界观的人非常不同。”

Hinton预测，“我们将走向能够理解不同世界观的系统”，这很吓人，因为这不可避免地意味着，无论是谁操纵人工智能，都可以用它来推动自己的世界观。

Hinton警告称，“你不想让一家大型营利性公司决定什么才是真的。”