人工智能先驱Geoffrey Hinton博士最近成为头条新闻，因为他从谷歌离职并公开表达了他对人工智能潜在危险的担忧。在长达半个世纪的职业生涯中，Hinton博士在人工智能技术的发展中发挥了至关重要的作用，包括ChatGPT等流行聊天机器人背后的基础工作。然而，他现在担心人工智能的快速发展可能会给社会带来严重后果。让我们深入研究Hinton博士的经历以及他对人工智能相关风险的警告。



2012年，多伦多大学的Geoffrey Hinton博士和他的两名研究生创造了一项突破性的技术，为当今科技巨头使用的人工智能系统奠定了知识基础。他们的创新为生成式人工智能奠定了基础，这种技术为ChatGPT等流行的聊天机器人提供了动力。Hinton博士的工作被誉为塑造人工智能未来的工具。

尽管Hinton博士在人工智能开发中发挥着关键作用，但他也加入了越来越多的批评者的行列，这些批评者认为，公司正在轻率地冲进危险的领域，积极追求人工智能驱动的产品。对人工智能潜在风险的担忧导致他在十多年后离开了谷歌，并让他能够公开表达自己的担忧。

Hinton博士承认，他一生的工作现在给他带来了一些遗憾，但他安慰自己，如果他不去追求它，别人也会去追求。他的担忧围绕着人工智能的潜在滥用、工作机会的减少以及对人类的长期风险。

围绕人工智能的一个直接担忧是它可能成为错误信息的工具。生成式人工智能已经可以用来创建逼真的假照片、视频和文本。Hinton博士担心，随着互联网上充斥着误导性的内容，普通人可能很难辨别什么是真的，什么是假的。

此外，人工智能技术的进步可能会导致大量就业岗位的转移。虽然当前的聊天机器人如ChatGPT补充了人类工人，但它们有可能取代各种行业的专业人士，包括律师助理、个人助理和翻译。Hinton博士表示担心，人工智能的影响可能远远超出繁重的工作，可能会导致许多人失业。

展望未来，Hinton博士警告说，人工智能技术的未来迭代可能会对人类构成更大的威胁。随着人工智能系统分析大量数据，它们有可能学习意想不到的行为。当个人和公司不仅允许人工智能系统生成自己的代码，还允许它们自主运行这些代码时，这就变得特别令人担忧。

人工智能可以超越人类智能的想法曾被认为是一种遥远的可能性。然而，Hinton博士现在认为，人工智能技术的快速进步使这一前景比以往任何时候都更近。他特别关注真正自主武器的发展，他称之为“杀人机器人”。

为了应对与人工智能相关的潜在风险，各种团体和个人呼吁行业内的监管和合作。总部位于旧金山的初创公司OpenAI今年早些时候发布了新版本的ChatGPT，促使1000多名技术领袖和研究人员签署了一封公开信，倡导暂停开发新的人工智能系统六个月。这封信强调了人工智能技术给社会和人类带来的深刻风险。

Hinton博士认为，谷歌和微软等科技巨头之间的竞争将升级为一场全球竞赛，如果没有某种形式的全球监管，这场竞赛就无法停止。然而，他承认，监管人工智能可能具有挑战性，因为没有办法确定公司或国家是否在秘密研究具有潜在危险的人工智能技术。

为了解决这些问题，Hinton博士认为，全球领先的科学家必须合作开发控制人工智能技术的方法，然后再将其进一步扩展。他强调了在人工智能在社会中更加普及之前，了解如何有效控制人工智能系统的重要性。

 

来源：https://readwrite.com/the-godfather-of-a-i-leaves-google-and-warns-of-danger-ahead/