周一，人工智能先驱杰弗里·辛顿 (Geoffrey Hinton) 透露，他将辞去在谷歌 (Google) 的工作，过去十年他一直从事人工智能项目，这让很多人感到惊讶。
生于英国、现年 75 岁的 Hinton 因其开创性工作而被称为“人工智能教父”，他的开创性工作为当今许多人工智能系统奠定了基础。凭借其ChatGPT工具，Google 和Bard正在努力开发他们的产品，尤其是因为这可能会以安全为代价。
据泰晤士报报道，欣顿非常担心，他甚至说他的一部分对他过去在人工智能领域的努力感到遗憾。
正如报告指出的那样，生成式人工智能工具已经在朝着取代人类工人的方向发展，而且该技术也可用于制造和传播错误信息。
事实上，Hinton 的一个担忧是，其数据用于训练生成式 AI 工具的互联网将充斥着虚假信息，这些虚假信息可能会导致 ChatGPT 和 Bard 等聊天机器人以一种听起来可信的方式吐出无穷无尽的谎言。
由于这项技术背后的公司在没有完全了解其潜力的情况下发布了他们的人工智能工具供公众使用，Hinton 担心“很难看出如何防止坏人利用它做坏事。”
Hinton 表示，监管这项技术将很困难，因为公司和政府可以秘密地研究这项技术，并补充说解决这个问题的一种方法是试图让领先的科学家共同研究控制技术的方法。
这位人工智能专家周一在一条推文中表示，他决定离开谷歌，这样他就可以“谈论人工智能的危险，而不考虑这对谷歌的影响”，这表明随着技术的不断发展，我们会听到更多来自他的消息。发展。
上个月，当在CBS 采访中被问及人工智能“消灭人类”的可能性时，欣顿表达了更大的担忧，他说：“这并非不可想象。”
在 Hinton 离职的消息传出后，谷歌首席科学家杰夫迪恩在一份声明中表示：“我们仍然致力于对人工智能采取负责任的态度。我们不断学习以了解新出现的风险，同时也大胆创新。”
Hinton 并不是唯一一位对席卷全球的人工智能技术新浪潮表示担忧的专家。
也许令人惊讶的是，OpenAI 的老板 Sam Altman 最近承认对 AI 技术的潜在影响“有点害怕” 。
今年 3 月，一封由科技领袖和学者签署的信声称该技术“对社会和人类构成了深远的风险”。
这封由生命未来研究所出版、签署人包括埃隆·马斯克的信呼吁暂停六个月的开发工作，以便有时间为先进工具创建和实施安全协议。
它补充说，如果处理得当，人类将能够“享受人工智能带来的繁荣未来”。