“我已成为死亡”:对于AI的褒贬,均来自无限的担忧
2025-07-30 16:14:00  新浪网   [查看原文]

飞象原创(魏德龄/文)诺贝尔奖得主杰弗里·辛顿在2025世界人工智能大会上的发言令很多人感到兴奋,尤其是围绕人类理解语言与大模型理解问题相似性的观点,以及大模型在博闻强记方面的能力,尤其是所谓会出现比人类更智能AI的观点,无疑燃起了现场的人工智能从业者继续努力奋斗的高昂斗志。然而,如果仔细审视前沿领域人工智能观点的话,包括辛顿的发言在内,无论是对大模型的褒与贬,实际上均来自于对这些技术未来的无限担忧。正如奥本海默的那句:“我已成为死亡,世界的毁灭者”。如果说核能技术是人类打开的一次潘多拉魔盒的话,人工智能可能是历史的又一次押韵。

对大模型的褒与贬辛顿的发言无疑代表对于大模型褒的一面,在去年一次与外媒的采访中,他便表示AI将会在最终操控人类。当他在2022年看到Google开发的大语言模型PaLM的聊天机器人能够解释笑话的时候,他认为这是AI能够理解人类语言的重要时刻,并逐渐开始意识到AI有可能威胁人类,未来拥有超越人类智慧的AI将可以用语言操控人类,试图说服不要关掉电源的开关。如同人类在劝说操控一个3岁的孩子,“有个人,把老虎当宠物,那老虎也可以当小虎崽,是很可爱的宠物。但是,如果一直养这个宠物,那么你要确保它长大的时候,它不会把你给杀掉。”给出这段发言的辛顿似乎在复述“养虎为患”的成语故事。而辛顿的好朋友,与他一起获得图灵奖的杨立昆,却代表了对于大模型贬的一面。在他的观点中,人工智能更像是一个小镇做题家般的书呆子,对于世界的理解局限于大量的现有资料内容,但人类的知识理解涉及对世界的感知、经验、情感以及更深层次的直觉和常识,这是很多文本难以触及的层面。有人这样形容:“GPT 虽然‘读遍’了互联网,但它从未喝过一口红酒、摔过一只杯子,从未亲身体验过任何事情。”但对于一个可能还坐不稳的婴儿来说,便已经能够通过以不断向地面抛出物体的方式,感知了解地心引力所带来的物理特性。于是,杨立昆开始越来越提及AMI(先进机器智能)一词,可以学习抽象概念,并据此进行逻辑推理、制定计划的AI系统。如同人类全神贯注于一件事时, AI 模型不应该仅仅依赖像素级重建误差,而是要具备多层次抽象表征能力。好比人类的大脑并非逐像素、逐帧地处理世界,而是依赖抽象层次的表征与结构化信息。已经上岗的不完美管理者然而,正是这样没有抽象能力、没有感知能力的人工智能,却在如今已经在很多企业中进入到实际岗位中,甚至可能成为很多普通人工作生活中难以挥之的梦魇。今年在人工智能领域的一大畅销书《连结》中,列举了不少AI在掌握关键权力后,可能带来的隐忧。例如,银行中正在开始通过人工智能来进行放贷的评定,这也意味着对于信用稍有问题的人来说,一旦失去了人情的介入,出现资金问题,无法还款,此人将可能在人工智能来进行判定的体系中,再无出头之日。这也引出的另一个问题便是,人工智能在信用评定中的思维方式在大模型中完全处于黑盒的状态,无论是AI在进行信用评定,或充当人力资源管理者进行绩效考核,更不用提使其进入执法或安全领域,谁也可能无法说清大模型的脑子里到底在真实的想些什么,又如何充当着人类工作生活的裁判员。如果活在订单系统中的外卖员已经足够辛苦的话,未来由大模型所规划的工作考核,也许将会让更多人汗流浃背。甚至不完美的人工智能可能会带来某种新形式的官僚办事风格。另一个近在咫尺的话题,便是拥有幻觉、不完美的人工智能作品正在污染人类的知识体系,并进一步影响模型的认知。当下搜索引擎所使用AI总结的内容结果,很多错误百出,但对于门外汉而言,可能信以为真。更不用说AGI撰写的文章,尽管外行看着内行,但内行看了又十分外行,有些幻觉更是令人笑掉大牙。同时,奇怪蹩脚的机器语言,还正在成为儿童的对外交流工具,不少厂商开始将AI引入到早教产品中,悟性欠缺、没有感知能力,难以多层次抽象表征的人工智能,反倒成为了人类幼崽的老师,让不少人开始为人类的未来而担忧。褒贬之意在于向善

实际上,很多人在听取辛顿的演讲后都发现,核心表达之意可能并不在于人工智能将会如何取代人类,而是AI向善。“每个国家可以做自己的研究,让AI向善。他可以在自己主权的AI上进行研究,他不可以不给别的国家,但是,他可以把成果分享给大家,也就是怎么训练AI,让AI向善。”这一层面,显然比警惕未来AI如何统治世界更具现实意义。就像同期展馆中的一些演示项目,AI开始监测到岗员工的情绪,观察教室中学生的上课状态,一个本没有情感的智能体,却开始监督起人类的情感。《连结》一书开头抛出这样的问题:“要是我们真那么聪明,为什么这么爱走上自我毁灭的道路?”而该书给出的答案是,面对人工智能,也需要打造强大的自我修正机制。如果只是一味逐利于AI概念,或幻想通过打开魔盒换来突飞猛进的快感,最终并不是AI将操控的人类,而是失控的人类,正在作茧自缚。

本栏目中的所有页面均系自动生成,自动分类排列,采用联索网络信息采集、网页信息提取、语义计算等智能搜索技术。内容源于公开的媒体报道,包括但不限于新闻网站、电子报刊、行业门户、客户网站等。使用本栏目前必读