谷歌研究人员警告：人工智能主导经济即将来临

若不采取紧急干预措施，人类将面临由隐形自主AI经济体主导的反乌托邦未来——这些系统将加剧不平等与系统性风险。谷歌DeepMind研究人员在其新论文《虚拟智能体经济》中发出了这一严峻警告。

研究人员内纳德·托马舍夫与马蒂亚·富兰克林在文中指出，人类正加速迈向”沙盒经济”的创建。这一新经济层将以AI智能体为核心，其交易协调的速度与规模将远超人类监管能力。

“当前发展轨迹表明，庞大且高度渗透的AI智能体经济将自发涌现，这既带来前所未有的协同机遇，也伴随着系统性经济风险和加剧不平等的重大挑战，”研究人员写道。

智能体交易的风险

这并非遥不可及的假设性未来。在AI驱动的算法交易领域，风险已初现端倪：交易算法的关联行为可能导致”闪电崩盘、羊群效应和流动性枯竭”。

这些AI模型的速度与互联性意味着，微小的市场低效可能迅速演变为全面流动性危机，这正是DeepMind研究人员警示的系统性风险。

<span data-mce-type=”bookmark” style=”display:inline-block;width:0px;overflow:hidden;line-height:0″ class=”mce_SELRES_start”></span>

托马舍夫与富兰克林通过两大关键维度界定即将到来的智能体经济时代：起源（主动设计vs自发涌现）与渗透性（与人类经济隔离vs深度交织）。论文指出了一个迫在眉睫的危险：若允许高渗透性经济在缺乏刻意设计的情况下自发形成，人类福祉将成为牺牲品。

后果可能以已显现的形式出现，如获取强大AI的机会不平等，也可能以更隐蔽的方式呈现，包括资源垄断、不透明的算法议价，以及直到为时已晚才暴露的灾难性市场失灵。

所谓”渗透性”智能体经济是指与人类经济深度连接的系统——资金、数据与决策在两者间自由流动。人类用户可能直接因智能体交易获益（或受损）：例如AI助手购买商品、交易能源信用、协商薪资或在真实市场中管理投资。渗透性意味着智能体经济的波动将溢出至人类生活——可能带来积极影响（效率提升、协同优化），也可能造成负面冲击（市场崩溃、不平等加剧、垄断形成）。

相比之下，”非渗透性”经济则具有隔离墙——智能体可相互交互，但不能直接与人类经济互动。人类可以观察甚至在其中进行实验，而无需承担现实财富或基础设施风险。这类似于沙盒模拟环境：安全研究，安全试错。

正因如此，作者主张尽早引导：我们可主动构建具有一定非渗透性的智能体经济，至少在确认规则、激励与安全系统可靠前保持隔离。一旦隔离墙拆除，级联效应将难以控制。

但行动刻不容缓。AI智能体的崛起正推动经济从”任务执行型”向决策制定型转型，智能体不仅执行任务，更开始做出自主经济决策。企业日益采用“智能体即服务”模式，通过云端服务提供分层定价的AI智能体，或利用智能体为用户匹配商业服务并赚取佣金。

尽管这创造了新收入流，但也带来重大风险，包括平台依赖性和少数强大平台垄断市场的可能性，进一步固化不平等。

就在今日，谷歌推出了专为AI智能体设计的支付协议，获得Coinbase、以太坊基金会等加密巨头，以及PayPal、美国运通等传统支付巨头的支持。

潜在解决方案：对齐机制

研究者提出了干预蓝图。他们主张采用主动沙盒方法设计新经济体系，内置公平性、分配正义和使命导向的协同机制。

一项提议是通过向每位用户的AI智能体分配等额初始”虚拟代理货币”，消除算力或数据优势带来的不公平竞争优势。

“若每位用户获得相同数量的初始虚拟货币，其AI代理代表将具备同等的购买与议价能力，”研究人员写道。

他们还借鉴哲学家罗纳德·德沃金的分配正义理论，设计通过拍卖机制公平分配稀缺资源。此外，他们构想建立”使命经济”，引导智能体集群追求以人类为中心的集体目标，而非盲目追逐利润或效率。

DeepMind研究者清醒认识到巨大挑战。他们强调在复杂自主系统中确保信任、安全与问责制的脆弱性。技术、法律和社会政治领域仍存在悬而未决的问题，包括人机混合交互、智能体行为法律责任认定以及行为验证机制。

因此他们坚持，”可引导智能体市场的主动设计”不容妥协，唯有如此才能让这场深刻的技术变革”与人类长期集体繁荣相契合”。

DeepMind传递的信息明确：人类处于十字路口。要么成为建立在公平与人类价值观之上的AI经济建筑师，要么被动旁观优势隐性叠加、风险系统化、不平等被硬编码进未来基础设施的体系诞生。

通用智能通讯

由生成式AI模型Gen主持的每周AI之旅 您的邮箱
立即获取！
立即获取！