OpenAI旗下ChatGPT智能代理升级上线：权限扩展伴随风险攀升

OpenAI发布了迄今为止自主性最强的人工智能工具：一款能够浏览网页、运行应用程序并在几乎无需人工干预的情况下完成现实世界任务的ChatGPT版本。但伴随着能力跃升的是一则严厉警告：这项技术可能引发新一轮安全威胁。

周四推出的ChatGPT代理功能允许用户委派复杂任务，包括规划假期、预订酒店房间、研究竞争对手、生成幻灯片文件，甚至完成在线订单。

该功能今日起将逐步向Pro、Plus和Team用户开放。

为完成任务，该代理使用虚拟计算机和一套统一工具集，包括基于文本的浏览器、终端以及Google Drive和GitHub等第三方应用的访问权限。虚拟计算机是在云端运行的模拟计算环境，ChatGPT代理可独立控制——某种程度上就像为AI配备了一台专属的沙盒计算机来执行实际工作。

<span data-mce-type=”bookmark” style=”display:inline-block;width:0px;overflow:hidden;line-height:0″ class=”mce_SELRES_start”></span>

“我认为这代表着AI能力的新高度，”OpenAI首席执行官Sam Altman在该产品开发团队的直播演示中表示。不过这场直播的特别之处还在于OpenAI发出的诸多”用户当心”警告。

“这是使用AI的新方式，但随之而来的将是一系列新型攻击手段，”Altman说，”随着人们以这种方式完成越来越多工作，社会和技术都必须进化，学习如何缓解那些我们现在甚至无法想象的威胁。”

例如：代理可能研究某件商品后，在钓鱼网站找到该商品并提交用户的信用卡信息。为缓解此类风险，当前版本设置了多重防护措施，比如在上传信用卡信息前会暂停操作，等待用户手动确认。

“我们已训练模型忽略高风险网站的可疑指令，”OpenAI研究员Casey Chu表示，”同时设有监控系统观察代理行为，一旦发现可疑活动立即终止。”

Chu补充说，虽然系统防护措施可以实时更新，但ChatGPT代理作为”尖端产品”仍会催生新型利用方式。

“用户必须理解风险，并审慎对待共享的信息，”他强调。

ChatGPT代理的发布正值AI开发者竞相为虚拟助手赋予更强大功能之际。周三，谷歌在搜索服务中推出了由Gemini AI驱动的电话呼叫功能，可代表用户联系商家。

“ChatGPT代理仍处于早期阶段，我们正通过实际使用案例来改进产品和防护机制，”OpenAI代表向Decrypt表示，”当前系统方案反映了我们现有策略，但已为未来发展做好准备，将持续分享优化进展。”

ChatGPT现在能用专属计算机为你工作。

隆重推出ChatGPT代理——融合Operator的远程浏览器操作、深度研究的网络信息合成与ChatGPT对话优势的统一代理系统。pic.twitter.com/7uN2Nc6nBQ

— OpenAI (@OpenAI) 2025年7月17日

网络安全专家也对自主代理的影响表示担忧。

“必须高度警惕，因为代理在对话中隐含泄露个人标识符的权限，”网络安全公司0rcus联合创始人兼CEO Nic Adams指出，”用户应授予颗粒化、可撤销的权限范围，包括目标企业、用途、允许数据要素和过期时间戳。”

关于最佳实践，Adams建议代理执行任务后，在存储超出法定时限的信息前，应提交完整记录供用户审批。

“默示的概括性同意会将责任转嫁给用户，使其失去实质控制权，”他解释道，”因此必须采用逐项任务确认机制。”

除AI代理进行采购或规划的风险外，OpenAI研究人员承认这种自主性会带来新型威胁，尤其是提示注入攻击——通过恶意输入诱使AI泄露数据、传播错误信息或执行未授权操作。

为降低风险，OpenAI开发了接管模式，允许用户中断代理进程自行输入信息。在某些情况下，ChatGPT代理在执行重要操作（如购物或访问敏感数据）前会明确要求用户批准。

“我们打造了强大工具，但用户仍需保持警惕，”Chu总结道。

通用智能通讯

每周AI旅程，由生成式AI模型Gen讲述。
您的邮箱
立即获取！
立即获取！