律页科技 Logo
首页
解决方案
效能律所私有AI中枢AI 智能作业系统
品牌AI影响力升级数字人代运营
资源观点
资源文书资源法律导航
观点法律社区律页声音
有关律页
团队介绍加入律页联系律页
律页科技 Logo
首页
律页

产品与解决方案

首页律所私有AI中枢AI 智能作业系统AI 影响力升级 (GEO)AI数字人代运营

资源与观点

文书资源法律导航法律社区律页声音

关于律页

团队介绍加入律页联系律页

用户协议

数据使用声明Cookie使用政策文档发布协议隐私条款用户服务条款

关注我们

律页公众号

律页公众号

律页微博

律页微博

2023-2026 北京律页网络科技有限公司版权所有ICP经营许可 京B2-20254773京ICP备2023007930号-4京公网安备11010502056436号
北京律页网络科技有限公司 联系方式: 400-966-9558地址: 北京市朝阳区新华科技大厦13层1316室
全部问题
话题
话题
标签
榜单

前沿有道 | 陈天昊:智能体出海的风险特征与规范应对

行业观点
专业人士
发表于 05 月 12 日修改于 05 月 12 日

来源:法学学术前沿

发布日期:2026年05月11日    


L L L 法学学术前沿

智能体出海的风险特征与规范应对

作者简介

陈天昊,清华大学公共管理学院副教授、清华大学科技发展与治理研究中心主任助理

来源:《法治日报》

国务院《关于深入实施“人工智能+”行动的意见》提出,要加快新一代智能终端、智能体等应用普及,并强调推动人工智能作为造福人类的国际公共产品,打造平权、互信、多元、共赢的人工智能能力建设开放生态。这意味着,智能体很可能成为下一阶段人工智能应用普及的重要载体,并有望成为中国参与全球人工智能合作、竞争与规则塑造的重要产品形态。基于大语言模型的开放生态,已经通过模型开源在全球形成广泛影响;随着智能体的快速发展,我国智能体的出海也在加速形成新的浪潮。

大语言模型的出海,主要输出的是语言理解及内容生成,本质上是知识能力的出海。而智能体出海则更进一步,它不仅要生成内容,还要进行环境感知、工具调用、任务执行,并在具体场景中持续稳定地提供交付。要而言之,智能体出海输出的不只是知识能力,而是将识别、交互、执行与服务等整合封装为可被产品化输出的综合行动能力。也正因为如此,智能体出海很难仅依靠模型出海来完成,还需依赖终端硬件、接口系统和后续服务的协同支撑。由此,智能体出海的意义,便在于推动中国人工智能由单一模型能力输出,走向“技术—硬件—服务—生态”的一体化输出。

然而,考虑到智能体在技术及产业上的独特性,智能体出海至少面临以下三方面的风险特征,需要特别重视。

首先,智能体出海需要应对安全风险的耦合性。 传统数字产品的安全问题,主要表现为网络攻击、系统漏洞等相对可识别、可定位的风险。智能体的安全风险则有所不同。它往往不是由单一漏洞直接引发,而是在模型输出、工具调用、记忆留存、权限配置、硬件执行与具体环境持续互动的过程中逐步形成,并最终以非预期后果的形式显现出来。Anthropic关于agentic misalignment的研究提示我们,当模型被赋予较高自主性并嵌入真实任务环境后,其风险已不再局限于单次输出失误,而可能随着目标设定、工具权限和环境约束的变化,在任务执行过程中被放大。近期关于Agent安全测评的研究也反映出,智能体风险越来越多地出现在多步工具调用、持续交互和复杂任务编排之中,而不只是最终输出环节的错误。OpenClaw等开源Agent的工程安全文档同样将prompt injection、工具滥用、不可信外部输入等列为重点风险。由此可见,智能体的安全问题往往产生于模型输出、长期记忆、工具权限、执行动作及环境反馈等多元因素之间的持续耦合。

其次,智能体出海还将面临数据合规向服务责任扩展的问题 。智能体往往需要持续感知环境,识别并记录用户习惯,乃至留存操作信息以不断优化服务。也正因此,智能体所引发的数据合规问题,并不止于个人信息处理本身,而会进一步延伸到整体服务过程。对个人信息的处理要求,也会与陪伴、教育、家庭照护等特定场景中的权益保护需求相叠加。对智能体而言,由于其持续运行更依赖数据回传、状态识别和服务优化,相关合规压力很可能进一步强化。澳大利亚的相关规则则更进一步,要求受年龄限制的社交媒体平台自2025年12月10日起采取合理措施,防止16岁以下用户创建或保有账户;澳隐私专员公署同时明确,平台在履行年龄核验义务时仍须遵守个人信息保护要求。这表明,监管关注的重点已经不再限于信息处理本身,而是进一步延伸到平台如何识别、接触并服务特定群体。由此可见,在智能体出海中,个人信息保护只是基础,数据合规建设还须进一步覆盖持续交互、行为影响、服务边界以及特定群体保护所对应的整体服务责任。

最后,智能体出海的竞争风险正在转向生态接入与控制权竞争。 智能体的竞争,不再只是模型能力或产品价格的竞争,而越来越表现为围绕用户入口、平台接口、交易链条和操作流程展开的竞争。原因在于,智能体要真正完成任务,往往不仅要生成内容,还要能够访问账户、调用接口、读取上下文、完成操作,并在既有平台规则下持续稳定运行。谁能够掌握生态内信息、服务与流量的分发权,谁就更有可能决定第三方App、工具及其他智能体能否接入,以及它们在多大程度上能够嵌入用户的操作流程。亚马逊与Perplexity的争议,正体现了这一问题:2025年11月,亚马逊起诉Perplexity,指控其通过Comet浏览器及相关AI agent未经授权访问亚马逊平台和用户账户,并将自动化行为伪装为人工浏览;2026年3月,联邦法官一度支持亚马逊的临时禁令请求,随后上诉法院又作出临时中止的裁定。尽管案件尚未终局,但其所反映出的法律风险已经较为清楚:智能体时代的产业竞争,正在越来越多地表现为生态与生态之间的竞争,并进一步演化为围绕用户入口、平台接口和服务分发权展开的控制权竞争。这提示我们,智能体出海面临的已不只是进入他国市场的问题,更是能否进入他国既有数字生态、平台体系和接口秩序的问题。

归结而言,智能体出海所需应对的并非一般意义上的产品合规,而是跨越模型、工具、终端、平台和具体场景,同时涉及安全、数据、服务、竞争等多个维度的合规压力。这些问题单靠企业逐项适应、个别应对,不仅成本高昂,而且难以摆脱被动局面。正因如此,我国应立足自身在人工智能技术、智能终端制造、应用场景拓展和产业有效协同等方面的基础,加快形成与智能体发展相适应的国内规范体系,并围绕智能体在安全、数据、服务、生态等方面所呈现的风险,积极参与相关国际规则、技术标准和实施指引的制定。国内规范建设与国际规则参与,不是彼此分离的两项工作,而应同步推进、相互支撑:前者既为企业合规和产业发展提供制度指引,也为我国参与国际规则的形成积累实践经验;后者既有助于改善我国智能体出海的外部制度环境,也有助于提升国内规范体系的协调性和可接受性。只有同步推进国内规范建设与国际规则参与,才能在全球智能体治理格局尚未定型之际,为我国智能体出海提供更稳定的合规预期和更有利的制度环境。

相关话题
  • 王轶:《民法典》婚姻家庭编实施五周年:制度发展与理论深化 | 《中国法学》2026年第1期 | 中国法学微信公众号 2026-02-25
  • 2026年律师行业发展趋势的15个想法
  • 从攻击公众人物到“人肉”普通人,起底网络暴力:这些行为真的犯法了
  • 年报|“一带一路”法律研究会2025年工作年报
  • 《今晚30分》|“二手交易‘踩雷’只能认栽? ‘不退不换’条款未必有效!”岳婷律师接受采访
  • 阮神裕:论人工智能时代肖像可识别性的判断标准|前沿