来源:央视新闻客户端

近年来,生成式人工智能技术快速迭代,AI智能体凭借自动化、场景化的服务能力,加速融入生产生活方方面面。但与此同时,大量仿冒AI智能体也集中涌现,不仅严重混淆公众认知,更潜藏着多重安全风险。记者在多个主流大模型平台实测发现,在搜索栏输入知名企业、公共服务机构名称,均能检索到大量同名智能体,其中绝大多数没有平台官方认证标识。

记者以“南方电网”为关键词在多个主流大模型平台检索发现,仅单一平台就出现了超80个相关智能体,名称覆盖“电力业务办理”“招聘咨询”“内部培训”等多个高频服务场景。部分仿冒智能体不仅直接使用企业官方Logo作为头像,简介话术也高度模仿官方口吻,伪装性极强,普通用户很难一眼辨别真伪。


南方电网“南网求知”科普辟谣平台编辑 马瑷萍:仿冒智能体发布的不实信息会误导公众,给用户造成一定的损失,我们“南网求知”等官方账号已经发布了风险提醒。在此也提醒大家一定要认准正规渠道,不要轻易相信未经官方认证的AI智能体信息。


记者调查发现,除了能源类央企,政务服务、金融、通信等多个与公众利益密切相关的领域,均出现了大量仿冒智能体。这些仿冒账号借助平台流量入口触达用户,不仅严重侵犯了被仿冒主体的知识产权与品牌权益,更给普通用户埋下了信息泄露、财产损失等多重安全隐患。

仿冒AI智能体藏着哪些不为人知的套路?

AI智能体正快速走进我们的生活,但提供便利的背后也暗藏风险。那么,这些层出不穷的仿冒AI智能体,又藏着哪些不为人知的套路呢?

中国信通院人工智能研究所安全治理部副主任 陈文弢:智能体的仿冒相当于是一些攻击者或恶意人员伪造出了一些智能体或智能体三方的工具或技能,让被诱导的用户去使用,从而窃取用户的个人信息、企业信息。甚至实现一些跳板攻击。


智能体可以分为智能体本体和技能工具两个部分,对应的仿冒行为也主要分为本体仿冒和技能仿冒两类;从仿冒手段上看,可以分为描述仿冒和功能仿冒。描述仿冒通过搭建类似钓鱼网站的伪造界面,或者伪造技能包的名称和描述,诱导用户使用;功能仿冒,则是搭建出具备正常交互能力的智能体或技能工具,但在其中嵌入恶意代码或非法指令。


中国信通院人工智能研究所安全治理部副主任 陈文弢:智能体的仿冒相对于传统的钓鱼邮件或攻击方法,它的隐蔽性更强,也更难发现。

仿冒AI智能体何以能够“野蛮生长”?

AI智能体本是提升服务效率、便利公众生活的技术工具,为何会出现仿冒行为泛滥的情况?记者调查发现,低门槛的技术便利与尚未完善的生态治理体系,共同为仿冒AI智能体的野蛮生长提供了条件。

中国电子信息产业发展研究院政策法规研究所研究员 李雨佳:各大AI大模型平台普遍推出零门槛、“傻瓜式”智能体创建工具,普通用户无需具备技术功底,通过简单操作就能快速生成AI智能体。这种便捷性在推动技术普及的同时,也让未经核实的信息得以借助技术快速传播,为仿冒行为提供了便捷条件。


除了低门槛的技术条件,平台方审核机制的缺位,是仿冒智能体得以大量上线的核心漏洞。记者调查发现,当前AI智能体生态仍处于发展早期,部分平台虽设置了官方认证标识,用以区分正规主体与普通创建者,但对智能体创建者的身份核验、资质审核、授权证明核查,仍缺乏严格有效的前置审核机制。大量无授权的仿冒智能体,无需经过严格审核就能轻松上线,面向公众提供服务。

企业、机构、个人如何防范仿冒AI智能体?

相较于传统的仿冒侵权、网络诈骗行为,仿冒AI智能体凭借交互式、人格化、实时性的核心特征,其潜藏的安全风险呈现全新形态,防范难度大幅提升,亟须多方协同发力,构建覆盖全链条的系统化长效治理体系。那么目前情况下,企业、机构还有个人,应该如何防范仿冒AI智能体呢?

对于被仿冒的企业与公共服务机构,专家建议,应加快布局官方AI智能体服务渠道,通过官方平台、线下服务网点等多途径发布认证标识与风险提示,及时排查处置仿冒账号,切实维护自身品牌权益与公众利益。


对于广大用户,专家也提醒,需持续提升自身安全辨别能力,优先通过官方渠道确认并使用AI智能体服务;遇到可疑信息时,主动通过官方网站、官方客服电话核实主体身份,妥善保护好个人信息与财产安全,警惕各类以“官方服务”“内部渠道”为噱头的虚假诱惑。


中国电子信息产业发展研究院政策法规研究所研究员 李雨佳:需加快完善法律法规,明确AI智能体的主体责任、授权及仿冒、侵权认定等标准,让治理有法可依、有章可循。

守好安全底线 AI不能“野蛮生长

2026年中国网络文明大会将于5月19日至20日在广西南宁举办,国务院新闻办公室今天(4月29日)召开发布会,介绍大会的相关筹备情况。

人工智能的发展为优质内容生产、网络传播创新、文明风尚培育提供了新的技术支撑和实现途径,但同时也带来了虚假信息识别、个人信息保护、AI应用伦理安全等一系列新问题、新情况、新挑战,需要在推动发展的同时,加强规范引导和有效应对。


即将举办的2026年中国网络文明大会专门设置了人工智能赋能网络文明建设分论坛,届时论坛将发布《人工智能应用伦理安全指引(1.0版)》,聚焦人工智能对社会关系、情感依赖、公共秩序、个体权益等方面可能造成的影响,提供相关的实践参考,帮助各方更好地把握发展方向,守好安全底线。

(总台央视记者 王世玉 张伟 孙渊)