仿冒AI智能体层出不穷 有用户被误导 谁该担责?

  近期,有网友发现 ,不少AI大模型平台都开放了网友自制的AI智能体的体验,其中就有不少打着官方旗号的智能体。但这些带有官方Logo、语气专业的AI客服给出的回复乃至建议却并不那么靠谱 。这些引发大量误导的智能体究竟是怎么生成的?普通人又该如何擦亮双眼?

仿冒AI智能体层出不穷 有用户被误导 谁该担责?-第1张图片

  如果AI大模型上的智能体(Agent)告诉你,有“南方电网”招聘的内推渠道 ,这会是真的吗?近日 ,南方电网公司官方科普辟谣平台“南网求知 ”视频号发布视频,反映在大模型上竟搜出了近70个“南方电网”智能体,却没有一个是南方电网发布的。有关所谓内推信息 ,视频号辟谣说:

仿冒AI智能体层出不穷 有用户被误导 谁该担责?-第2张图片

  我问南方电网内训师智能体,南方电网有没有内推渠道,它让我联系某个私人手机号 ,顺着号码一查,发现竟是一个中介机构。事实上,南方电网从未开展过任何内推 。所有招聘信息仅通过官方渠道发布 。

仿冒AI智能体层出不穷 有用户被误导 谁该担责?-第3张图片

  对此 ,相关AI大模型平台表示,企业在平台运营的官方智能体均带有认证标签。用户因个人学习 、求职等需求自主创建的包括企业模拟面试官在内的各类涉企业智能体,均未获得官方资质认证。后续平台也将对未经授权、易造成混淆的企业相关智能体下架 。

  究竟什么是智能体 ,它和我们熟悉的DeepSeek等大模型有什么区别?工业和信息化部信息通信经济专家委员会委员刘兴亮指出,智能体从本质上讲,是从“对话”走向了“行动 ”。

  刘兴亮:智能体 ,英文名为Agent。简单地说就是它不只是回答问题 ,它是一个能替你做事的AI 。以前的大模型,你可以理解为它像一个顾问,你问他答。现在这个智能体 ,像一个员工,你说了目标,他去执行。本质上 ,智能体就是把一个机构的服务能力做成了一个“数字员工 ” 。

  既然具备“员工”的能力,为何会频繁出现误导用户的现象?刘兴亮表示,各大平台推行的零门槛创建工具 ,在激发公众参与的同时,也让未经核实的信息搭上了技术的快车,放大了大模型固有的“幻觉”缺陷。

  刘兴亮认为 ,尽管目前智能体还在初级阶段,可能会出现种种问题,但它的确是未来AI发展的趋势之一。

  刘兴亮:过去的我把他们叫作“生成式AI ” ,现在智能体这一波 ,我把它叫作“养成式AI” 。就是你得去养,AI给了一个能力,就像雇了一个实习员工 ,不是说来了就能很好地上岗,我们得去培训他,去教育他 ,让他变得越来越好。

  智能体正快速走进我们的生活,但提供便利的背后也暗藏风险。面对层出不穷的AI应用,我们还是要提高安全意识 ,特别是辨别虚假信息、违规服务或诈骗行为,及时留存证据,通过正规渠道维权举证 。

  对于冒充官方的AI智能体 ,中国政法大学人工智能法研究院院长张凌寒认为,其本质不仅是侵权,更是对公共常识的混淆 。未来 ,提供创建工具的平台理应承担起前置审核义务。

  张凌寒:滥用他人名义的Agent ,是严重的侵权行为和混淆冒用的不正当竞争行为。实际上平台是有审核义务的,这种实名制的认证,包括真实资质的认证 。我们国家已经有一套对账户管理体系的完整的认证机制 ,相信未来这样的制度也都会延伸到有关Agent的审核当中去。

  在AI这位“实习员工”真正成熟之前,如果因为轻信这些山寨智能体造成了损失,制作智能体的个人创建者需要担责吗?北京航空航天大学法学院副教授赵精武给出了明确的法律界定:关键看是否为了商业牟利。

  赵精武:如果只是为了普及知识 ,了解一些业务咨询流程的指导,这不需要担责 。但假如研发者是为了引流 、获取一定的商业利益,在获取商业利益的过程中发生了欺诈 ,这种行为肯定是要担责的。

  但并非所有领域的智能体都能被随意创建。赵精武指出,针对电网 、医疗等特殊场景,以及AI生成内容的标识问题 ,我国现行法律体系已经划定了明确的红线 。

  面对防不胜防的AI生态,张凌寒教授特别提醒,尤其在涉及财产安全的领域 ,绝不可轻信。

  张凌寒:随着平台业务的延伸 ,大量的Agent入驻平台,尤其是在人工智能的“幻觉 ”还无法完全消除的情况下,对于医疗、金融等专业的意见和涉及财产健康方面的Agent ,实际上我们是不能够完全相信的,而是还要到官方网站去进行相关的服务和交易。

  赵精武提醒,当下的智能体尚处于发展阶段 ,切莫被部分技术概念炒作的营销口号迷惑,既要对新兴技术应用抱有积极客观的态度,也要警惕技术创新过程中不可避免的安全风险 。

  (总台记者 任梦岩)

标签:

相关推荐

  • 【上海疫情计算器,上海疫情费用】

    【上海疫情计算器,上海疫情费用】

    小孩在上海上学积分快速查询!附官方网站网站查询入口→〖壹〗、小孩在上海上学积分快速查询方式及官方网站网站查询入口官方网站查询入口:http://ggfw.rsj.sh.gov.cn/快速查询方式:官方网站查询访问“上海市人力资源和社会保障局公共服务平台”的官方网站:http://ggfw.rsj.sh.gov.cn/选取“积分管理”选项。使用单位注...

  • 葛卫东,最新持仓曝光!

    葛卫东,最新持仓曝光!

      炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!  来源:中国基金报  【导读】葛卫东及其关联人持仓出炉  中国基金报记者孙越  随着各家上市公司年报的披露,葛卫东的持仓状况浮出水面。  据记者统计,葛卫东本人及其关联人王萍、葛贵莲共现身8家上市公司的前十大流通股东名单。从布局方向看,葛卫东家族的投资主要集中于三大赛道...

    2026/04/19
  • 31省新增本土69例(31省区市新增本土确诊69例)

    31省新增本土69例(31省区市新增本土确诊69例)

    31省份新增本土确诊69例在哪几个省份月15日0—24时,31省份新增本土确诊的69例分布在以下省份:浙江省:56例,其中绍兴市48例、宁波市5例、杭州市3例。广东省:6例,均在东莞市。陕西省:4例,均在西安市。内蒙古自治区:2例,均在呼伦贝尔市。安徽省:1例,在宿州市。以上即为31省份新增本土确诊的69例所在的具体省份及地区分布。月25日0—24时,全国...

  • 北京冬残奥会闭幕式/2022年北京冬残奥会

    北京冬残奥会闭幕式/2022年北京冬残奥会

    北京冬残奥会闭幕式两个比较核心的表演有哪些寓意?导演要表达怎样的意...〖壹〗、北京冬残奥会闭幕了,我认为在闭幕式上冬奥会有很多绝佳的创意,而其中唱片的创意我认为是一个核心的表演,唱片或者是大表盘的创意是闭幕式的核心表演,经验到了我们非常多的人,而闭幕式的总导演也是张艺谋,张艺谋阐述了他对于这两个主视觉形象作为核心创意的原因。〖贰〗、残奥会闭幕式的主题为在...

  • 呼和浩特营运车限行/呼和浩特有限行吗

    呼和浩特营运车限行/呼和浩特有限行吗

    有营运证网约车限号吗〖壹〗、车身有统一标识的营运车辆比如出租车不在限行之列,而滴滴打车和网约车都在单双号限行之列,如违反规定必须处罚。随着智慧交通的发展和推广,近来网约车业务已覆盖全国大部分城市。网约车的普及丰富了公众交通出行方式,为民众出行提供了便利和多样性选取,同时为专职从事网约车驾驶人员提供了新的就业渠道。〖贰〗、运营的网约车能进深圳,外地车辆当然是...

  • 卧室家具三种颜色/卧室家具的颜色

    卧室家具三种颜色/卧室家具的颜色

    卧室最旺三种颜色是什么颜色的床呢?〖壹〗、米黄色:米黄色是一种非常低调的颜色,用做床头颜色不会跟卧室装修冲突,整个环境也是很和谐的。而且,米黄色在五行中属土,土能生金,所以床头用米黄色能够招财财运。不过,若是五行属水的人,就不适合用这个颜色了,不然就会使自己的运势受到压制,可以选取和自己五行相生的床头颜色。〖贰〗、卧室气运最旺的三种睡床颜色**粉红色**...

  • 300807,重大资产重组!明天停牌!

    300807,重大资产重组!明天停牌!

      炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!  4月19日晚间,天迈科技(300807)宣布启动重大资产重组计划,交易目标为收购上海芬能自动化技术股份有限公司(简称“芬能自动化”)100%股权并募集配套资金。  芬能自动化面向汽车、电子、新能源等行业,从事自动化生产系统的开发。本次收购或与天迈科技开辟第二主业的经营规划相契...

    2026/04/19
  • 仿冒AI智能体层出不穷 有用户被误导 谁该担责?

    仿冒AI智能体层出不穷 有用户被误导 谁该担责?

      近期,有网友发现,不少AI大模型平台都开放了网友自制的AI智能体的体验,其中就有不少打着官方旗号的智能体。但这些带有官方Logo、语气专业的AI客服给出的回复乃至建议却并不那么靠谱。这些引发大量误导的智能体究竟是怎么生成的?普通人又该如何擦亮双眼?  如果AI大模型上的智能体(Agent)告诉...

    2026/04/19
  • 甲壳虫费用(进口甲壳虫费用)

    甲壳虫费用(进口甲壳虫费用)

    购买一台甲壳虫需要多少钱?首先,甲壳虫车的费用受到很多因素的影响。比如年份、车况、车身颜色、配置等等。一辆二手的较为老旧的甲壳虫车,可能只需要5万-6万左右,而一辆全新的甲壳虫车费用可能高达20多万。其次,还需要考虑选取哪种款式的甲壳虫车。甲壳虫车分为硬顶和敞篷两种,在费用上也有较大的差异。通常来说,敞篷款的费用会比硬顶款要高出不少。新车报价2024款珍藏...

    2026/04/19
  • 春运防疫政策(春运期间防疫政策)

    春运防疫政策(春运期间防疫政策)

    春运,疫情防控意识不能停〖壹〗、春运期间疫情防控意识不能松懈,需全社会共同努力保障安全出行。当前疫情形势严峻,春运风险加剧全球新冠肺炎疫情仍处于高位运行,国内本土疫情呈现局部散发与规模性聚集并存的特征。春运期间人口流动性显著增加,跨区域人员往来频繁,导致病毒传播风险进一步上升。〖贰〗、关键时期防控意识不能松随着年终岁尾的到来,春运即将开始,社会面的人流量...

    2026/04/19
返回顶部