近期，一些社交平台上出现所谓“营养专家”出镜推荐的“独家减肥食谱”，不少消费者信以为真，纷纷下单购买。那么，这些看似权威的推荐，是否真的出自专家本人？背后隐藏着什么秘密？

　　AI生图

　　名医现身科普视频当事人却全然不知

　　一条AI仿冒视频中出现了侃侃而谈的专家，商家称是北京协和医院临床营养科主任于康教授，他是我国营养与健康领域的权威专家。

　　记者在小红书、微信视频号上刷到了不少以于康教授形象出镜的科普视频，介绍和推销减肥食谱。记者随后联系北京协和医院调查核实，于康教授明确表示，他本人从未参与录制此类视频。“我几乎天天收到好朋友和各种有我联系方式的人给我发来的消息，有质疑还有提醒，经常有的一句话就是‘这是你吗？’‘这是于康吗？’我一看这完全是我的形象，声音相似度完全超乎了我的想象。现在技术能达到这个层级，一方面觉得不可思议，另外一方面觉得有一点后背发凉，挺可怕的。”

　　科普视频中，商家不仅盗用于康教授的形象，其介绍的营养知识也是毫无依据，没有得到科学验证。

　　“他借我的嘴说出来的话，好像是有一定公信力，但是他利用这一点，兜售很多包括但不限于那些错误商品、广告还有错误的信息，这些信息老百姓一旦信，到外头一放大，这个影响就不是对我个人的影响，那是对千千万万受众的影响。”让于康教授更为担忧的是，视频里的错误信息，会让营养学界长期以来的科普努力，付诸东流。

　　不仅于康教授有这样的困扰，北京协和医院临床营养科马方教授也遭遇了同样的情况。在一个平台网店的链接里，视频里的“马教授”分享了自己的减肥经历。

　　据北京协和医院介绍，不少知名专家被AI换脸，用于“养生”“瘦身”等虚假宣传，甚至还有不法商家利用AI生成假医生，打着北京协和医院的旗号，销售各类商品误导消费者，医院、医生深受其害。

　　AI仿冒著名主持人直播间进行虚假营销

　　随着AI仿冒视频的泛滥，司法部门和监管部门已查处多起案件。记者在调查中了解到，多位公众人物的形象被擅自用于商业推广。

　　今年年初，北京市海淀区市场监管局接到消费者举报，一直播间宣称一款鱼油产品具有医疗功效。该账号发布的短视频中，出现了中央广播电视总台主持人李梓萌的形象。

　　记者注意到，发布仿冒主持人李梓萌短视频的账号名为“广州白云深海鱼油工厂”，拥有粉丝80多万。进入直播间后记者看到，这款鱼油售价59.9元三瓶，页面显示已售出17.7万单。

　　北京市海淀区市场监管局海淀街道市监所科员李欣容告诉记者，它的执行标准属于糖果，包装上面也并没有像保健品的小蓝帽标识，并不属于药品，并没有获得药品的批准。直播间或者短视频当中，对普通的食品宣传有医疗治疗功能，或者说使用医疗用语，肯定是违法的。

　　北京市海淀区市场监管部门经过向中央广播电视总台核实，最终确认李梓萌从未代言这款鱼油产品，也未授权使用其形象进行宣传。

　　“最后当事人承认，这个短视频当中的李梓萌形象，是他们的员工在网络上搜集李梓萌播报过的新闻片段，通过AI技术擅自把这些新闻片段进行剪辑加工，最终合成了这个虚构的推荐视频。”市场监管人员调取销售记录后发现，在这条短视频上线后的半个月里，商家借助短视频链接，累计销售鱼油1100余单，销售额达6万余元。

　　“短视频当中擅自使用AI技术，对李梓萌这种知名主持人的形象进行剪辑加工，这个行为是构成了发布虚假广告，违反了《中华人民共和国广告法》第二十八条的规定，最后综合他的违法情节，以及其他的一些裁量情形，最终我局对他作出罚款20万元的行政处罚决定。”李欣容说。

　　记者调查发现，利用AI技术违规营销现象越来越多，关键原因是相关工具非常容易获取。而且，无论是换脸还是拟声，操作起来都十分简便。记者搜索发现，各大手机应用商店均充斥着大量换脸App或小程序，大都可以免费使用。记者随机选取了一个App，仅需上传自己几张人脸照片，就能将目标视频中的知名专家换成自己的面容。

　　除了换脸、拟声，有的App还能提供AI对口型、AI文生视频、AI电商等各种功能。记者体验了其中的“文生视频”功能：在对话框中输入关键词：北京协和医院，女医生，在诊室坐在桌子前，向患者介绍病情，不到30秒时间就生成了一段女医生形象的短视频，还可以选择“不添加AI生成字样”。随后记者输入减肥产品效果文案，选择“主播配音”，就生成了一条“北京协和医院女医生推广减肥产品的”营销视频。

　　中央财经大学法学院教授刘双舟表示，利用AI生成技术，生成营销内容上面违法，主要表现是虚假宣传，生成一些不切实际的文本图片，而且不加AI的标识，这样会给消费者、公众带来误导。

　　AI仿冒名人带货，传播虚假信息，不仅伤害被仿冒者个人名誉，侵害消费者权益，也严重破坏市场生态。各界正积极探索解决方案，以应对这一业态带来的新问题，但治理过程中仍面临不小挑战。

　　目前，AI仿冒相关维权难度极大，技术鉴定、证据固定以及溯源追责等环节，面临不小的阻力。

　　出台监管新规

　　AI内容必须加标识

　　《人工智能生成合成内容标识办法》在9月1日已经正式实施，明确要求：利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息，必须依法添加相应的声明标识。

　　刘双舟介绍，这个文件出来以后就明确要求AI生成的和合成的内容要加标识，应该加两个方面的标识。一方面是显性的标识，就是公众能够通过内容的标识判断出来，这是AI生成的内容。还有一些隐性的标识，元数据上要加，要标明数据的来源、用途和谁生成的。

　　记者调查发现，部分人工AI合成视频当中，发布者要么使用不显眼的字体，要么隐藏在画面边角，有的二次发布者甚至隐匿标识。

　　“国家是有政策专门鼓励AI技术应用，但前提是要规范使用，不能够违规使用。目前来看关于AI技术营销中滥用如何治理，不是一个部门能够解决问题的，我个人观点是，应该多部门联合或者我们叫社会共治。可以出台AI生成技术监管的一个指南，统一执法部门认识和标准。”刘双舟表示。

　　有专家表示，各社交平台作为AI生成视频发布主要渠道，应在平台规则、内容审查等方面进一步完善相关措施。

　　“平台应该建立AI生成内容的一个审核机制，加强对AI生成内容的审核，比如说对逃避AI标识的内容，可以采取下架限流这样一些措施。”刘双舟说。