在一段视频中，两个穿着白色短袖的“孩子”在阳光下快乐地滑冰。随着镜头的滚动，他们的动作交织在一起，他们的身体实际上融合在一起，露出了数字合成的痕迹。
今年“双11”期间，北京市民王晃在社交平台上看到了这段童装宣传视频，非常惊讶。直到他看到角落里写着“内容由AI生成”的信息，他才意识到孩子们玩耍的场景是由科技合成的。 “这个图片有点不对，怎么让人相信产品的真实效果呢？”她疑惑地说。
近期，卖家利用人工智能技术销售产品的现象不断增多，其中部分违法违规行为。一些交易者利用名人效应，冒充专家、学者、冠军、奥运选手和影视明星作为产品平台。一些企业歪曲知名胸罩并误导消费者。许多消费者和粉丝难以辨别真假，出于对“偶像”或“品牌”的信任而下单，却没有意识到其中的风险。
这些游走在灰色地带的“AI鬼魂”涉嫌侵犯当事人的公开权和消费者的知情权、选择权，对当前网络数字化治理提出新的挑战。
“两个人互相渗透身体显然违反了现实世界的物理定律。在业内，我们称之为‘霉菌入侵’。”人工智能高级工程师蓝天说。
他指出，当前主流AI视频生成模型的核心逻辑是基于海量数据训练，对镜头、镜头和图像生成能力有很强的理解，能够根据文字描述“画出”真实的图像。然而，人工智能仍然缺乏深度理解和预测的能力。现实世界的复杂物理定律，例如重力、碰撞和物体之间的不可穿透性。
“‘模型交叉’是AI生成视频中的一个典型漏洞，它体现了当前技术在处理复杂动态场景方面的局限性，是一个挑战，体现了当前技术在处理复杂动态场景方面的局限性，也说明了与规则之间还存在差距。”蓝天说。
据记者调研，利用人工智能工具批量生成营销视频在电商运营中十分常见，网上甚至有系统的教程。
在一个针对电商专业人士的教育视频中，一位自称经验丰富的电商直播博主详细介绍了如何利用人工智能快速制作引人注目的产品视频。他作为“好榜样”向学生展示的例子，是王欢观看一段童装视频，发现其中存在的问题。“使用模型。”
在解释《百视逻辑》的创作时，博主表示：“同学们向我学习后，利用AI批量制作了这类视频，精准捕捉妈妈的心理。这个视频直接回应了妈妈群体的两个需求：‘好看’和‘实用’，这是成功的关键。”
另一位博主在他的帐户上推荐了更多“高级”操作。博主以一段真人制作的、在线浏览量超过千万次的炸鸡腿视频为例，演示了如何利用人工智能工具对原视频中的人物进行“深度改造”。除了改变面部特征、上衣和配饰之外，我们还调整了角色的体型和性别。
此类教育内容的泛滥模糊了现实与虚构之间的界限，给消费环境带来了隐患和风险。
名人曾被拍到摆姿势作为货车和运输包裹。
“拎行李的绝对不是我！” 10月初，在江西南昌举行的国际学术会议上，中国工程院院士、中医大师张伯礼向与会者展示了一段用自己的形象和声音制作的人工智能假视频，开启了他关于“打假”的演讲。
“这是一段假合成视频，声音和我很像，但内容却与我本意完全不同。”张伯礼郑重提醒公众提高辨别力，谨防此类数字诈骗。
今年10月20日，天津中医药大学发表严正声明。近日，经指出，社会上存在不少机构冒用会员张伯礼名义，通过社交媒体等平台宣传产品推广、培训、评审活动，如“声明强调，这些机构与张伯礼院士没有任何关系，其行为涉嫌严重误导公众，侵犯公众健康权益，构成医疗安全风险，违反相关法律法规。
不仅专家学者感到震惊，知名媒体人士也成为了造假的对象。今年6月，北京市海淀区市场监管局查处首例滥用人工智能技术发布虚假广告案件。
根据消费者举报，执法人员对北京一家公司进行调查，发现该公司通过一个拥有数十万粉丝的视频账号销售“鱼油”，宣传其可以治疗头晕、头痛、记忆力减退等。中央广播电视总台主持人李子萌亮相d 在现场视频中。
经详细调查，确定该公司销售的所谓“鱼油”实际上符合普通甜味食品的标准，不具有任何治疗作用。有权威机构证实，视频中出现的“主持人”形象是利用人工智能技术进行恶搞的。最终，该公司因违反《中华人民共和国广告法》相关规定，受到市场监管部门的行政处罚。
某平台销售的“AI EC课程”详情页截图。卖家声称可以帮助用户“重新制作热门视频”。照片由受访者提供。
误导性广告和人工智能误导性广告
北京市市场监督管理局副局长周晓峰表示，中国政府支持人工智能技术在广告领域的广泛应用，愿意“展示人工智能技术在广告领域的应用”。他表示，主持人、网红等公众人物的社会意识较高，一些不法经营者利用人工智能技术等手段伪造图片、音频、视频进行虚假宣传，或者利用明星知名度宣传自己的产品和服务牟利，侵犯了消费者的合法权益。
“人工智能技术的复杂性和广度”鉴于其广泛的应用，人工智能治理必须跨部门协同推进。中国政法大学副教授、中国广告协会法制与道德委员会专家朱伟表示：“这需要继续加强监管、加大平台问责和网民参与力度。”
关于治理 除了平台之外，一些广告公司还我们正在开始创建系统来管理整个流程。营销服务平台聚聚引擎业务安全治理标准负责人向云先生针对AI广告违反公序良俗、抄袭行为提出：平台以“精准身份验证、严格应对”为主，攻击、虚假广告等风险突出。今年第三季度，我们截获人工智能相关非法材料超过84万条。
如今，人工智能对虚假广告的管理正在从依赖人工审核演变为人机协作和智能识别。聚聚引擎商业安全产品负责人潘迪表示，平台通过大规模多模态模型的应用，提高了识别效率。系统可以快速分析视频素材，识别出违法内容出现的特定时刻和场景，为审核决策提供依据。
潘迪赛d 与传统审计模型不同，融入人工智能能力的大型模型可以从大量示例中学习并理解规则背后的逻辑。 “当面对从未见过的面孔或新的欺骗技术时，系统可以根据对规则的理解来识别违规的性质，从而大大提高其发现新的隐藏违规行为的能力。”
面对不断发展的人工智能欺骗技术，治理体系必须不断优化。朱伟提出，要切实保护市场秩序和消费者权益，要加强合成内容的识别和溯源，推动平台、监管机构和技术提供商之间的数据共享和标准共建，构建覆盖内容生成、传播、识别全链条的治理生态系统。
AI广告与销售组合应对动荡，北京市马克监管总局提醒消费者，如发现涉嫌利用人工智能技术进行误导性广告等违法行为，应谨慎保存证据，并通过12315、12345等热线渠道向市场监管部门举报，共同维护良好的广告市场秩序和消费环境。同时，企业要严格遵守《中华人民共和国广告法》、《反竞争法》等法律法规，杜绝不公平现象，不得利用人工智能等新技术冒用他人姓名、形象进行营销或促销活动。
中青报/中青报记者刘银恒陈晓来源：中国青年报【编辑：李岩】
小心！这个肺部的“隐形杀手”经常被误诊为感冒。
民间产业学者强调“破道”驱动的时代方向n Walls”创新
一生中至少必须爬一次金华山！
冬季一日三餐该如何吃才能保持健康？
随着气温升高，你是否感觉凉爽？专家：可能是“季节性情感障碍”
日本计划恢复“大校”军衔；国际社会处于高度戒备状态。
面条厂“擦飞机”！ “三号”吃飞机的黑色产业链
流感病毒“进化”了吗？专家回应
中超联赛概况：争冠格局正在发生变化，年轻球员不断涌现。
不正确的陈述背后有三个主要意图。早苗的“计划”是什么？
通勤或在家工作时哪些类型的情况被视为工作场所事故？
“学生课外不准入住宿舍”一事引发热议。大学管理的局限性是什么？
一键“打脸”潜藏诸多风险改变。” AI换脸技术滥用调查
很难用，我也不会用。无障碍设施为何成为“障碍”？
这么多地方都有卧室吗？只需稍睡一会即可到达这些城市。
跨越时空的旅程，年轻人喜爱的复古单品
零售商在衣服上放置密码锁或巨型吊牌以防止“随机磨损”是否合法？
从“制瓷”到“打捞”，百亿新产品因缘而生的“千年瓷城”