■■■■◆“对于AI技术提供者或者开发者■★■，需确保训练数据的合法性，若使用未经授权的受版权保护作品(如他人照片、绘画、视频片段)作为训练素材★★★■■，可能构成对原权利人的著作权侵权★■◆，需承担赔偿责任。”王风和说，AI技术提供者或开发者应采取技术措施防范工具被用于违法活动◆◆★★，如检测技术◆★◆、限制生成色情、暴力★◆■■、虚假信息等违法内容的功能。若未设置必要的安全限制，导致工具被用于诈骗、诽谤、危害国家安全等行为，可能因■◆“提供帮助”承担连带责任★★■。

　　■★■■■“生成警察抓人视频并配上所谓警情通报，若内容虚假，涉嫌违反《生成式人工智能服务管理暂行办法》中关于不得生成虚假有害信息的规定。若有人借此进行诈骗或勒索他人财物，可能构成诈骗罪或敲诈勒索罪◆◆◆■。警服、军装等有特定设计，受法律保护。若AI软件在生成图片和视频时★◆◆◆◆■，未经授权使用受版权保护的素材，如警服细节设计、特定字体的警情通报格式等，可能侵犯版权方权益。”王风和说。

　　导致公信力受损。虚假内容的大肆传播，将逐渐降低公众对军人、警察职业的信任程度，降低民众对执法行为的敬畏感，进而产生干扰正常执法工作的行为，影响法律的权威性与执行效能◆★★；

　　她进一步分析道■★◆★，依据国防法、军人地位和权益保护法的相关规定■◆◆■，军人应当受到全社会的尊崇；按照《互联网军事信息传播管理办法》★◆★★◆■，互联网军事信息服务提供者和用户使用深度合成、生成式人工智能等新技术新应用，不得损害人民军队形象。相关法律法规明确保护军人荣誉，若利用“换装■◆”生成的内容损害军人形象◆★■，同样会受到相应的处罚。

　　还有些用户上传的并非自己照片★◆■★◆★，而是他人或者明星的照片。对此，北京市盈科律师事务所高级合伙人王风和告诉记者★★◆★，AI生成的图片或视频中，若人物形象可被识别，且未经本人同意■■，依据民法典规定，未经肖像权人同意，不得制作■◆◆★、使用、公开肖像权人的肖像，但是法律另有规定的除外■★◆■■■。这种行为已经侵害了他人肖像权。

　　细观这些AI生成的◆■“军人”“警察”形象◆◆，问题重重。有业内人士举例说，有的混淆军种制式乱搭乱配，有的勋章军衔是错误的◆★◆■◆★，不符合《中国人民内务条令》等规定的着装规范◆■。

　　★◆◆★■★“军人、警察等特殊群体，承担着处理国家公共事务、维护公共安全与公共利益的职责，有明确的制式服装着装规范■◆■。在未获得有关授权的情况下，若用AI生成某些能够清晰表明其身份的图片和视频，或蓄意捏造、传播与其职业形象不符的内容，将面临不同程度的法律风险。”周丽娜说■◆。

　　受访专家指出，治理此类乱象需压实各方责任，形成合力★◆★，在尊重法律与职业尊严的前提下■◆★★■◆，引导技术发挥积极价值◆★◆■。

　　存在引发社会秩序混乱的潜在风险■■。“假执法视频”的传播可能误导公众，引发不必要的恐慌，甚至可能诱发件，威胁社会稳定，扰乱正常的社会秩序；

　　受访专家认为，除用户外，对于类似图片和视频的制作和传播，平台和AI软件公司都应依法承担相应法律责任。

　　此外，若平台明知用户利用其服务实施违法违规行为，却未依法依约采取警示、限制功能等处置措施■◆，需承担相应连带责任★■■★。

　　“这辈子没机会真入伍，先整个‘电子军装★★■◆■’过把瘾”“AI一键让我穿上了绿色的军装◆■◆，圆了我儿时梦”“体验一下穿上警服抓人的样子，帅气吗”……近期，AI生成的“军装照”“警察抓人照■■★◆”在短视频平台爆火，用户上传照片即可轻松“变身”。

　　“还应加强对公众的法治教育和职业尊重教育，提高民众对军人、警察等职业形象重要性的认识，以及对相关法律规定的了解，引导民众自觉和不传播不当内容。同时向公众普及AI内容的识别方法★■■■◆★，降低被骗、被误导风险。”王风和说。

　　周丽娜建议◆★◆★■，在制度层面进一步健全法律法规。明确AI生成特殊公职人员形象的使用界限、责任划分以及法律后果◆■■★◆，特别是针对损害公职人员形象★◆■★◆、滥用职业标识等行为■★★◆■，细化法律条文★◆■■◆，提升法律的针对性与可操作性。落实标识制度，严格遵循《人工智能生成内容标识办法》，确保AI生成的涉及公职人员形象的内容均添加◆■◆★“AI生成★◆”标识，涵盖显式标识和隐式元数据，便于公众识别，减少误解和虚假信息的传播。

　　记者也注意到■◆，网友发布的一些AI生成的“军人形象★◆◆”，有的勾肩搭背、站姿懒散◆■★★■■、坐姿浮夸，有的手中拿着烟酒，一副“混混形象”，与军人应有的严整军容相去甚远★◆◆◆★。

　　多位专家接受《法治日报》记者采访时指出，技术本无善恶◆◆■★★，绝大多数网友借此表达对军人■◆、警察崇高职业的向往与敬仰之情，满足了普通人体验荣誉感的精神需求，无可厚非。但部分网友AI■■■“换装”军人、警察照片、制作视频，使用不良姿态◆◆■◆■◆、配上烟酒，混淆军种■■◆★★、配发虚假案情等，不当消费甚至亵渎军人■◆◆、警察形象，触碰法律红线，更潜藏多重社会风险，亟待加强规范与治理。

　　从平台层面来说，平台需切实履行主体责任，对AI■★■◆★“换装”相关内容设置显著标识，并建立审核机制。对于存在公职人员形象误用、虚假包装、侵犯他人权利等问题的内容，应及时下架封禁。进一步提升技术审核能力，充分利用人工智能技术优势，开发更为精准的内容审核算法，通过图像识别★★◆、语义分析等技术，对AI“换装”生成的内容进行实时监测，及时发现违法违规内容■■。在用户使用相关功能前，以弹窗等形式提示法律风险和使用规范。

　　中国传媒大学文化产业管理学院法律系教授周丽娜说，“换装◆★★”乱象的社会危害在于——

　　产生技术滥用的示范效应。降低伪造内容的制作门槛，让更多人能够轻易制作并传播虚假信息■★，这不仅会助长灰色产业链的扩张，还可能导致更多不法分子跟风效仿，从而进一步加剧信息环境的混乱。

　　对于上述AI◆★★◆“换装◆■★”乱象，多数网友认为■◆■，这是对军人、警察形象的不当消费和亵渎◆★■，应当依法进行整治■★，净化网络环境★◆■；也有少数网友认为，只是闹着玩，没必要上纲上线★◆◆。

　　记者发现，短视频平台上“AI军装照”制作教程流行，用户只需上传一张照片■★■◆★★，即可一键生成军装照，有些照片还会配上坦克车、阅兵场等背景■■，看上去英姿飒爽◆★◆。还有不少人发视频教学★◆：■★■◆“网上很火的AI变身军装特效，很多人找不到制作入口，三秒教会你如何制作◆■■◆★，学会快去试试。■★■■”

　　类似的◆■■◆，“一键生成警察抓人”特效也广受欢迎。有用户设定如“因酒量差被带走”“因打麻将赌博被抓”等戏谑或虚构的案情◆◆■★★，生成自己被抓捕的图片或视频。

　　在王风和看来★■★◆◆■，根据《生成式人工智能服务管理暂行办法》■■★■◆◆，平台作为生成式人工智能服务提供者，若未对违法内容采取停止生成■■◆、停止传输、消除等处置措施★■■，未向有关主管部门报告◆■◆■，需承担法律责任；平台还需按照规定对生成内容进行标识，若未标识导致公众混淆或误解，也违反了《互联网信息服务深度合成管理规定》★★。

　　从操作层面而言◆■■◆，作为产品研发者◆◆，应精心做好产品设计■★，严格把控训练数据的入口以及AI生成的出口◆★★◆◆◆。要始终将合规性放在首要位置，不为流量和娱乐因素所干扰。相关主管部门在审核App时■■■◆■，对于涉及生成特殊公职人员形象的人工智能产品，需强化模型的合规性审查。同时，可以设置技术门槛，要求相关应用程序具备一定的合规检测功能后，方可上线运营■■★★★■。

　　多位受访专家认为，上述AI“换装”乱象，不仅损害了军人、警察职业的庄重感★◆★■，模糊了虚拟与现实的界限，会引发一系列社会危害，也涉嫌触犯了法律红线■■★■■◆。