用户只需上传一张生活中的日常图片，一键生成个人军警照……《新华视点》记者发现，一些AI工具推出了“换装”功能，吸引了不少军警迷。但也有不法分子利用“人工智能换装”功能，冒充军警身份迷惑民众，需引起高度警惕。 人工智能生成的制服照片被滥用 记者以“军装人工智能”为关键词，在一些短视频平台上搜索到了一批相关应用。这些应用以“电子军装穿起来有趣”、“AI实现了我儿时的梦想”等亮点吸引了用户。有网友表示，只要上传一张日常生活照，就能“秒变军人”。在坦克、阅兵等背景下，他们感觉自己的“参军梦”实现了。 AI绘图功能pr现在一些流行的AI工具提供的也可以根据用户的需求实现AI的改造。但“AI换装”被一些人不当或非法使用，会造成负面影响。 相关专家在观看一些AI换装视频后表示，不少士兵换装的图像不符合《内部中国规定》规定的着装要求。有的混淆了兵役标准，有的使用假奖章，有的将不同国家的军装元素拼凑在一起。 江苏大学管理学院党委书记、教授马国建表示，有网友利用人工智能对各国、各军种的军装进行混搭。有些将人们拿着香烟和酒精饮料的照片和视频与军装或警察制服的照片和视频结合在一起。这是在不符合我军警应有的形象，是对军警形象的不当消费。 个别网民利用人工智能制作虚假的人民警察证明和军队任命书。今年3月，安徽省黄山市屯溪区网友江某利用人工智能技术合成身着军装的照片，在社交平台上发布“经军委批准，任命我为黄山军分区司令员”的虚假信息，试图获取流量。该行为造成了不良社会影响，江某已受到当地公安机关的处罚。 一些犯罪分子利用“AI换装”技术制造身份，进行诈骗。 今年4月，江苏省江阴市人民法院对一起冒充军人诈骗案作出判决。网友卢某并非现役军人，却盗取军人照片来自互联网的培训，并将其发布在shortG视频平台上。在接到众多愿望后，他用AI合成了自己穿着军装的头像，并花钱打造了军官证，将自己变成了“少校”。六名女性的信任发生冲突后，他以“车祸”、“租车去见老板”等理由骗取了3万多元。法院因冒充军人诈骗罪判处其有期徒刑2年。 今年7月，江苏常州的唐阿姨发现了一个精心设计的骗局：骗子通过AI视频与受害人取得联系。视频中，受害人身穿印有公安标志的制服，以“涉案”为由威胁老人交高额“押金”。幸好警方及时发出警告，赶来将老人解散，才避免了老人财产损失。 拉平台评测ck，改平等图“零门槛” 记者在某社交平台浏览，看到有网友发布AI变装视频，点击视频下方的小程序链接，进入后，如果需要，上传三张脸部清晰照片；经过十几分钟的AI合成，系统生成了一段军装变装视频。在此期间，平台和小程序没有要求上传身份信息，也没有提供人造人不得在非法区域使用的提醒。 9 月 1 日发生的“对人工智能生成的合成内容进行标记的步骤 moreRA”要求对人工智能生成的合成内容进行明确标记。不过，记者在使用了多款AI换装应用后发现，用户合成发布的视频不会有一点混乱。 AI变装技术是删除身份的技术门槛。在某特定购物平台，记者以“AI+军装照”为关键词，发现有商家以各军种、身穿军衔的警服为模板出售素材。店家老板说，这些材料全部拍下来不到一元钱。 记者拍下照片后，店家迅速向网络发送了一个磁盘链接，里面有几十个相当于P图军事模板的文件。用户可以通过PS或AI根据自己想要的风格和级别更换自己的头像。记者尝试使用人工智能生成的军装照片和多个社交平台账号上的照片，发现检查没有困难，都可以正常更换。 北京伟恒律师事务所律师王高峰表示，一些内容平台和第三方软件的评价忽视，放任自流。错误内容的传播可能会降低公众对军队和警察职业的信心和恐慌。 江苏省政府参事室特约研究员丁宏表示，艾已降低了去除身份的技术门槛。警方抓捕视频出现在互联网上，并附有所谓的警方报告，涉嫌传播非法有害信息。这些内容可能会在公共场合被欺骗，造成不必要的恐慌，扰乱正常社会。 近日，国家网信办发布了一起常见执法案例：浙江某公司运营的一款APP提供视频更换、照片更换、配音照片舞蹈等图像处理功能。用户可以更改上传的照片和视频的字符。但安全评估要求未按规定执行，相关综合深层次未明确标注，带来重大安全隐患存在风险，违反《互联网深度综合信息服务管理规定》、《生成人工智能服务管理暂行办法》等规定。网信部责令平台推翻该应用程序。 加强审查审查，防止滥用“AI换装” 《人工智能生成的合成内容识别办法》明确，服务提供者提供生成的合成内容下载、复制、导出等操作时，必须保证文件包含符合要求的明确标识；任何组织和个人不得恶意删除、交互、伪造、隐藏步骤中生成的合成内容集合的识别信息。 今年国家网信办等十部门发布的《互联网军事信息传播管理办法》规定，提供网络军事信息的，互联网上的军事信息和用户在使用深度合成、开发人工艺术等新技术新应用时，不应损害人民军事形象。 王高峰等法律专家建议AI开发者应加强算法设计合规审查，并进行警用、军用标志等敏感检查。敏感信息内容的使用应当在有关部门的指导下严格控制和评估。平台要严格执行《人工智能生成合成内容标注步骤》，对“人工智能换装”产品添加明显标签，建立审核机制，及时清除和抑制违法内容。 丁宏建议加快立法进程，加强刑事司法之间的衔接。有关部门应尽快明确使用界限、责任划分和法律后果涉及军队和警察的人工智能图像序列。特别是对故意破坏军警形象、借机弄虚作假的海关，必须依法依规严肃打击，产生法律约束；对于可能影响国家安全、造成社会损害的行为习惯，人工智能工具开发者和内容平台应该联合起来，严肃负责。 马国建呼吁公众提高对军人、警察等职业形象重要性的认识，普及知识知识，引导公众刻意反应和举报虚假内容和非法应用。加强对艾娜生成内容??识别方式的宣传推广，降低公众被欺骗、误导的风险。 （编辑：谭孟桐） 神性：中国网财经转载此文的目的是传达更多信息，并不代表本网站的观点和立场。本文内容仅供参考，不产生投资建议。 namuInvestment 自行承担风险。