为有效防范化解AI生成不实信息引发网络风险。跟据省厅网安总队和州公安局网安支队对治理利用AI生成不实信息专项整治行动的部署要求。近日，康乐县公安局充分利用专项行动的全省协作优势，在工作中发现，属地内有网民为博取眼球、追逐流量，利用人工智能AI技术生成视频内容，引发公众误读，造成不良社会影响。

2026年3月6日，康乐县网民马某某在短视频平台通过AI换脸及图像生成软件，制作并发布具有负面导向的图文信息，造成不良社会影响。康乐县公安局网安大队民警在掌握违规事实后，依法对马某某进行约谈。约谈中，民警依据《网络信息内容生态治理规定》及《生成式人工智能服务管理暂行办法》等相关法律法规，指出其存在的违法违规行为，并开展批评教育。在约谈过程中，马某某态度诚恳，深刻认识到自己的错误和造成的不良影响，承诺立即整改，今后将自觉遵守网络秩序，恪守道德底线。

下一步，康乐公安将持续加大网络空间监管力度，依法依规严厉打击各类网络违法违规行为，坚决遏制AI生成不实信息的滋生蔓延，有效防范化解风险，为辖区高质量发展营造安全稳定的网络环境。

随着人工智能技术的快速发展，AI合成视频、图片和音频的制作门槛不断降低，但任何利用技术手段编造、传播虚假信息、扰乱网络秩序的行为，都将依法追究法律责任。互联网不是法外之地，发布信息应当真实、客观、合法。