北京：据周三发布的官方报告显示，中国当局已发起一项为期数月的监管运动，旨在遏制人工智能技术的滥用。此次整治行动针对多种特定的数字不当行为，包括生成深度伪造（deepfakes）、传播虚假信息以及使用自动化工具操纵公众舆论。
这项由国家网络安全监管机构牵头的主动举措，旨在加强对国内人工智能开发者和最终用户的监管。当局表示，此项运动对于减轻与身份盗窃、金融欺诈以及合成媒体导致的社会稳定侵蚀相关的风险是必要的。根据新的执法指南，平台将被要求对人工智能生成的内容实施更严格的验证流程，并确保所有深度伪造输出都带有清晰的水印以防止消费者受骗。
路透社报道指出，此次运动将重点关注用于绕过面部识别安全系统的AI工具的“黑市”。监管机构还在监测可能产生违反国家审查标准内容或在敏感经济时期传播未经证实谣言的大型语言模型（LLMs）的使用情况。
行业分析师认为，尽管此举旨在保护数字完整性，但它也给中国快速扩张的科技行业带来了沉重的合规负担。被发现未能在其网络上管控禁止的AI活动的公司可能会面临巨额罚款或运营许可证被暂停的风险。The Next Web指出，此举标志着监管重心正从一般的AI发展指南转向积极、以执法为导向的治理。随着运动的推进，预计官员们将增加对算法推荐引擎的技术审计，以确保它们不会无意中推广非法或有害的合成内容。
