人工智能的快速普及，正成为网络舆情治理的关键变量。习近平总书记强调：“要高度重视人工智能引发的各类内生和衍生风险，推动构建法律法规、技术监测、风险预警、应急响应体系，筑牢安全底线，防范滥用恶用，确保人工智能始终处于人类控制之下。”这一重要论断为统筹发展和安全、做好数智化时代舆情治理指明了方向。主动用好人工智能赋能网络舆情治理，既是防范化解人工智能衍生舆情风险、守牢意识形态安全底线的现实需要，也是推动网络舆情治理体系和治理能力现代化的战略抉择。

当前，人工智能不断重塑网络舆论生成传播逻辑，已成为舆情滋生蔓延、风险放大扩散的新型肇因。一是虚假内容生产智能化，源头风险呈批量扩散态势。依托大模型与深度伪造技术，网络虚假信息彻底摆脱人工编辑局限，实现低成本、批量化、流水线式生产，“AI换脸”、合成音视频、改写文本变体等新型虚假内容迭代速度快、伪装程度高、辨识难度大。各类情绪化、对立化叙事可通过开源模型批量生成，催生专业化、产业化的“AI水军灌水”，使零散虚假言论升级为有组织、有规模的舆论造势，源头舆情风险呈现爆发式增长。二是舆情传播智能化放大，演化态势更趋复杂多变。智能算法具备强大的热点衍生、话题再造、情绪助推能力，可围绕单一舆情不断翻新叙事角度、衍生全新话术、制造次生话题，打破传统舆情“短时爆发、快速消退”的规律。加之人工智能账号集群批量分发、圈层渗透、控评造势，人为制造虚假舆论热度，营造虚假民意氛围，推动负面情绪跨圈层蔓延、跨平台共振，造成舆情反复反弹、周期拉长、持续发酵。三是风险攻防博弈智能化，隐蔽对抗强度持续升级。网络舆论攻防全面进入人工智能博弈阶段，治理端依托智能系统强化监测管控，违规主体同步利用智能改文、图像篡改、隐含词义、内容变体等技术绕过监管，形成持续迭代的攻防闭环。智能化舆情风险变异速度快、隐蔽程度高、规避手段多，传统治理识别、筛查、研判模式严重滞后，模型污染、算法偏见、数据简化研判等问题交织叠加，极易诱发治理偏差、衍生新型舆情隐患。

人工智能催生的新型舆情形态，对传统网络舆情治理体系构成深层次冲击，原有处置框架在识别、研判、溯源等关键环节面临新挑战。一是真伪甄别难度持续加大。人工智能生成多模态虚假内容仿真度高、变体迭代快，传统关键词筛查难以有效识别伪装改写的谣言文本、合成音视频，真假信息混杂于舆论场，大幅抬升事实核查成本，极易发生漏判误判，难以及时锁定虚假内容源头。二是态势研判容易出现失准。人工智能蜂群账号能够批量制造虚假热度，营造脱离现实的伪民意。算法量化指标仅能抓取表层传播数据，难以洞悉流量表象背后的真实社会情绪，若简单依托数据分值判定风险等级，极易误判舆情演化走向，造成处置策略失准。三是责任溯源认定更为复杂。人工智能生成内容的生产分发链条趋于碎片化，模型开发者、调用使用者、传播平台多方主体相互交织，一旦爆发人工智能衍生舆情，难以快速厘清责任边界。加之违规主体持续依托智能技术规避监管，处置响应节奏滞后于风险扩散速度，拉长舆情处置周期，次生舆情防控压力显著上升。

面对上述挑战，须主动顺应人工智能舆情生态变革大势，正视当前治理短板、补齐制度弱项、优化治理模式，持续推动人工智能与舆情治理深度融合，坚持驭技为善，用好人工智能赋能治理的技术优势，管住智能舆情的衍生风险，以系统性、前瞻性治理举措牢牢守住网络舆论安全底线。

筑牢源头规制防线，压缩人工智能衍生舆情生成空间。源头管控是遏制人工智能衍生舆情的首要环节，重在从模型开发、内容产出、合法应用全链条设置刚性约束，阻断智能化虚假信息的规模化生成。第一，健全大模型分级备案与安全评估机制。对具备深度伪造、批量文本生成能力的生成式人工智能开展上线前安全测评，将风险评估嵌入模型训练、微调、发布全生命周期，对高风险模型划定使用边界，防范模型被定向投毒、被恶意调用生产对立叙事，从底座减少模型污染带来的舆情隐患。第二，落实人工智能生成内容强制标识与溯源留痕制度。推动平台在人工智能生成图文、合成音视频中嵌入数字水印与溯源标记，做到人工智能伪造内容可识别、可追溯；完善多模态内容鉴伪基础设施，开放鉴别能力，降低平台、核查机构识别人工智能造假内容的成本，破解真假信息混杂难以甄别难题。第三，持续打击人工智能舆情黑灰产链条。聚焦定制化插件、GEO“投毒”、批量深度伪造、规模化“水军”地毯式推送谣言、舆情敲诈、发布煽动性“黑稿”进行流量分成等违法行径，实施技术支撑、舆情生产操控、精准分发与多元变现全产业链惩戒，厘清模型开发者、调用使用者、传播平台各方责任，填补法律定性盲区并提高违法成本，破解人工智能舆情责任碎片化、追责困难的治理堵点。

搭建人机协同研判机制，规避人工智能衍生舆情研判失真风险。应对“AI蜂群”制造虚假热度、量化指标误导研判的难题，应坚持人为主导，构建人机分工、相互校验的研判处置模式，防止算法指标替代价值判断。第一，明确人机权责边界。人工智能承担多模态内容抓取、传播路径追踪、热度量化、账号异常识别等数据支撑工作，负责提供完整证据链条；治理人员承担价值判断、矛盾剖析、风险裁定、最终决策职能，杜绝将复杂社会议题简化为情绪分值、热度数值，避免单纯依靠算法结论判断舆情走向。第二，建立算法常态化评估与纠错机制。定期开展算法偏见、过度敏感、漏判误判专项评估，动态校正识别模型，针对违规方持续迭代的语义规避、内容变体手段，迭代升级识别特征库，破解红皇后式攻防博弈困境，减少研判失真。第三，搭建联动式事实核查体系。整合宣传、网信、主流媒体、专业核查力量，建立人工智能虚假信息快速核验通道，一旦监测到智能生成虚假叙事，第一时间作出标记、澄清事实，生成权威辟谣素材，防控人工智能衍生次生谣言，防止虚假民意持续发酵误导治理决策。

构建全链路闭环防御体系，阻断人工智能衍生舆情扩散传播链条。人工智能衍生舆情传播速度快、变体多、易反复反弹，需打通监测、干预、复盘、科普各环节，形成动态可持续的治理闭环。第一，升级多模态全域智能监测预警能力。打通跨部门、跨平台数据壁垒，建设融合文本、图像、音频、视频的一体化监测引擎，持续沉淀“AI水军”账号特征、虚假叙事模式，对批量同质内容、集群账号异常互动提前预警，实现人工智能衍生舆情苗头早捕捉、早识别。第二，实施差异化传播干预。区分普通网民表达、算法流量助推、“AI蜂群”造势三类主体传播，不搞“一刀切”管控；当算法持续推荐激化对立的人工智能虚假内容时，及时调整推荐权重，阻断虚假叙事跨圈层扩散，压缩次生舆情反复发酵的传播空间。第三，提升全民数字素养与信息甄别能力。面向公众普及深度伪造、人工智能谣言识别常识，剖析人工智能制造舆论造势的典型案例，破除公众对人工智能生成内容的盲目信任。同步加强治理队伍能力建设，培养懂人工智能边界、能够校验模型输出的复合型人才，提升治理主体应对智能化舆情风险的专业能力，构建多方参与、协同共治的网络生态。

〔作者系重庆市委网信办主任、市委宣传部副部长（兼）〕