近日，一场聚焦人工智能安全风险协同治理的研讨会在北京顺利召开。此次活动由世界互联网大会人工智能专业委员会精心组织，吸引了众多行业专家与从业者参与。微博首席运营官、新浪移动首席执行官兼新浪AI媒体研究院院长王巍受邀出席，并围绕“平台视角下的人工智能安全挑战”这一主题发表了深入见解。
王巍在演讲中指出，当前人工智能技术正经历着前所未有的快速发展，大模型、生成式AI以及智能体应用不断涌现，其能力持续提升。然而，伴随技术进步而来的，是安全风险的同步外溢。这些风险已不再局限于内容层面，而是逐渐向传播链条、决策链条和执行链条延伸，呈现出从局部问题向系统性问题转变的趋势。
具体而言，一方面，模型偏差、幻觉以及漏洞等技术风险正加速进入真实的传播环境。一旦这些风险在现实世界中落地，便会转化为传播风险和信任风险，对用户获取信息的准确性和对平台的信任度造成严重影响。另一方面，随着风险后果的不断扩大，人工智能的影响范围已远远超出内容准确性这一范畴，进一步波及用户判断、社会信任乃至整个舆论秩序。
面对如此复杂且严峻的形势，王巍强调，安全治理的理念必须发生转变，从传统的事后补救模式转向前置防控模式，将安全措施嵌入模型、平台、产品以及应用场景的全流程之中。只有这样，才能更有效地应对不断变化的安全挑战。
智能体的兴起为人工智能领域带来了新的变化，也带来了新的治理难题。王巍提到，智能体不再仅仅承担信息生成的任务，而是开始具备调用工具、连接系统以及执行流程的能力。这使得风险范畴从“说错话”扩展到了“做错事”，责任边界的认定变得更加复杂。因此，治理重心不能仅仅停留在对单一模型的评估上，而应进一步转向对应用全链路和真实执行场景的监测与治理。
结合微博平台的实践经验，王巍深入分析了人工智能能力加速进入真实场景后，平台所面临的重要挑战。深度伪造内容的出现持续冲击着真实边界，让用户难以分辨信息的真伪；算法偏见可能会放大认知偏差，影响用户对事物的正确判断；生成内容在传播过程中还可能加速错误信息的扩散，进一步扰乱信息环境。这些问题相互交织，不仅增加了平台的治理压力，也对整体信息环境的公信力提出了更高要求。
为了应对人工智能风险外溢带来的挑战，微博近年来积极探索更完整的可信机制。在风险防控方面，平台加强了权威信源的识别、风险内容的审核以及溯源处置工作，有效提升了风险发现和响应的效率。在内容传播方面，积极推动可信内容的传播分发，尽可能压缩错误信息的传播空间。微博智搜等产品还围绕热点事件进行权威信息聚合，帮助用户在海量信息中更快地找到可信内容。
王巍最后表示，人工智能安全治理是一项复杂的系统工程，无法依靠单一主体独立完成。必须推动政府、学界、平台企业以及国际社会多方协同合作，形成责任清晰、分工明确、共同推进的治理格局。只有这样，才能更好地实现人工智能发展与安全的动态平衡，让人工智能技术更好地服务于人类社会。
