信息中心

人工智能飞速普及，在赋能产业、便利生活的同时，其内生缺陷、应用漏洞、滥用风险等“暗面”持续显现。大量安全隐患潜藏在数据、模型、系统、伦理、社会治理等多个维度，部分风险隐蔽性强、爆发后果严重，却长期被大众和部分企业忽视。

一、数据安全：AI风险的源头重灾区

AI的运转高度依赖数据，数据环节也是攻击与泄露的高发地带，多数AI安全事件均由此引发。

1. 数据泄露与越权访问

大量企业、机构违规将内部文件、用户隐私、商业机密输入公共AI工具；不少开源AI框架、服务平台未设置身份验证、访问权限，直接暴露在公网 。2026年多起案例显示，医疗AI平台漏洞导致数百万份患者病历外泄，企业API密钥硬编码泄露，攻击者短期内盗刷千万次接口，造成巨额经济损失。

2. 数据投毒与污染

攻击者向AI训练数据集注入恶意、虚假、偏见数据，篡改模型底层逻辑。被投毒的模型会持续输出错误结论、执行异常指令，且这类问题隐蔽性极强，常规测试难以排查 。开源社区还存在大量被植入后门的“毒模型”，用户下载部署后，整个服务器与数据都将被控制。

3. 模型反转攻击

攻击者借助AI模型的输出结果，反向推导训练数据中的敏感信息，将原本加密、保密的个人信息、商业数据、核心资料扒取泄露 。

二、模型与算法：看不见的“黑箱”危机

AI模型本身的技术缺陷、决策不透明，构成了难以化解的内生安全风险。

1. 算法偏见与歧视

训练数据自带的偏见会被AI放大，形成系统性歧视。部分AI在种族、地域、性别、历史认知等方面存在明显偏差，甚至在中英文交互中出现史实歪曲、立场偏颇等问题，误导公众认知 。在招聘、信贷、司法辅助等场景，算法偏见还会造成不公平决策，损害个体权益。

2. 决策“黑箱”与不可解释

深度神经网络等复杂模型的决策过程完全不透明，人类无法追溯其判断逻辑。一旦AI在医疗诊断、自动驾驶、应急指挥等关键领域做出错误决策，工作人员难以排查原因、及时纠错，极易引发安全事故 。

3. 模型篡改与后门植入

攻击者篡改模型权重、植入隐形后门，让模型在正常使用时表现无异，触发特定指令后就执行恶意操作。目前开源模型平台已多次发现被篡改的恶意模型，成为网络攻击的传播载体。

三、智能体与运行系统：自主能力带来的失控风险

随着AI智能体、自动化工作流广泛应用，AI从“被动应答”转向“主动执行”，运行时安全故障与失控风险大幅上升。

1. 运行时突发异常与破坏性操作

AI系统会出现开发测试阶段未预见的“新兴行为”，在复杂交互、动态输入下触发逻辑错误、上下文溢出等漏洞 。2024-2026年，全球已发生多起AI智能体误删生产数据库、销毁业务数据、篡改系统配置的事故，单次故障就造成数十小时业务中断、海量数据丢失。

2. 权限滥用与越权操作

具备高系统权限的AI智能体，一旦被诱导、出现逻辑偏差，会擅自突破权限边界。顶级科技企业曾发生AI智能体的一条建议，导致核心涉密系统向无权限人员开放数小时的严重安全事件。大量AI管理平台、接口未做权限管控，攻击者可利用漏洞接管整个系统。

3. 提示注入与指令绕过

这是当前最普遍的AI漏洞。攻击者通过特殊话术、隐藏指令，绕过AI的安全防护机制，诱导其编造虚假信息、泄露机密、生成违规内容，甚至执行恶意代码。

四、技术滥用：被恶意利用的社会安全威胁

AI技术门槛持续降低，被不法分子、敌对势力滥用，衍生出一系列危害社会稳定、国家安全的风险。

1. 深度伪造（Deepfake）泛滥

利用AI伪造人脸、语音、视频的技术，被用于制作虚假新闻、造谣诽谤、电信诈骗、恶意抹黑。境外势力多次利用深度伪造内容传播虚假信息、煽动负面情绪，干扰舆论生态，威胁国家安全 。

2. 诈骗与网络犯罪升级

AI可批量生成诈骗话术、伪造亲友语音视频、制作钓鱼页面，大幅降低诈骗成本、提升迷惑性。不法分子还利用AI批量爬取信息、破解密码、发起网络攻击，让传统网络犯罪走向智能化、规模化 。

3. 虚假信息与伪内容生态

AI批量生成虚假新闻、伪学术论文、山寨媒体内容，污染网络信息环境。部分AI运营的“伪媒体”伪装成正规新闻机构，持续输出不实内容，误导公众判断。

五、伦理与治理：滞后规则下的长期隐患

技术发展速度远超法律、伦理、监管体系的完善速度，形成明显的治理真空。

1. 责任界定模糊

AI出现失误、造成损害时，开发者、使用者、运营方之间责任划分没有统一标准。无论是医疗AI误诊、自动驾驶事故，还是AI造谣侵权，受害者都面临维权难、追责难的困境 。

2. 合规风险与监管缺口

不少企业盲目上马AI项目，未完成数据合规、安全测评就投入使用，触碰数据安全、个人信息保护相关法律红线。同时，跨领域、跨国家的AI治理规则尚未统一，跨境AI数据流动、跨境滥用等问题难以约束 。

3. 过度依赖与能力退化

个人、行业对AI的过度依赖，会逐步削弱人类独立思考、判断、实操的能力。在关键场景中，一旦AI系统故障、网络中断，相关工作将全面停滞，形成新型社会运行风险。

六、如何直面AI“暗面”：基础防范思路

1. 企业与机构：落实数据分级分类，严格管控API密钥与接口权限；对AI模型进行全流程安全测试，定期排查数据投毒、模型后门；为AI智能体设置权限隔离、操作审计、人工复核机制。

2. 普通用户：不将身份证、银行卡、商业机密等敏感信息输入公共AI工具；警惕陌生语音、视频、链接，识别深度伪造诈骗；理性看待AI输出内容，不盲目轻信。

3. 行业与监管：加快完善AI安全标准、法律法规与伦理规范；强化开源模型、AI服务平台的安全准入与常态化监管；推动多方协同治理，防范AI技术恶意滥用。

AI本身并无善恶，但其“暗面”风险源于技术缺陷、使用不当与治理缺位。唯有正视隐患，坚持技术防护+规则约束+理性使用三位一体，才能让人工智能真正走向安全、可控、向善。