AI 迈入智能体时代 安全能力建设全面提速 政企多方构建可信发展底座
admin
14天前
4

当前,大模型技术深度迭代驱动人工智能正式迈入智能体(AI Agent)规模化商用时代。具备自主感知、逻辑推理、工具调用、多机协同、闭环执行能力的智能体,正快速落地政务、金融、工业、科研、企业办公全场景,成为替代重复性工作、打通跨系统业务链路的 “数字员工”。伴随产业爆发式增长,智能体高自主、高权限、多节点联动的新型安全风险集中显现,国家监管、行业标准、企业安全技术研发同步提速,一套覆盖政策规范、技术防御、全生命周期管控、生态共治的智能体安全体系加速成型,实现 AI 创新发展与高水平安全双向统筹。

与传统对话式大模型安全仅聚焦内容输出管控不同,智能体时代安全核心逻辑发生根本性转变:治理重心从 “约束 AI 回答内容” 转向 “管控 AI 自主行动”。业内专家在 WAIC 2026 前沿 AI 与智能体安全论坛指出,智能体打通数据、插件、业务系统、外部接口多层链路,单一环节漏洞极易引发风险连锁传导,提示词注入、模型记忆投毒、越权操作、多智能体风险扩散、隐私数据窃取、第三方插件供应链后门等新型安全威胁持续增多;在电力、医疗、金融等关键行业,智能体失控将直接冲击业务稳定与数据安全,“能用不等于安全可用” 已成为全行业共识。

政策层面,顶层规范密集落地,搭建分类分级、包容审慎的治理框架。国家网信办、发改委、工信部三部门联合印发《智能体规范应用与创新发展实施意见》,明确将安全、可信、可控作为智能体产业不可突破底线,提出构建 “行为围栏 + 内生安全” 双重防御体系,划定智能体自主决策与用户授权边界,要求覆盖研发、部署、运行、迭代全周期安全管理新华网。五部门同步施行《人工智能拟人化互动服务管理暂行办法》,细化拟人智能体数据保护、未成年人防护、时长管控要求;工信部、网信委加速推进 AI 安全分类分级、能力成熟度评估、上下文安全等国家标准立项制定,为行业合规提供明确标尺。

行业自律与标准体系同步完善。中国信通院联合头部云厂商发布《云上智能体服务网络和数据安全自律公约(2026 版)》《AI Agent 安全实践指引》,统一云上智能体数据交互、插件审核、风险监测基础准则;行业形成 “沙箱隔离、最小权限、全链路审计、行为信用” 四大通用安全准则,推动智能体开发企业前置开展安全评估与算法备案,建立第三方安全认证服务网络,降低中小企业合规成本。

产业端安全技术攻关全面提速,头部安全、云服务企业推出一体化智能体安全解决方案。多家厂商发布企业级智能体安全运行平台,实现四大核心安全能力:一是前置风险拦截,搭建提示注入检测、外部输入净化、恶意插件识别引擎;二是权限精细化管控,落实最小访问原则,敏感操作强制人工复核;三是运行态实时监测,全程记录智能体决策、工具调用、数据读写日志,异常行为毫秒级告警阻断;四是沙盒隔离执行,代码、外部工具独立隔离运行,阻断风险横向扩散。

院士与行业专家普遍提出,智能体安全防御范式正从 “事后漏洞修补” 转向 “事前主动免疫”。未来需持续攻坚算法可解释性、底层模型鲁棒性、隐私计算、多智能体协同风控等核心技术,打造自主可控的安全工具链;同时建立智能体唯一数字身份与动态行为信用体系,通过技术、监管、行业自律多方协同,消解智能体 “原生不确定性” 带来的系统性风险。

业内预判,2026—2027 年将是智能体安全能力集中建设期,安全合规将成为智能体规模化落地的前置门槛。在严密安全底座支撑下,智能体技术将在可控前提下深度赋能千行百业,推动 “人工智能 +” 行动高质量落地,构建安全可信、创新有序的通用人工智能产业生态。

收藏
打赏
国产高端六维力传感器实现全面突破 打通机器人落地实操最后一毫米
上一篇
AI 全产业链协同攻坚 多维度推进词元全链路降本增效
下一篇

发表评论

注册不是必须的

admin
959 文章
0 评论
0 喜欢
最新文章

Hugging Face:中国在 AI 竞赛领先 开放模型占据主导地位

全球最大 AI 开源平台 Hugging Face 首席执行官克莱芒・德朗格(Clément Delangue)近日接受媒体采访时公开表态,中国正在全球人工智能竞赛中取得领先,尤其在开放权重模型赛道已经形成主导优势,按照当前发展节奏,中国前沿 AI 能力有望在今年底至 2027 年追平甚至超越美国头部 AI 实验室。 德朗格指出,中国 AI 产业快速崛起的核心驱动力,来源于国内开放协作、资源共享的 […]

别只盯 GPU,ASIC 将成为半导体下一风口

近期全球 AI 算力产业正在发生结构性切换,在 GPU 持续受到市场追捧的同时,专用集成电路 ASIC 正在快速崛起,被多家机构判定为半导体产业下一核心增长风口,算力竞争由通用芯片单一赛道,走向 GPU 与 ASIC 双轨并行的新格局。 过去数年,通用 GPU 凭借强大的通用性与成熟软件生态,主导大模型训练市场,成为 AI 算力的代名词。但随着 AI 产业从大模型训练竞赛转向大规模推理落地,海量对 […]

中国储能出海抢接 AI “电老虎” 算力基建催生全球储能新红利

随着全球 AI 大模型、智算园区加速扩张,海量 GPU 集群造就大批高耗电的 AI “电老虎”,AI 算力带来毫秒级剧烈用电波动,传统电网难以快速匹配算力负荷突变,储能从新能源配套升级为 AI 数据中心(AIDC)的核心刚需,中国储能企业凭借完整产业链、毫秒级响应技术与规模化交付能力,加速出海抢占全球算力能源配套市场。 AI 算力集群区别于传统数据中心平稳用电模式,GPU 算力启停会带来毫秒级功率 […]

国产算力破局,超节点成为大模型时代胜负手

在万亿参数大模型、AI 智能体快速迭代的产业浪潮下,国内算力产业竞争逻辑正在发生根本性转变,行业竞争已经从单芯片性能跑分,转向算‑存‑网‑软一体化的系统级能力比拼,超节点架构被视作国产算力实现突围的核心胜负手。 随着大模型参数规模持续膨胀,传统服务器简单堆叠的集群模式,受限于跨机通信时延、带宽瓶颈,出现显著的算力损耗,大量芯片算力被网络开销抵消,难以支撑万卡、十万卡级别大规模模型训练任务。超节点并 […]

八大机组获批总投资超 1700 亿元 中国核电迎来规模化建设新阶段

国务院常务会议核准浙江金七门核电二期、广东太平岭核电三期、辽宁庄河核电一期、山东莱阳核电一期四大核电项目,共计 8 台核电机组,项目预计总投资超 1700 亿元,标志着我国核电批量化、常态化建设再提速。 此次一次性落地四个重大核电项目,是我国核电产业发展进程中的重要节点。回望行业发展历程,我国核电核准数量走出鲜明的 “V 字反弹” 曲线。2011 年福岛核事故发生后,国内核电经历多年项目零审批的冰 […]

算力时代铜材价值凸显!铜加工龙头卡位 AI 液冷赛道,稀土永磁产能持续扩张

当前 AI 算力产业高速发展,芯片互联、高功耗算力设备散热成为产业发展关键瓶颈,铜凭借优异导热、导电性能,成为 AI 芯片互联、算力基础设施散热环节不可或缺的核心基础材料。国内铜加工龙头企业紧抓 AI 算力建设浪潮,在算力散热材料、液冷布局、稀土永磁两大高端赛道同步发力,打开全新成长空间。 据了解,公司高精密异型铜排产品已成功导入多款全球顶级 GPU 散热方案,深度服务 AI 服务器高热流密度散热 […]

韦布望远镜看穿戴森球假象:所谓 “外星文明巨型工程” 实为天然天体物理源

詹姆斯・韦布空间望远镜(JWST)对两颗备受关注的戴森球候选天体开展高精度红外观测,最终揭开一场宇宙错觉:此前被视作高级外星文明巨型能量设施的红外异常信号,并非外星技术产物,而是视线方向上遥远背景星系带来的天然天体物理现象。 戴森球概念由物理学家弗里曼・戴森于 1960 年提出。理论上,高等文明建造环绕恒星的能量采集巨构,吸收恒星辐射后,会以中红外废热的形式释放能量,形成显著的红外超额,这也是搜寻 […]

新研究警示:久坐人群过量摄入蛋白质易诱发多重代谢问题

高蛋白饮食成为大众追捧的健康生活方式,蛋白代餐、蛋白粉、高蛋白零食等产品广受青睐,不少人秉持“蛋白质多多益善”的饮食理念,盲目增加蛋白质摄入量。但近期多项权威研究颠覆了这一认知,明确指出对于长期久坐、缺乏运动的人群而言,超量摄入蛋白质不仅无法强身健体,反而会加重身体代谢负担,诱发肥胖、脏器损伤、代谢紊乱等一系列健康问题,甚至可能影响健康寿命。 此前,大众普遍认为蛋白质是优质营养素,能够增肌塑形、增 […]

跳出人形局限 多元形态具身智能机器人加速落地 实用价值成为核心标尺

提起机器人,大众脑海中往往率先浮现会行走、跳跃的人形机器人形象。但行业观点指出,具身智能的核心评判标准,从来不是外观是否酷似人类,而是实际作业能力,能否切实替代人类完成各类现实任务。当前,一大批形态各异、面向真实场景的实用型具身智能机器人加速涌现,不断拓宽机器人技术的应用边界。 人形机器人凭借类人躯体结构,具备极强的场景通用性,是具身智能重要发展方向,但并不等同于具身智能的全部。在工业生产、家庭服 […]

科技赋能古老梯田 无人机护航云南哈尼梯田智慧秋收

金秋时节,稻浪翻滚,素有“云上梯田”美誉的云南红河元阳哈尼梯田迎来丰收季。层层叠叠的梯田依山而铺,满目金黄,勾勒出绝美的秋日丰收画卷。针对哈尼梯田山高坡陡、海拔落差大、地块零散、人工转运劳作强度大、效率低的传统秋收难题,今年当地创新引入无人机智能化作业模式,以科技赋能传统农耕,让千年古老梯田焕发现代农业新活力。 作为世界文化遗产,元阳哈尼梯田核心区地形地貌特殊,部分片区海拔落差超1200米,最大梯 […]

半导体设备交期大幅拉长!五大龙头交付周期增至 1.5-2 倍,6 个月设备等待期拉长至一年

AI 算力扩产催生设备需求热潮,晶圆厂加速前置锁单,产业链供需格局迎来重塑 半导体产业传出重磅消息,占据全球半导体设备主要市场份额的应用材料、ASML(阿斯麦)、泛林集团、东京电子、科磊五大核心设备供应商,主力半导体制造设备交付周期普遍延长至原有标准的 1.5 倍至 2 倍。行业常态下交付周期约 6 个月的核心工艺设备,当前客户下单后等待周期拉长至 12 个月左右,交期暴涨现象迅速在全产业链引发连 […]

DeepSeek-V4-Flash 正式版开源发布,仅凭后训练优化,综合能力全面超越 V4-Pro 预览版

深度求索(DeepSeek)正式推出DeepSeek-V4-Flash 正式版(0731),模型权重同步对外开放开源。本次更新创造行业标志性突破:在不改动模型架构、不调整参数规模的前提下,依托系统性后训练优化,新版智能体(Agent)、代码生成、工具调用等核心能力全方位超越此前发布的 DeepSeek-V4-Pro 预览版,重塑 MoE 大模型性能与成本的平衡边界。 DeepSeek-V4-Fla […]

三安光电林志东:我们为什么选择了化合物半导体

与三安光电副总经理林志东,围绕企业从 LED 赛道向全品类化合物半导体平台转型底层逻辑、产业机遇、长期战略、国产替代路径展开交流,解读三安光电深耕化合物半导体的战略抉择。 三安光电由 LED 芯片起步,如今已经成长为国内稀缺、覆盖砷化镓、氮化镓、碳化硅、磷化铟四大材料的化合物半导体 IDM 平台,业务延伸至射频前端、电力电子、高速光芯片、Mini/Micro LED 多条赛道,产品广泛服务 AI […]

中俄首条跨境索道主体工程完工 打造边境互联互通新通道

中国(黑龙江)自贸试验区黑河片区在 2026 企业家太阳岛年会黑河向北开放专场推介会上对外公布,黑河 — 布拉戈维申斯克跨黑龙江跨境客运索道主体工程顺利完工,项目整体建设预计年内全面竣工。作为中俄首条、全球首条国际跨境客运索道,该项目将构筑全新跨境空中通道,持续深化中俄边境互联互通。 该跨境索道连接黑龙江省黑河市大黑河岛与俄罗斯布拉戈维申斯克市临江区域,项目 2019 年 7 月正式开工,是中俄双 […]

雅鲁藏布江超级工程 “为鱼开道”:雪域水电奏响开发与生态共生乐章

作为青藏高原重要清洁能源枢纽,雅鲁藏布江藏木水电站打破高海拔水电建设传统思路,投入巨资修建高原高落差鱼道,打通鱼类洄游生命通道。这条专为鱼类修建的通道,背后是我国在敏感脆弱的高原流域践行 “在保护中开发、在开发中保护”,统筹清洁能源建设与生物多样性保护的重大实践。 奔腾不息的雅鲁藏布江被称作 “天河”,孕育拉萨裂腹鱼、尖裸鲤、异齿裂腹鱼等大量高原特有土著鱼类。这类冷水鱼依靠季节性洄游完成产卵、觅食 […]

中国水电 “心脏” 出海,赋能巴基斯坦塔贝拉水电站建设

巴基斯坦塔贝拉水电站五期扩建项目 1 号机组巨型转轮顺利完工启运,这颗被誉为水电机组 “动力心脏” 的核心装备由中国企业自主研发制造,刷新我国单机容量出口水电机组纪录,标志着中巴经济走廊标杆能源项目建设迎来关键节点,中国高端水电装备扬帆出海再结硕果。 塔贝拉水电站坐落于巴基斯坦印度河干流、伊斯兰堡西北约 113 公里处,是全球规模最大土石坝水电站,素有巴基斯坦 “三峡工程” 之称,兼具发电、防洪、 […]

深圳港集团布局双向海外仓网络,赋能中巴经济走廊迈向产业合作新阶段

当前中巴经济走廊进入基础设施与经贸产业协同发展的进阶周期。深圳港集团依托世界级港口枢纽优势,加速构建中巴双向海外仓物流体系,打通粤港澳大湾区至巴基斯坦及中亚腹地双向货物流通通道,以现代供应链基础设施助力中巴经贸提质扩容,夯实 “一带一路” 旗舰项目高质量发展底座。 中巴经济走廊作为共建 “一带一路” 标志性旗舰工程,持续推动海陆联通、产能协作、贸易互通。随着我国新能源产品、机电设备、轻工消费品出口 […]

我国卫星互联网建设驶入快车道 业内呼吁加速打通商业闭环

我国低轨卫星互联网组网工程持续推进,星座发射、产业布局、政策配套全面提速,卫星互联网发展正式迈入快车道。与此同时,众多行业专家提醒,产业仍面临商业化落地难题,完整可持续的商业闭环构建亟待提速。 在组网建设层面,国内两大低轨宽带星座持续开展高密度发射,在轨卫星数量稳步增长,骨干网组网计划有序推进。运载能力提升、批量化卫星制造技术迭代,持续降低卫星研制与发射成本,为大规模组网夯实硬件基础。政策端持续加 […]

工信部启动国家级零碳工厂规范建设 严打 “漂绿” 乱象夯实制造业绿色转型根基

在碳达峰碳中和目标稳步推进背景下,零碳工厂已经成为制造业推进绿色低碳转型的重要风向标。为引导工业领域有序开展深度脱碳行动,工业和信息化部正式组织推进国家级零碳工厂建设工作,配套发布标准化评估指标体系与全流程管理细则,推动零碳建设走深走实。 当前,零碳理念在制造业快速普及,但行业发展过程中也显现诸多问题:部分地区盲目跟风、泛化布局零碳项目;少数企业重认证、轻改造,简单 “贴标签”;还有市场主体试图依 […]

我国首次依托水上通信渠道推送北极航道海冰预报 北极海上信息服务实现跨越式升级

交通运输部北海航海保障中心正式对外播发北极航道海冰预报信息。这是我国首次依托水上通信渠道推送北极航道海冰预报,标志着我国北极海上信息服务实现从实况播报到动态预报的跨越式发展,持续完善北极航行安全保障体系,助力 “冰上丝绸之路” 高质量建设。 交通运输部北海航海保障中心开通北极航线海上安全信息播发业务,由天津海岸电台借助中高频单边带无线电话开展信息推送,主要提供北极航线海冰实况监测与气象信息。历经两 […]
生成中...
扫描二维码
扫描二维码