您的位置:首页 >资讯 > 科技 >

探索新路径 筑牢AI产业安全根基

2025-03-14 15:33:10    来源:新华网

来源标题:探索新路径 筑牢AI产业安全根基

近来,DeepSeek遭到黑客持续攻击,侧面反映出国产大模型面临的安全困境。

不可否认,以DeepSeek为代表的中国开源大模型的崛起,不仅降低了大模型训练和部署的成本,加速了人工智能技术的普及,也打破了技术封锁与商业壁垒的双重禁锢,推动人工智能行业走向更加开放的新时代。但是,如同一把双刃剑,作为开源大模型,DeepSeek同样需要面对所有开源软件共同的安全挑战:由于源代码开放,开源软件的安全问题比闭源软件更加复杂,攻击者可以自由查看、修改源代码,进而引发潜在的安全漏洞。

这并非杞人忧天,DeepSeek的遭遇就证实了这个规律:一方面,来自外部的网络攻击持续时间长、破坏力大、手段多、变化快;另一方面,在部署和应用中发现的漏洞,暴露出多种安全风险。

有鉴于此,2025开年以来,各家安全公司严阵以待,纷纷探索新路径、新范式,以筑牢网络安全防线,为国产大模型保驾护航。

比如,亚信安全与亚信科技近日联合发布的大模型安全解决方案,其思路可以归纳为“以人工智能护航人工智能”,不仅融合了亚信科技大模型产品在重点行业领域的丰富实践经验,而且依托亚信安全在大模型安全领域的研究成果和技术实力,打造了兼具实战需求和大模型发展要求的安全解决方案,由云安全防护系统、大模型安全网关、终端数据防护系统、AI应用风险防护系统四大系统提供防护,为大模型建立起覆盖基础层、模型层、工具层和AI应用层的四层纵深防护。与此同时,该方案还提供两项专业服务,即人工智能风险评测和人工智能安全服务,定期进行风险评测评估,护航大模型及应用安全。

今后,随着越来越多应用场景的落地,国产大模型仍将面临层出不穷的新风险。大模型安全不应该只是“亡羊补牢”,更应该未雨绸缪,重构安全体系。

对此,多位受访专家表示,应重视大模型在安全架构、漏洞响应、数据合规等方面的“系统性短板”,从多个层面入手,综合运用多种手段,打造全方位、多层次的安全防护网络,尤其是要建设大模型的“原生安全”能力。

更为重要的是,大模型在安全领域的应用潜力巨大,凭借其卓越的推理能力、定制化的训练方式和开源特性,能够有效提升各种安全任务的执行效率和准确性。因此,探索大模型在安全领域的创新应用、以大模型治理大模型安全问题成为重要方向。

业界已经形成共识,大模型是一个覆盖多行业的交叉生态系统,大模型安全风险的综合治理不仅仅只是技术问题,需要政府、企业、科研机构等多方力量参与其中,群策群力,夯实国产大模型发展的基础,打开思路为人工智能产业保驾护航。

标签:

相关阅读

精彩放送

人形机器人临近量产节点 供应链企业有望率先受益

AI眼镜“破圈”迎来爆发元年 2025年“百镜大战”一触即发

数智化电商产业带加速形成

大模型激活经济发展新动能

数智赋能:让生活“一键升级”

科技金融加速光子产业腾飞

DeepSeek开启AI新时代,应完善大模型安全治理

“AI医生”未来将应用于哪些场景?

人形机器人协同作业 “灵巧手”丝滑操作

中国科技力量精彩亮相世界移动通信大会

数智赋能:让生活“一键升级”

科技金融加速光子产业腾飞

DeepSeek开启AI新时代,应完善大模型安全治理

“AI医生”未来将应用于哪些场景?

“人工智能+”:硬核科技加速走进产业竞技场

半导体行业并购潮涌 企业加速构建新优势

“人工智能+”:硬核科技加速走进产业竞技场

苗伟代表:推动人工智能与实体经济深度融合

DNA“时光机”回溯南极生态之变

钟铮代表:布局协作型机器人 加快人形机器人研发

从蓝图到实景,低空经济蓬勃发展

国产手术机器人:从“跟跑”到“并跑”

科技+电影,好戏还在后头

让科技供给与产业需求“双向奔赴”

旭华科技首创曲面石墨烯技术 实现低成本量产化

人形机器人迈向群体智能 产业链公司积极助力技术落地

多地竞逐具身智能赛道 政策与资金同步发力

人工智能终端产品加快落地 有望催生万亿元级蓝海市场

中国牵头制定养老机器人国际标准

人工智能人才成“香饽饽” 企业纷纷亮出高薪“招贤榜”

金价高位回调 趁机购入还是继续观望?

功能性护肤成拖累,华熙生物进入业绩阵痛期

奢侈品转向“一城一店”集中化布局

年轻人消费“含金量”提升,黄金市场“小而美”产品热销

聘任前欧莱雅高管,贝泰妮寻业绩突破口

黄金价格下跌 该出手吗?

远离网络购物陷阱 牢记“三不”原则

国产运动品牌加速“出海”布局

每天洗头会导致脱发?

海龟爸爸2025春夏新品发布

华为余承东:2025款问界M9和问界M8分别于3、4月上市

出行新标配!比亚迪携大疆打造灵鸢,让出行大片触手可得

10城开展公共领域车辆全面电动化试点

DeepSeek席卷车圈 AI如何改变你的用车生活

国家能源局:推动燃料电池汽车试点应用

国车红旗礼遇国门,红旗国悦助力首都机场贵宾服务升级

莲花跑车转向战略收缩 公司高层或将人事调整

1月新能源二手车需求小幅增长 中高端价格区间车辆受追捧

读懂5%的来之不易

从蓝图到实景,低空经济蓬勃发展

“舌尖经济”释放餐饮消费新活力

2月份6只QDII涨超20% 2月份1520只债基上涨

机器人+养老,期待一场硬核科技与温暖亲情的双向奔赴

南京:“小草莓”撬动“大产业”

重庆潼南汽车后市场产业发展见闻:从"卖废料"迈向"再制造"

湖北广水:乡村开公司 村民共兴业

探索“文体旅”融合牡丹江打造差异化冰雪旅游新格局

国际评级机构维持澳门特区“AA”长期信贷评级

京津冀协同发展新十年 天津迎来哪些经济发展新机遇

文旅产业破茧重生 消费潜能持续释放

外资企业最快1天落地北京

沈阳:向“新”求变 以“质”谋远

2024年苏州电力消费总量占全省22% 继续领跑全省

奋力往前赶 安徽勇担科技创新“排头兵”重任

合肥青年夜校非遗课堂走红 年轻人热衷体验传统文化

湖南郴州苏仙区:闲置农房“活” 乡村文旅“火”

数字技术“摆渡” 中国传统文化谋“出门”又“出圈”

滴!大学生实践团打卡国内首条空轨 体验未来城市交通

滴!大学生实践团打卡国内首条空轨 体验未来城市交通

3月份江南华南等部分地区强对流天气增多 洪涝和风雹灾害风险较高

全国累计春灌面积已达2600余万亩

2月份物流需求有序恢复 市场预期保持高位

哪吒也能数控造?大学生实践团带你走进武汉“高精尖”

春色花海醉游人 科技助力农业生产提质增效

南方未来三天多阴雨天气 西南华南气温持续下降

AI赋能、政策护航……中国罕见病诊疗迎来新机遇

社保卡能在任意地区补换吗?补换后需要重新激活吗?

春菜鲜美丰富百姓“菜篮子” “一口鲜”餐饮热潮激发消费活力

“文化+”释放多元消费新场景 资本不断加码“蓝海”市场

把春天揉进花海 各地解锁“春日经济”

周口中院召开全市法院司法警察部门述职工作会

健康科学化减脂,毅靓邀您共创健康塑形新时代!

科学赋能·新质发展2025年环光明科学城骑行活动成功举办

电视剧《北上》热播 演员与幕后团队的专业精神并存

从孔达达正大气象的榜书到新绘画艺术的探索

从 “荣耀” 盛典回溯华外同文十载:秉持 “更中国更世界”,深耕教育沃野

第33届华交会盛大开幕 跨境电商高层论坛聚焦AI

270+城市次日达!顺丰构建“空中物流版图”,解锁云南蓝莓出海新速度

首届国际低空产业大会将于9月在成都举行

2025第二届越野车(SUV)新能源化与智能化发展大会即将启幕深圳 共创行业新篇章

护粮安 助春耕 l 国投罗钾出实招

从合规到赋能:贵州金玖获认证激活创新引擎

美好蕴育:通过差异化打造年轻人认可的孕产健康品牌

影豹夺冠车聚活动

共建女性健康屏障——当代妇产正式挂牌"宫颈癌防治协会理事单位"

杭州AI九小龙:民间科技天团,正在吊打全世界!

刘亦菲新造型打破舒适圈,润致玻尿酸引领面部抗衰美学奇迹

中清科技STFcore六维力传感器,引领机器人装配技术的新纪元

赛升药业:创新驱动发展,科技守护健康

无惧汽车垂直平台流量瓶颈 海尔18亿美元收购汽车之家

众捷汽车IPO“注册生效”,计划募资约4.22亿元

新春开门红!287辆宇通纯电动客车批量交付挪威

智慧演绎,共享未来——2025歌华国际车用空调展(广州站)盛大启幕!

乾崑版新增两大版型 全新岚图梦想家发力高阶智驾

埃安RT 650智享版上市!12.88万抄底650km

智驾黑科技加持,地平线HSD拟人表现通行北京繁忙城区

AI加速接入生活 究竟会带来什么

AI等技术助中企提高海外高端市场竞争力