您的位置:首页 >资讯 > 科技 >

攻击升级 破坏力大 国产大模型“急呼”安全护航

2025-03-14 14:09:55    来源:新华网

来源标题:攻击升级 破坏力大 国产大模型“急呼”安全护航

随着DeepSeek(深度求索)的全球爆火,网络攻击也接踵而至,引发业界对大模型安全的关注。专家认为,此次针对DeepSeek的网络攻击持续时间长、破坏力大、手段多、变化快,折射出当前复杂而严峻的网络安全形势。

DeepSeek频遭攻击

奇安信Xlab实验室近期连续发布的安全报告显示,今年以来,DeepSeek先后遭遇反射攻击、HTTP代理攻击、DDoS攻击(分布式拒绝服务攻击)、僵尸网络等各种安全威胁,甚至一度对正常服务造成严重影响。

奇安信Xlab实验室安全专家王辉说,与以往的网络攻击事件相比,DeepSeek此轮遭遇的网络安全攻击具有持续时间长、破坏力大、手段多、变化快等特征。

监测数据显示,从1月3日开始,1月22日攻击升级,1月27、28日进入第一个高峰,1月30日僵尸网络下场……这波针对DeepSeek的网络攻击持续时间之长前所未有,甚至出现攻击常态化现象。

不仅如此,此轮网络攻击影响范围广,烈度不断升级,破坏力大,潜在威胁不容忽视。监测数据显示,2024年12月1日至2025年2月3日期间,共出现了2650个仿冒DeepSeek的域名,这些仿冒域名主要用于钓鱼欺诈、域名抢注等非法用途。截至目前,仿冒域名的数量仍在持续增加。

利用市场的兴奋情绪,一些不法分子推出了所谓DeepSeek“加持”的各种“空气币”(即没有实际价值的虚拟货币),甚至出现了宣称可以购买DeepSeek内部原始股的网站。

值得注意的是,此轮针对DeepSeek的网络攻击手段层出不穷,给网络防御带来极大难度。仅1月3日至1月30日期间,就先后出现了SSDP、NTP反射放大攻击,应用层HTTP代理攻击,暴力破解攻击,僵尸网络攻击等多种攻击手段。“尤其是僵尸网络的加入,标志着‘职业打手’已经下场,这说明DeepSeek面对的攻击方式一直在持续进化和复杂化,防御难度不断增加,网络安全形势愈发严峻。”王辉表示。

数据安全隐患凸显

在网络攻击“你方唱罢我登场”的同时,大模型的数据安全隐患也开始显现。

近日,奇安信安全研究团队对常见的大模型工具及平台进行安全检测时发现,广泛应用于大模型部署的架构Ollama、openLLM、Ray最新版存在未授权命令执行漏洞,危害程度极高,一旦被利用可能会对企业和组织造成严重危害。

亚信安全人工智能实验室同样发现,应用于大模型分布式部署的架构Ray存在未授权命令执行漏洞,并第一时间上报给国家信息安全漏洞共享平台(CNVD-2024-47463)及通用漏洞披露平台(CVE-2024-57000)。CVE通用漏洞评分系统(CVSS)对该漏洞的评分高达9.8分,是近年来评分最高的漏洞之一。

据介绍,Ray是一款强大且易用的分布式计算框架,在大模型高性能计算与分布式部署中扮演着关键角色,包括DeepSeek在内的许多大模型都在采用该框架,广泛应用于数据预处理、分布式训练、超参数调优、模型服务和强化学习等领域。

安全专家告诉记者,此次发现的漏洞属于高危未授权代码执行漏洞,可绕过身份验证和执行未授权代码,攻击者可利用该漏洞,窃取Ray集群中的敏感信息,包括模型训练数据、模型参数等。此外,攻击者还可利用该漏洞,在Ray集群中执行任意恶意指令,如设置后门、删除业务数据等。“建议使用Ray框架的企业,及时采取必要的安全防护措施,避免因漏洞造成损失。”

另一个在DeepSeek私有化部署或本地部署中常用到的工具Ollama也被发现存在安全隐患。

近日,奇安信资产测绘鹰图平台监测发现,8971个运行了0llama大模型框架的服务器中,有6449个活跃服务器。其中,88.9%的服务器“裸奔”在互联网上,使得任何人不需要任何认证即可随意调用,并在未经授权的情况下访问这些服务,从而导致数据泄露和服务中断,甚至可以发送指令删除所部署的DeepSeek、Qwen等大模型文件。

安全专家建议,所有部署DeepSeek服务的企业和个人应立即采取有效的安全防护措施。此外,个人用户需要警惕不知名厂商提供的DeepSeek大模型服务,一些不良厂商在使用被盗资源对外售卖、骗取钱财的同时,还实时监控用户提交的所有数据,造成用户隐私泄露。

亟待构筑安全防线

业内人士认为,守护大模型安全将是一场旷日持久的网络攻防博弈,为AI产业构筑安全可靠的网络防线势在必行。

奇安信安全专家龚玉山认为,包括DeepSeek在内的国产大模型,面临的安全风险涵盖了数据安全风险、训练语料安全风险、使用安全风险、应用安全风险、软件供应链安全风险、生成内容风险、大模型自身风险等,急需全面、体系化的安全防护方案。

对此,受访专家提出了三点建议:首先,做好风险暴露面管理,夯实网络安全基础防护。对于一家大模型公司而言,安全风险不仅仅来自于单个大模型服务,更来自于整家公司。毕竟,公司对外业务开放的同时势必存在很多暴露面,包括数据库授权访问、API接口访问、云服务、域名服务等,这些均有可能成为攻击者的目标,一旦失守,就会导致大规模数据泄露。因此,大模型企业需要做好风险暴露面管理,实施严格的访问控制措施,如建立身份验证和授权机制,限制对API、数据库的访问等。同时,也要做好网络、终端、云、服务器、数据库等基础网络安全防护措施,最大程度减少外部威胁。

其次,严格制定数据安全保障机制,避免敏感数据泄露。当下,大模型的数据安全面临挑战,尤其政务大模型因涉及敏感数据,其运行直接影响公共利益和国家安全,需要采取更严格的监管要求,特别是训练数据,需要有更系统化、更细化的规范来指导,否则极有可能引发重大危机。

专家建议,围绕数据来源合规、内容安全合规、敏感数据识别过滤、训练数据标注安全、数据分类分级与安全保护、数据访问控制等方面,制定体系化的防护方案。例如,针对公开的大模型,就不能使用内部、敏感数据来进行训练,从源头避免重要数据泄露风险。

最后,通过内容风控、应用防护等多重保障,确保大模型运行安全。大模型的运行安全涉及内容生成和应用层面的多重保障,需要确保生成的内容符合相关规定,且系统运行稳定可靠。以大模型应用安全风险中的“提示注入”风险为例,它是指攻击者通过巧妙构造输入提示词,试图突破大语言模型的安全防护机制,引导模型产生不符合预期甚至有害的输出,比如一个聊天机器人原本是为客户提供服务的,但在恶意提示词的诱导下,可能无意间泄露出训练数据中的敏感信息。

因此,在内容层面,国产大模型需要做好生成内容风控,包括输入内容过滤、输出内容审核,确保大模型在输入内容前经过严格的审查,过滤恶意输入内容,防止不良输出;在应用层面,需要做好Web安全防护、API安全防护、应用访问控制、个人信息保护等,通过严密的安全技术保障和运行监测,确保大模型运行时的安全性、可靠性和稳定性。

标签:

相关阅读

精彩放送

AI眼镜“破圈”迎来爆发元年 2025年“百镜大战”一触即发

数智化电商产业带加速形成

大模型激活经济发展新动能

数智赋能:让生活“一键升级”

科技金融加速光子产业腾飞

DeepSeek开启AI新时代,应完善大模型安全治理

“AI医生”未来将应用于哪些场景?

DNA“时光机”回溯南极生态之变

科技金融加速光子产业腾飞

DeepSeek开启AI新时代,应完善大模型安全治理

“AI医生”未来将应用于哪些场景?

“人工智能+”:硬核科技加速走进产业竞技场

半导体行业并购潮涌 企业加速构建新优势

“人工智能+”:硬核科技加速走进产业竞技场

苗伟代表:推动人工智能与实体经济深度融合

DNA“时光机”回溯南极生态之变

钟铮代表:布局协作型机器人 加快人形机器人研发

从蓝图到实景,低空经济蓬勃发展

国产手术机器人:从“跟跑”到“并跑”

科技+电影,好戏还在后头

让科技供给与产业需求“双向奔赴”

旭华科技首创曲面石墨烯技术 实现低成本量产化

人形机器人迈向群体智能 产业链公司积极助力技术落地

多地竞逐具身智能赛道 政策与资金同步发力

人工智能终端产品加快落地 有望催生万亿元级蓝海市场

中国牵头制定养老机器人国际标准

人工智能人才成“香饽饽” 企业纷纷亮出高薪“招贤榜”

金价高位回调 趁机购入还是继续观望?

功能性护肤成拖累,华熙生物进入业绩阵痛期

奢侈品转向“一城一店”集中化布局

年轻人消费“含金量”提升,黄金市场“小而美”产品热销

聘任前欧莱雅高管,贝泰妮寻业绩突破口

黄金价格下跌 该出手吗?

远离网络购物陷阱 牢记“三不”原则

国产运动品牌加速“出海”布局

每天洗头会导致脱发?

海龟爸爸2025春夏新品发布

华为余承东:2025款问界M9和问界M8分别于3、4月上市

出行新标配!比亚迪携大疆打造灵鸢,让出行大片触手可得

10城开展公共领域车辆全面电动化试点

DeepSeek席卷车圈 AI如何改变你的用车生活

国家能源局:推动燃料电池汽车试点应用

国车红旗礼遇国门,红旗国悦助力首都机场贵宾服务升级

莲花跑车转向战略收缩 公司高层或将人事调整

1月新能源二手车需求小幅增长 中高端价格区间车辆受追捧

读懂5%的来之不易

从蓝图到实景,低空经济蓬勃发展

“舌尖经济”释放餐饮消费新活力

2月份6只QDII涨超20% 2月份1520只债基上涨

机器人+养老,期待一场硬核科技与温暖亲情的双向奔赴

南京:“小草莓”撬动“大产业”

重庆潼南汽车后市场产业发展见闻:从"卖废料"迈向"再制造"

湖北广水:乡村开公司 村民共兴业

探索“文体旅”融合牡丹江打造差异化冰雪旅游新格局

国际评级机构维持澳门特区“AA”长期信贷评级

京津冀协同发展新十年 天津迎来哪些经济发展新机遇

文旅产业破茧重生 消费潜能持续释放

外资企业最快1天落地北京

沈阳:向“新”求变 以“质”谋远

2024年苏州电力消费总量占全省22% 继续领跑全省

奋力往前赶 安徽勇担科技创新“排头兵”重任

合肥青年夜校非遗课堂走红 年轻人热衷体验传统文化

湖南郴州苏仙区:闲置农房“活” 乡村文旅“火”

数字技术“摆渡” 中国传统文化谋“出门”又“出圈”

滴!大学生实践团打卡国内首条空轨 体验未来城市交通

滴!大学生实践团打卡国内首条空轨 体验未来城市交通

3月份江南华南等部分地区强对流天气增多 洪涝和风雹灾害风险较高

全国累计春灌面积已达2600余万亩

2月份物流需求有序恢复 市场预期保持高位

哪吒也能数控造?大学生实践团带你走进武汉“高精尖”

春色花海醉游人 科技助力农业生产提质增效

南方未来三天多阴雨天气 西南华南气温持续下降

AI赋能、政策护航……中国罕见病诊疗迎来新机遇

社保卡能在任意地区补换吗?补换后需要重新激活吗?

春菜鲜美丰富百姓“菜篮子” “一口鲜”餐饮热潮激发消费活力

“文化+”释放多元消费新场景 资本不断加码“蓝海”市场

把春天揉进花海 各地解锁“春日经济”

周口中院召开全市法院司法警察部门述职工作会

健康科学化减脂,毅靓邀您共创健康塑形新时代!

科学赋能·新质发展2025年环光明科学城骑行活动成功举办

电视剧《北上》热播 演员与幕后团队的专业精神并存

从孔达达正大气象的榜书到新绘画艺术的探索

从 “荣耀” 盛典回溯华外同文十载:秉持 “更中国更世界”,深耕教育沃野

第33届华交会盛大开幕 跨境电商高层论坛聚焦AI

270+城市次日达!顺丰构建“空中物流版图”,解锁云南蓝莓出海新速度

首届国际低空产业大会将于9月在成都举行

2025第二届越野车(SUV)新能源化与智能化发展大会即将启幕深圳 共创行业新篇章

护粮安 助春耕 l 国投罗钾出实招

从合规到赋能:贵州金玖获认证激活创新引擎

美好蕴育:通过差异化打造年轻人认可的孕产健康品牌

影豹夺冠车聚活动

共建女性健康屏障——当代妇产正式挂牌"宫颈癌防治协会理事单位"

杭州AI九小龙:民间科技天团,正在吊打全世界!

刘亦菲新造型打破舒适圈,润致玻尿酸引领面部抗衰美学奇迹

中清科技STFcore六维力传感器,引领机器人装配技术的新纪元

赛升药业:创新驱动发展,科技守护健康

无惧汽车垂直平台流量瓶颈 海尔18亿美元收购汽车之家

众捷汽车IPO“注册生效”,计划募资约4.22亿元

新春开门红!287辆宇通纯电动客车批量交付挪威

智慧演绎,共享未来——2025歌华国际车用空调展(广州站)盛大启幕!

乾崑版新增两大版型 全新岚图梦想家发力高阶智驾

埃安RT 650智享版上市!12.88万抄底650km

智驾黑科技加持,地平线HSD拟人表现通行北京繁忙城区

AI加速接入生活 究竟会带来什么

AI等技术助中企提高海外高端市场竞争力

政策技术双加持 消费电子赛道持续升温

北京首家苏宁易购Max店11.29正式开业

AI时代 仍需一锤一凿的“笨功夫”