攻击升级 破坏力大 国产大模型“急呼”安全护航
来源标题:攻击升级 破坏力大 国产大模型“急呼”安全护航
随着DeepSeek(深度求索)的全球爆火,网络攻击也接踵而至,引发业界对大模型安全的关注。专家认为,此次针对DeepSeek的网络攻击持续时间长、破坏力大、手段多、变化快,折射出当前复杂而严峻的网络安全形势。
DeepSeek频遭攻击
奇安信Xlab实验室近期连续发布的安全报告显示,今年以来,DeepSeek先后遭遇反射攻击、HTTP代理攻击、DDoS攻击(分布式拒绝服务攻击)、僵尸网络等各种安全威胁,甚至一度对正常服务造成严重影响。
奇安信Xlab实验室安全专家王辉说,与以往的网络攻击事件相比,DeepSeek此轮遭遇的网络安全攻击具有持续时间长、破坏力大、手段多、变化快等特征。
监测数据显示,从1月3日开始,1月22日攻击升级,1月27、28日进入第一个高峰,1月30日僵尸网络下场……这波针对DeepSeek的网络攻击持续时间之长前所未有,甚至出现攻击常态化现象。
不仅如此,此轮网络攻击影响范围广,烈度不断升级,破坏力大,潜在威胁不容忽视。监测数据显示,2024年12月1日至2025年2月3日期间,共出现了2650个仿冒DeepSeek的域名,这些仿冒域名主要用于钓鱼欺诈、域名抢注等非法用途。截至目前,仿冒域名的数量仍在持续增加。
利用市场的兴奋情绪,一些不法分子推出了所谓DeepSeek“加持”的各种“空气币”(即没有实际价值的虚拟货币),甚至出现了宣称可以购买DeepSeek内部原始股的网站。
值得注意的是,此轮针对DeepSeek的网络攻击手段层出不穷,给网络防御带来极大难度。仅1月3日至1月30日期间,就先后出现了SSDP、NTP反射放大攻击,应用层HTTP代理攻击,暴力破解攻击,僵尸网络攻击等多种攻击手段。“尤其是僵尸网络的加入,标志着‘职业打手’已经下场,这说明DeepSeek面对的攻击方式一直在持续进化和复杂化,防御难度不断增加,网络安全形势愈发严峻。”王辉表示。
数据安全隐患凸显
在网络攻击“你方唱罢我登场”的同时,大模型的数据安全隐患也开始显现。
近日,奇安信安全研究团队对常见的大模型工具及平台进行安全检测时发现,广泛应用于大模型部署的架构Ollama、openLLM、Ray最新版存在未授权命令执行漏洞,危害程度极高,一旦被利用可能会对企业和组织造成严重危害。
亚信安全人工智能实验室同样发现,应用于大模型分布式部署的架构Ray存在未授权命令执行漏洞,并第一时间上报给国家信息安全漏洞共享平台(CNVD-2024-47463)及通用漏洞披露平台(CVE-2024-57000)。CVE通用漏洞评分系统(CVSS)对该漏洞的评分高达9.8分,是近年来评分最高的漏洞之一。
据介绍,Ray是一款强大且易用的分布式计算框架,在大模型高性能计算与分布式部署中扮演着关键角色,包括DeepSeek在内的许多大模型都在采用该框架,广泛应用于数据预处理、分布式训练、超参数调优、模型服务和强化学习等领域。
安全专家告诉记者,此次发现的漏洞属于高危未授权代码执行漏洞,可绕过身份验证和执行未授权代码,攻击者可利用该漏洞,窃取Ray集群中的敏感信息,包括模型训练数据、模型参数等。此外,攻击者还可利用该漏洞,在Ray集群中执行任意恶意指令,如设置后门、删除业务数据等。“建议使用Ray框架的企业,及时采取必要的安全防护措施,避免因漏洞造成损失。”
另一个在DeepSeek私有化部署或本地部署中常用到的工具Ollama也被发现存在安全隐患。
近日,奇安信资产测绘鹰图平台监测发现,8971个运行了0llama大模型框架的服务器中,有6449个活跃服务器。其中,88.9%的服务器“裸奔”在互联网上,使得任何人不需要任何认证即可随意调用,并在未经授权的情况下访问这些服务,从而导致数据泄露和服务中断,甚至可以发送指令删除所部署的DeepSeek、Qwen等大模型文件。
安全专家建议,所有部署DeepSeek服务的企业和个人应立即采取有效的安全防护措施。此外,个人用户需要警惕不知名厂商提供的DeepSeek大模型服务,一些不良厂商在使用被盗资源对外售卖、骗取钱财的同时,还实时监控用户提交的所有数据,造成用户隐私泄露。
亟待构筑安全防线
业内人士认为,守护大模型安全将是一场旷日持久的网络攻防博弈,为AI产业构筑安全可靠的网络防线势在必行。
奇安信安全专家龚玉山认为,包括DeepSeek在内的国产大模型,面临的安全风险涵盖了数据安全风险、训练语料安全风险、使用安全风险、应用安全风险、软件供应链安全风险、生成内容风险、大模型自身风险等,急需全面、体系化的安全防护方案。
对此,受访专家提出了三点建议:首先,做好风险暴露面管理,夯实网络安全基础防护。对于一家大模型公司而言,安全风险不仅仅来自于单个大模型服务,更来自于整家公司。毕竟,公司对外业务开放的同时势必存在很多暴露面,包括数据库授权访问、API接口访问、云服务、域名服务等,这些均有可能成为攻击者的目标,一旦失守,就会导致大规模数据泄露。因此,大模型企业需要做好风险暴露面管理,实施严格的访问控制措施,如建立身份验证和授权机制,限制对API、数据库的访问等。同时,也要做好网络、终端、云、服务器、数据库等基础网络安全防护措施,最大程度减少外部威胁。
其次,严格制定数据安全保障机制,避免敏感数据泄露。当下,大模型的数据安全面临挑战,尤其政务大模型因涉及敏感数据,其运行直接影响公共利益和国家安全,需要采取更严格的监管要求,特别是训练数据,需要有更系统化、更细化的规范来指导,否则极有可能引发重大危机。
专家建议,围绕数据来源合规、内容安全合规、敏感数据识别过滤、训练数据标注安全、数据分类分级与安全保护、数据访问控制等方面,制定体系化的防护方案。例如,针对公开的大模型,就不能使用内部、敏感数据来进行训练,从源头避免重要数据泄露风险。
最后,通过内容风控、应用防护等多重保障,确保大模型运行安全。大模型的运行安全涉及内容生成和应用层面的多重保障,需要确保生成的内容符合相关规定,且系统运行稳定可靠。以大模型应用安全风险中的“提示注入”风险为例,它是指攻击者通过巧妙构造输入提示词,试图突破大语言模型的安全防护机制,引导模型产生不符合预期甚至有害的输出,比如一个聊天机器人原本是为客户提供服务的,但在恶意提示词的诱导下,可能无意间泄露出训练数据中的敏感信息。
因此,在内容层面,国产大模型需要做好生成内容风控,包括输入内容过滤、输出内容审核,确保大模型在输入内容前经过严格的审查,过滤恶意输入内容,防止不良输出;在应用层面,需要做好Web安全防护、API安全防护、应用访问控制、个人信息保护等,通过严密的安全技术保障和运行监测,确保大模型运行时的安全性、可靠性和稳定性。
标签:
相关阅读
-
攻击升级 破坏力大 国产大模型“急呼...
来源标题:攻击升级 破坏力大 国产大模型急呼安全护航随着DeepSee... -
AI眼镜规模化商用提速
来源标题:AI眼镜规模化商用提速我的发言稿就在我的眼镜里,动一动... -
科普丨为什么“哎哟”不需要翻译
来源标题:科普丨为什么哎哟不需要翻译法国研究人员近日在《科学美... -
科学家揭示森林树木“抱团”奥秘
来源标题:科学家揭示森林树木抱团奥秘中国科学院沈阳应用生态研究... -
多地积极布局智慧养老 养老机器人已“...
近日,上海、西安等多地围绕智慧养老部署工作,旨在推进养老事业和... -
人形机器人临近量产节点 供应链企业有...
3月10日,上海智元新创技术有限公司(以下简称智元)宣布其通用具身机...
精彩放送
-
多地积极布局智慧养老 养老机器人已“...
近日,上海、西安等多地围绕智慧养老部署工作,旨在推进养老事业和... -
攻击升级 破坏力大 国产大模型“急呼...
来源标题:攻击升级 破坏力大 国产大模型急呼安全护航随着DeepSee... -
AI眼镜规模化商用提速
来源标题:AI眼镜规模化商用提速我的发言稿就在我的眼镜里,动一动... -
科普丨为什么“哎哟”不需要翻译
来源标题:科普丨为什么哎哟不需要翻译法国研究人员近日在《科学美... -
科学家揭示森林树木“抱团”奥秘
来源标题:科学家揭示森林树木抱团奥秘中国科学院沈阳应用生态研究... -
人形机器人临近量产节点 供应链企业有...
3月10日,上海智元新创技术有限公司(以下简称智元)宣布其通用具身机... -
AI眼镜“破圈”迎来爆发元年 2025年“...
从AI(人工智能)大模型爆红网络,到宇树机器人在春晚扭秧歌,再到智... -
数智化电商产业带加速形成
中国社会科学院财经战略研究院课题组、中国社会科学院大学平台经济... -
大模型激活经济发展新动能
今年的政府工作报告提出,支持大模型广泛应用,并将其作为激发数字... -
七地获准建设数字经济创新发展试验区
记者13日从国家数据局获悉,国家数据局近日函复同意天津市、河北省(... -
科创板软件企业创新驱动行业发展
今年政府工作报告提出,持续推进人工智能+行动,将数字技术与制造优... -
上市公司加速布局AI算力赛道
武卫红在人工智能(AI)产业迅猛发展带动下,近期A股市场算力概念持续... -
通用具身智能平台“慧思开物”在京发布
3月12日,由北京人形机器人创新中心研发的、支持多本体多场景应用的... -
打造“完美主播”、暗设消费陷阱,AI营...
你在网络直播间看到的正在带货的名人明星是真人吗?未必。近期,小米... -
算法沦为算计,消费者如何反“杀熟”
付费会员价格比普通用户高新人一天三四个红包,消费数万元的老客户... -
在线“诊断”心理问题,靠谱吗?
NPD有六大特征,遇到了赶紧跑有的孩子看着正常,其实是ADHD,快来测... -
深圳出台具身智能机器人产业发展行动计划
3月12日,记者从深圳市科技创新局了解到,该局日前印发《深圳市具身... -
落实“人工智能+”行动 推动数字贸易高...
□ 宋思源在数字贸易领域推动人工智能+行动,将更大程度上促进先进... -
共同担当人工智能全球治理责任
近期,中国深度求索公司(DeepSeek)发布的最新开源模型凭借其卓越的... -
首届百雀羚AIGC大赛:应时代浪潮 铸...
3月6日,百雀羚联合中国大学生知行促进计划(简称知行计划)打造的&ls... -
拉芳重回营销战
中国拉芳 冠军之选,这是拉芳家化旗下洗护品牌拉芳官宣中国跳水队... -
春日踏青带动户外用品热销!轻便帐篷、...
随着天气转暖,不少人开始走到户外运动踏青,这也带动了户外产品的... -
加速下沉 县域用户成二奢消费新客群
3月10日,北京商报记者获悉,转转集团发布2024女性二手消费洞察,数... -
女性内衣选购小妙招:先看“安全身份证”
3月7日,浙江省杭州市市场监管局发布女性内衣选购小妙招,女性在选... -
辽宁纺织服装“链”动全球产业对接大会举办
3月11日,由辽宁省工业和信息化厅、辽宁省纺织服装协会主办的辽宁纺... -
上海首店经济“开门红” 首发大秀精彩纷呈
2025年开年,上海首店经济迎来开门红。在短短两个月内,新增的餐饮... -
LVMH集团CEO之子将执掌Loro Piana
3月12日,LVMH集团宣布了三项重要高管人事任命。Loro Piana现任CEO... -
1.9亿美元!“医美茅”爱美客大手笔收购竞品
3月10日晚,被资本市场称为医美茅的爱美客发布公告,拟以1 9亿美元... -
哪吒的黑眼圈 还可以抢救下
跻身动画电影全球票房榜首的《哪吒之魔童闹海》火出天际,里面脚踏... -
土地收储工作加速助力房地产市场止跌回稳
3月11日,自然资源部、财政部对外发布《关于做好运用地方政府专项债... -
海南商业航天发射场具备双工位发射能力
3月12日0时38分,海南商业航天发射场一号发射工位首次发射取得圆满... -
端稳“肉盘子” “湘”味进万家
畜禽产品是中国人餐桌上不可或缺的主角。端稳肉盘子,保障畜禽产品... -
宁夏中宁:塞上江南“杞”新篇
在早康枸杞股份有限公司的全自动生产线上,一颗颗饱满的枸杞经过冲... -
三方共建新疆辣椒机械化技术研究平台
记者3月10日从岳麓山实验室获悉,该实验室与塔里木大学共同赋能新疆... -
我国最大的新疆耐盐碱微生物资源库创建
记者3月10日从河南农业大学获悉,该校联合新疆农业科学院微生物应用... -
打好“科技+政策”组合拳,激发城乡发展...
宋迎迎山东省青岛市,借助城市更新契机,昔日低效片区变身发展热土... -
文旅产业如何变流量为“留量”
韩 荣黑龙江冰雪旅游持续走红,甘肃天水麻辣烫火爆出圈,游戏《黑... -
点燃餐饮热情 消费券助力上海“春日经...
黄一灵2025年‘乐品上海’餐饮消费券是摇号中签,总算不... -
立足专业领域、一馆一特色!高校博物馆...
伴随着全国各地的博物馆热,高校博物馆也受到越来越多关注。和其它... -
陕西:气象“哨兵”护“金果”
陕西省宝鸡市眉县齐镇凉阁村,返乡创业青年邓晓庆的35亩设施大棚内... -
记者体验:上海菜市场“代炒菜”服务火爆
买菜做饭,看似是民生小事,却是大家每天都离不开的大事。最近,上... -
合肥:硬核举措护航产业“起飞”
对新引进的低空经济新型研发机构,给予每年最高2000万元、累计不超... -
西部生态“加减法”咋运算?
我国西部地区既是资源富集区,也是生态脆弱区。内蒙古修复草原生态... -
江苏:增强农业科技装备支撑能力
2025年江苏省委一号文件《关于进一步深化农村改革 推进乡村全面振... -
四川首个省级科技政务服务垂直大模型上线
3月11日,记者从四川省科技厅获悉,四川科技人工智能体日前在四川省... -
深圳出台具身智能机器人产业发展行动计划
3月12日,记者从深圳市科技创新局了解到,该局日前印发《深圳市具身... -
江苏首部海岸带及海洋空间规划发布
划定海洋功能分区、建立海岸建筑退缩线制度、建设海洋灾害自动化预... -
河南延长灵活就业人员2024年度养老保险...
为切实维护外出务工人员、城乡大龄参保人员等广大灵活就业人员基本... -
今年海南将新建6个省级高技能人才培训基地
为加快培养适应海南自贸港建设需求的高技能人才队伍,近日,海南省... -
小心,睡前5个坏习惯偷走肾脏健康 | ...
来源标题:小心,睡前5个坏习惯偷走肾脏健康 | 世界肾脏日2025年3... -
投资于人,合肥实现“万亿GDP+千万人口...
来源标题:投资于人,合肥实现万亿GDP+千万人口双突破合肥,这座曾... -
重庆民营经济向“新”攀“高”大有可为
来源标题:重庆民营经济向新攀高大有可为段时间,浙江杭州六小龙的... -
各地春管向“新”而行生机勃勃 科技助...
来源标题:各地春管向新而行生机勃勃 科技助力慧好春耕图正值北疆... -
活力中国调研行丨未来已来 “智驾”给...
来源标题:活力中国调研行丨未来已来 智驾给汽车产业带来哪些变化?... -
县域商业换新“颜”!工业品快速“下乡...
来源标题:县域商业换新颜!工业品快速下乡特色农产品进城更畅通中国... -
今年春招,就业形势有何变化?
来源标题:今年春招,就业形势有何变化?眼下,金三银四的春季招聘,... -
吃荸荠只要削皮就行了?真相并非如此!
来源标题:吃荸荠只要削皮就行了?真相并非如此!冬季12月到来年3月,... -
“多增多补+冬增多补” 非常规天然气开...
来源标题:多增多补+冬增多补 非常规天然气开采专项奖补新政策来了... -
听!唱进“哪吒”电影的侗族大歌
一朵五彩斑斓的莲花正缓缓绽放,远方山谷悠悠回荡着如天籁般的吟唱... -
心声递两会| 赵倬:中医守正创新的践行...
导语:在全国两会即将召开的春风里,一位来自陕西终南山下——赵倬... -
国兴茶昌:普洱贡茶传人李兴昌的匠心独...
导语:在十五五规划即将引领中国迈向2035年基本实现现代化目标 -
引领中国式现代化新航程:袁勤生与中国...
在十五五规划即将出台的关键时刻,这一规划作为连接当下与2035年基 -
胡翠娥:以礼乐为魂,共绘文化强国新篇章
引言:在华夏大地的历史长河中,礼乐文化犹如一股清泉,滋养着中华 -
西屋WX2 Pro热水器:智能恒温,舒适生...
在快节奏的现代生活中,一款能够带来舒适沐浴体验的热水器成为了提 -
朱雀智创:以“冲突·对话·共生”重塑...
2025年3月11日,上海国家会展中心迎来了一场纺织行业的盛宴——2025 -
坚定不移推进国企混改,助力我国经济高...
王云华国企混改不仅是国企改革的重要方向,更是实现国有资本与非公 -
中科海势董事长段宇晶:紧跟“十五五”...
导语:“十五五”规划,作为连接当下与2035年基本实现现代化目标的 -
轻松实现比特币定投:Bit交易所云算力挖...
在这个波动不居的比特币市场中,你是否在寻找一种简单又稳健的投资方 -
服务无小事,金融守初心 ——民生银行...
站在新时代的门槛,民生银行广州分行用实际行动践行我行适老服务理念 -
开拓大健康市场市场,星宝健强诚邀合作伙伴
安徽星宝健强食品销售有限公司依托当地优质资源,业务涵盖水产养殖、 -
2025全国两会《两会会客厅》 | 专访中...
3月6日,全国学雷锋先进个人、中央统战部党建结业学员、中企贸反传 -
三太子食品携手全国经销商助力《哪吒2》...
近日,国产动画电影《哪吒之魔童闹海》(以下简称《哪吒2》)以破竹之 -
编程猫携手联合国教科文组织发起AI Day...
2025年3月9日,全球人工智能教育领域迎来里程碑事件——由联合国教... -
人保车险-车内天窗使用禁忌你知道几条?
车内天窗是非常实用的附加装置,但是在使用时,还应该遵守一些禁忌... -
断层领先的洗地机顶配机皇 石头A30 Pr...
3月8日,石头科技新款智能洗地机A30 Pro Steam,在石头科技官方商城... -
康师傅推出决明子大麦饮&枸杞菊花茶!重...
中式养生茶正成为饮料行业新风向。3月7日,康师傅×京东联合发... -
2025思凯乐北京昌平-延寿越野挑战赛新闻...
2025年3月7日,2025思凯乐北京昌平-延寿越野挑战赛新闻发布会在北京 -
三星电子获Spikes Asia 2025年度广告主奖
三星凭借技术赋能内容的方式打造的开创性营销活动备受认可,为消费 -
全国人大代表孙东伟建议:鼓励更多民营...
实现中国式现代化,必须加快推进乡村全面振兴。国有企业在乡村振兴 -
AI应用火爆,拉动人工智能行业写字楼租...
来源标题:AI应用火爆,拉动人工智能行业写字楼租赁需求世邦魏理仕... -
回暖!本周末北方进入升温“快车道”,...
来源标题:回暖!本周末北方进入升温快车道,华北等地或暖如4月今天(... -
西部能源“奔涌”背后,清洁能源基地如...
从四川千河之省的水电动脉叠浪成电、到甘肃陆上三峡的风电集群驭风... -
黄河累计开河188.6千米 开河过程总体平稳
记者从水利部了解到,3月份以来,黄河内蒙古封冻河段开河速度总体呈... -
西藏定日受地震影响灾区学校开学 1400...
来源标题:西藏定日受地震影响灾区学校开学 1400余名学生到定日县... -
月活过亿App超七成接入AI
来源标题:月活过亿App超七成接入AI3月4日,第三方数据平台QuestMob... -
电影院咖啡馆开不少 “城里人”爱往县...
这个春节,很多网友发现老家县城的消费突然升级了:各类新式茶饮、... -
南方持续阴雨回温乏力 北方晴朗升温多...
来源标题:南方持续阴雨回温乏力 北方晴朗升温多地或创气温新高未... -
沃野逐春光——各地有序推进春耕备耕扫描
来源标题:沃野逐春光——各地有序推进春耕备耕扫描惊蛰时节,春耕... -
透过指数看变化 政策效应正在电商物流...
中国物流与采购联合会3月6日公布2月份中国电商物流指数。受2月上旬... -
骨科机器人手术“精准到毫米”
近日,由北京积水潭医院院长蒋协远、智能骨科研究型病房主任王军强... -
国产手术机器人:从“跟跑”到“并跑”
真正的突破在于构建起自主可控的技术体系。从核心部件国产化到5G远... -
智领潮头兴未来
小时候作文里的幻想在2025成真了:钢铁原来是用AI炼成的‘制药... -
从蓝图到实景,低空经济蓬勃发展
在深圳,无人机已经可以配送生鲜、药品等,据民航深圳空管站统计,... -
全球首次!人形机器人将与人类一起跑“...
人形机器人将以体育为媒与人类同台竞技。记者3月4日从北京市政府新... -
全球首个人形机器人“半马”将在京举办
3月4日,记者从北京市政府新闻办公室举行的发布会获悉,北京经济技... -
月活过亿App超七成接入AI
3月4日,第三方数据平台QuestMobile发布了《2024年中国移动互联网报... -
两会新华解码|具身智能如何走向未来?
宋晨5日提请十四届全国人大三次会议审议的政府工作报告中提出,建立... -
人形机器人协同作业 “灵巧手”丝滑操作
优必选人形机器人通过高精度感知与自适应控制技术,动态调整抓取力... -
中国科技力量精彩亮相世界移动通信大会
当地时间3月3日至6日,2025年世界移动通信大会在西班牙巴塞罗那会展... -
数智赋能:让生活“一键升级”
近年来,我国通信、软件、互联网、人工智能等数字技术快速发展,不...