AI检测AI:“矛”更利还是“盾”更坚
近年来,人工智能(AI)技术推动生产力快速发展,但同时也因技术滥用导致各种问题。
为监督AI技术使用,如今市面上不乏各类用于检测AI生成内容(AIGC)的工具,如普林斯顿大学学生开发的GPTZero、斯坦福大学研究团队推出的DetectGPT等。我国一些研究团队也陆续发布各类检测工具,如西湖大学文本智能实验室研发的Fast-DetectGPT。
人类的创作与AIGC之间存在哪些差异?AI检测工具如何根据差异进行识别?AI检测工具如何应对越来越聪明的大模型?带着这些问题,记者采访了有关专家。
2024世界人工智能大会暨人工智能全球治理高级别会议上,观众在参观由人工智能生成的图片
AI创作套路化明显
“虽然大模型在不断发展迭代,但到目前为止,AIGC与人类的创作在用词用语、逻辑语法等方面依旧存在明显区别。”Fast-DetectGPT研发者之一、西湖大学文本智能实验室博士生鲍光胜说。
在用词用语上,AIGC有相对固定的偏好。“不难发现,一些词语会反复在语段中出现。”鲍光胜举例说,有研究发现,大模型应用于英语学术论文写作时,“delve”(深入研究)一词的使用频率大大提高,这是因为大模型习惯用这个词对语句进行润色修改。
在逻辑语法上,AIGC惯常使用的一些语法搭配方式,在人类创作中可能并不常见。“受模型建模的影响,AIGC有相对固定的行文逻辑和表述模式,且这些模式会不断地被重复。人类在行文上则更为灵活,没有固定套路。”鲍光胜说。
北京大学信息管理系师生比较了AI生成与学者撰写的中文论文摘要。研究结果同样显示,AI生成的摘要具有较高同质性和较强写作逻辑性,并惯用归纳总结等学术话语体系;学者撰写的摘要则具有显著个性化差异,使用凸显实际含义的搭配较多,并常用与国家政策密切相关的词语。
哈尔滨工业大学一名研究生向记者讲述了他使用大模型的实际感受:“当我给大模型提供一些材料让它扩写,它每次都用相同的套路——把给定的材料拆解开,分为若干点论述。总体来说感觉它写得比较‘僵’。”
AIGC相对套路化的创作,可能会影响人类的用语习惯。“随着越来越多人用AI创作或润色文字,人类会受到潜移默化的影响,这或将影响整个社会对语言的使用。”鲍光胜说。
三种路径识别文本
如何准确识别AI生成内容?鲍光胜介绍,目前主要有三种技术路径进行检测,分别是模型训练分类器法(也被称为监督分类器法)、零样本分类器法、文本水印法。“三种检测方法本质上都是利用AI检测AI,且各有优劣。”鲍光胜说。
模型训练分类器法,首先要收集大量人类创作内容与AIGC,然后以此为基础训练一个能区分两类内容的分类器。“这是目前被广泛使用的一种方法,但缺点较为明显。”鲍光胜解释,用于训练分类器的数据有限,很难覆盖所有类型和语言的文本。分类器在训练数据覆盖的文本领域或语言上检测准确率较高,反之准确率则较低。而且,模型训练往往需要较高成本,数据规模越大,训练成本越高。
相比之下,零样本分类器法不需要对机器进行训练,也无需收集数据。它利用已训练好的大模型,抽取语言模型生成文本的特征,据此来区别人类与机器。“似然函数是零样本检测法中比较常用的基准之一,它可以简单理解为一段文本在某个模型的建模分布中出现的概率。概率是一种特征,不同的概率体现了人类创作内容与AIGC的差异。”鲍光胜进一步解释,“零样本分类通过综合考虑多种函数特征来区分人类创作内容与AIGC。”
如今,很多大语言模型几乎覆盖了互联网上的全部数据。因此,相比于模型训练分类器,零样本分类器在不同领域、不同语言的文本上表现较为一致。
不过,零样本分类器也存在明显缺点。一方面,现有零样本分类器依赖生成文本的源语言模型进行检测,这意味着如果是未知源模型生成的文本,分类器就无法准确检测。另一方面,为提高检测准确率,零样本分类器往往需要多次调用模型,这增加了模型的使用成本和计算时间。
“文本水印法则是一类‘主动方法’。区别于前两类方法,它不是检测已生成的文本,而是在AI生成文本时加入水印。人类虽然看不出这些水印,但却能通过技术手段检测出来。”鲍光胜说,文本水印法的准确率较高,但缺点在于水印可能被人为弱化甚至移除。此外,对于无法访问模型内部结构的大语言模型,技术人员可能无法在生成内容时成功加入水印。
检测技术需不断改进
“未来,我们要不断更新、完善现有技术,力争实现快速、准确、低成本检测,在大模型这把‘矛’越来越锋利的同时,让检测技术这面‘盾’更为坚固。”鲍光胜说。
记者了解到,为提升检测准确性,目前市面上的商用AI检测软件大多融合了多种技术手段。国内外研究团队也在进一步完善相关技术。
例如,西湖大学文本智能实验室团队在DetectGPT基础上研发的Fast-DetectGPT模型,可提升AI检测准确性,缩短检测时间。“Fast-DetectGPT与其他零样本分类器原理一致。其中一个创新点在于,我们提出通过条件概率曲率指标进行检测。”鲍光胜说,“与DetectGPT相比,Fast-DetectGPT在速度上提升340倍,在检测准确率上相对提升约75%。”
对AI检测AI的前景,有两种截然不同的观点。一种观点认为,未来AIGC将会与人类创作极为相似,以至于检测工具无法判别。还有一种观点认为,随着技术发展,检测技术或将赶超大模型技术,实现对AIGC的有效识别。
“目前,无论是AI生成的文字、图片还是视频,都在技术可识别的范畴之内。相较于文字,图片和视频甚至可以直接被专业人士肉眼识别。期待未来通过大模型技术的不断进步,推动检测技术发展。”鲍光胜说。( 吴叶凡)
标签:
相关阅读
-
我科学家发明新型“热发射极”晶体管
15日,记者从中国科学院金属研究所获悉,该所研究员刘驰、孙东明和... -
新AI算法“望舌诊病”成功率达98%
望舌诊病是最具中医特色的诊断方法之一,已有2000多年历史。在一项... -
AI检测AI:“矛”更利还是“盾”更坚
近年来,人工智能(AI)技术推动生产力快速发展,但同时也因技术滥用... -
第三届世界元宇宙大会将在武汉举行
8月14日,记者从中国仿真学会获悉,第三届世界元宇宙大会将于11月22... -
国家统计局:数字消费、绿色消费、健康...
8月15日,国务院新闻办公室举行新闻发布会,介绍2024年7月国民经济... -
星空有约|我国科研人员发现:星系中心...
位于星系中心的黑洞对整个星系有何影响?近日,南京大学天文与空间科...
精彩放送
-
我科学家发明新型“热发射极”晶体管
15日,记者从中国科学院金属研究所获悉,该所研究员刘驰、孙东明和... -
新AI算法“望舌诊病”成功率达98%
望舌诊病是最具中医特色的诊断方法之一,已有2000多年历史。在一项... -
AI检测AI:“矛”更利还是“盾”更坚
近年来,人工智能(AI)技术推动生产力快速发展,但同时也因技术滥用... -
第三届世界元宇宙大会将在武汉举行
8月14日,记者从中国仿真学会获悉,第三届世界元宇宙大会将于11月22... -
国家统计局:数字消费、绿色消费、健康...
8月15日,国务院新闻办公室举行新闻发布会,介绍2024年7月国民经济... -
星空有约|我国科研人员发现:星系中心...
位于星系中心的黑洞对整个星系有何影响?近日,南京大学天文与空间科... -
你好!新职业|工业互联网运维员:为企...
工厂里,灵活的机械臂上下翻飞包揽重活累活,无人搬运车载着货品井... -
今年秋天这8件衣服必火!早穿早美
一场秋雨一场凉,即便夏日的炎热未曾褪去,我们也感受到舒爽的天气... -
秋天的衬衫,这么穿最好看!
现在天气开始变的凉爽起来,各种棉质衬衫的利用少不了,不管是单穿... -
拿捏比赛后的社交场,「球员女友风」二...
谁说今年不是体育大年呢?不仅网球裙销量迅速赶超瑜伽裤,各种sporty... -
这些才是50岁女性的穿衣模板,优雅高级...
在这个多彩的世界里,年龄从不是定义美丽的界限,尤其是对于步入50... -
老钱风穿搭太高级了,40岁女人华丽蜕变...
现在时尚界有一种风格十分的流行,那就是老钱风,这种风格可以让自... -
四五十岁女性的优雅穿搭秘籍在这里,轻...
优雅是一种永恒的追求,特别是在四十、五十岁这个年纪,穿衣打扮对... -
揭秘小红书大牌护肤品“临期打折”陷阱
原价1299元的兰蔻面霜,如今72元到手原价899元的兰蔻精华肌底液,折... -
哈尔滨消协发布防晒衣比较试验报告 涉...
为了防止夏日强烈紫外线对皮肤的伤害,质感轻薄、款式时尚的防晒衣... -
3天卖出3.2亿元!夏季最该买的服装竟然...
羽绒反季买,别墅靠大海。正值暑期,本应出现在秋冬季节的羽绒服等... -
洗完头迅速吹干,真的伤发质吗?
洗完头发后,我们常常面临一个很纠结的选择题——究竟应该让头发自... -
最便宜的合资MPV来了,新款北京现代库斯...
随着国内汽车消费市场升级和大家庭的普及,越来越多的人开始选择一... -
分化愈加明显 车企转型结果决定市场影响力
站在以旧换新补贴升级以及新车价格战选择的十字路口,汽车企业市场... -
7月汽车销售、售后服务指数“双增长”
随着国内车市发展愈发成熟,围绕新车销售和售后服务能力已成为车企... -
锚定“主流” 新能源汽车提质扩面
日前,中共中央、国务院印发《关于加快经济社会发展全面绿色转型的... -
电动车起火造成财产损失,奔驰韩国CEO与...
据外媒报道,8月14日,奔驰韩国负责人与一座公寓大楼的居民会面,该... -
为避免高额关税,极星开始在美国生产
据路透社报道,8月14日,瑞典电动汽车制造商极星(Polestar)表示,已... -
因电池火灾隐忧,宝马、奥迪、现代加力电...
据韩国时报报道,在奔驰EQE电动轿车的起火事故引起公众的广泛关注之... -
涛涛不绝:比亚迪领先 长安下滑,传统...
尽管中国品牌的份额取得了新突破,但由传统新能源车企所构建的市场... -
极氪为啥“一年磨三剑”?
小米三年磨一剑,极氪一年磨三剑新车提车半年不到变老款……8月14日... -
7月经销商库存处警戒线位置,捷豹路虎居首
中国汽车流通协会日前发布数据显示,7月,汽车经销商综合库存系数为... -
甘肃迭部:产业“阳光”洒入“美味”山林
到了迭部县,人们都说尼傲乡有好看的,也有好吃的。于是跟着哗啦啦... -
上海罗泾港区:“老码头”升级为智慧绿...
港口是我国对外开放的门户和畅通国内国际双循环的支撑,在加快建设... -
福建厦门:能源自平衡零碳园区的“减碳经”
厦门象屿综合保税区是国内首个零碳排放综保区。日前,记者走进这个... -
山西运城:推动新兴产业成形成势 支撑当...
核心阅读发挥区位等比较优势,引进培育科创企业;积极实施链长制,推... -
粤港澳大湾区首个变速抽蓄工程进入机电...
近日,粤港澳大湾区首个变速抽水蓄能工程——肇庆浪江300兆瓦级大型... -
天津这些城市更新项目怎么干?解密来了
位于五大道上的庆王府,暑期迎来了客流小高峰。7月以来,日均接待游... -
山西省全方位保障农民工工资及时足额支付
保障农民工工资支付,事关广大农民工切身利益和民生福祉,事关社会... -
"高颜值"变"高价值" 从生态产品价值实...
8月15日是全国生态日,今年的主题为加快经济社会发展全面绿色转型。... -
改革创新大潮涌动,山东国企改革之路怎...
站在浪潮科技园S01楼37层凭窗远眺,济南南部山区的层峦波涛般映入眼... -
安徽:深化经济体制改革 赋能高质量发展
政务服务事项极简极速极便审批、1份信用报告代替40个部门无违法违规... -
云南特色食品推介会在港举办
2024云南特色食品(香港)推介会15日在港举办,现场展示了来自各家企... -
2023年度中国碳达峰碳中和十大科技创新发布
2024绿色低碳创新大会15日在浙江湖州举办,发布2023年度中国碳达峰... -
福州启动建设“海峡青年发展型城市” ...
15日,在第十二届海峡青年节峰会上,福州市启动建设海峡青年发展型... -
安徽实施16项“小切口”创新改革 赋能...
安徽省发展改革委主任陈军15日在安徽省政府新闻办召开的新闻发布会... -
着汉服 明礼仪 品文化
正值暑期,中国工艺美术馆(中国非物质文化遗产馆)(以下简称中国非遗... -
加强产教融合 人才快速成长(锚定现代...
工作刚满一年,王添宝不仅带了8名学徒,今年5月还晋升为自动化工程... -
高温天气如何做好健康防护
立秋之后,暑热未尽,在很多地区特别是南方省份,天气依然炎热。高... -
乡村希望书屋为大别山孩子带来七彩暑假
2024年暑假期间,团湖北省罗田县委通过广泛动员高校、爱心企业和当... -
守护“一河三山” 让“塞上江南”越来...
山河一气秋,塞上风景异。浩浩黄河蜿蜒流淌,贺兰山下果园飘香,六... -
创意海报丨美丽家园,它们“有数”
-
航拍世界文化遗产遵义海龙屯遗址
8月15日,航拍位于贵州省遵义市汇川区的世界文化遗产海龙屯朝天关飞... -
【何以中国 行走河南】洛阳“牡丹”瓷...
红玉瓣、黄金蕊、琥珀枝、翡翠叶……8月15日,记者走进洛阳牡丹瓷博... -
便利纳税人跨区迁移 国家税务总局9月1...
国家税务总局15日发布《关于进一步便利纳税人跨区迁移 服务全国统... -
6485.0亿元!上半年我国广告业收入稳定增长
记者15日了解到,市场监管总局对857户广告业头部企事业单位开展了统... -
何以中国 行走河南|白鹭汇聚古运河 ...
在河南周口市淮阳区,由于近期降雨频繁,当地古运河不少低洼地带变... -
商务部回应对锑等物项实施出口管制
商务部、海关总署15日联合发布公告,决定对部分锑、超硬材料相关物... -
向上的中国·绿潮奔涌|万顷绿海锁黄沙
宁夏盐池县地处毛乌素沙地南缘,常年干旱少雨、风大沙多。20世纪80... -
焦点访谈:守护好“无价之宝”
8月15日是我国第二个全国生态日。今年生态日活动的主题是加快经济社... -
透视7月中国经济“成绩单”:新产品、新...
航空航天器及设备制造业、电子及通信设备制造业、计算机及办公设备... -
何以中国 行走河南丨一眼千年!洛阳到...
一座洛阳城,半部华夏史。洛阳,十三朝古都,有5000多年文明史、400... -
何以中国 行走河南丨“豫”见中原文化...
近年来,河南文旅热度持续,新融合、新场景不断涌现。作为中原文化... -
打击整治涉体育领域“饭圈”违法犯罪,...
公安机关网安部门高度重视饭圈乱象,持续会同有关部门依法严厉打击... -
7月经济总体延续回升向好态势
制图:张丹峰生产需求继续恢复,就业物价总体稳定,新动能加快培育... -
加快经济社会发展全面绿色转型——来自2...
题:加快经济社会发展全面绿色转型——来自2024年全国生态日主场活... -
出海“闯世界”!这里的外贸企业正乘风远航
今年上半年,浙江全省进出口总值2 56万亿元,比2023年同期增长7 8... -
这些大事件,铭刻生态文明建设壮阔历程
新时代以来,天更蓝、水更清、地更绿,祖国更美了。这些成就的背后... -
中央精神文明建设办公室等五部门联合发...
中央精神文明建设办公室、教育部、共青团中央、全国妇联、中国关工... -
台湾花莲县海域发生6.1级地震 震源深度16千米
据中国地震台网正式测定:08月16日07时35分在台湾花莲县海域(北纬23... -
公安部公布4起打击整治涉体育领域“饭圈...
公安机关网安部门高度重视饭圈乱象,持续会同有关部门依法严厉打击... -
担负起新的文化使命,建设中华民族现代文明
在新的起点上继续推动文化繁荣、建设文化强国、建设中华民族现代文... -
“共建‘一带一路’助力共建国家现代化...
共建‘一带一路’倡议提出10年多来,已经取得巨大成就,... -
【东盟专线】东盟官员赞赏中国绿色发展...
2024年世界青年发展论坛绿色发展主题论坛暨中国—东盟青年发展论坛1... -
(铸牢共同体 中华一家亲)“医”路守...
嗓子疼得很?几天了?有没有‘嘶吼嘶吼’地响过?……这是一... -
【最是新疆看不够】土耳其媒体人在喀什...
8月9日,由新疆维吾尔自治区互联网信息办公室和光明网主办的最是新... -
洋洋大观 | 美国博主恋上中国乡村:10...
雷哥(Ryan Norman)是一名在山东日照生活的美国人,也是一名美食博... -
江南华南分散性强降雨天气持续 北方又...
来源标题:江南华南分散性强降雨天气持续 北方又将有降雨过程据中... -
武汉举行2024全国生态日宣传活动
8月15日,武汉市生态环境局2024年全国生态日宣传活动在沙湖公园举行... -
第十二届海峡青年节·两岸青年营地联欢...
8月13日至15日,第十二届海峡青年节·两岸青年营地联欢活动在福州琅... -
第十二届海峡青年节峰会在福建福州举办
8月15日,第十二届海峡青年节峰会在福建福州举办,两岸青年1100人参... -
南航境外首例婴儿担架运输顺利完成
8月10日中午,柬埔寨金边国际机场停机坪上,CZ8314航班静静地等待着... -
【有理有句·生态文明】“守好一库碧水...
-
格尔木庆海西州70周年暨大学生玉珠峰登...
2024年8月7日至8月14日,历时8天的格尔木“礼赞七十年 铸就新辉煌 -
艾索洛Eversolo数播产品荣获EISA 2024-...
作为欧洲乃全球最具权威性与影响力的影音消费电子产品评选活动,欧 -
河南牧润智能装备有限公司为饲料生产插...
河南牧润智能装备有限公司致力于饲料机械、牧草机械,仓储设备工程 -
赖廷阶书法屡次荣登世界影响力艺术舞台...
近年来,著名诗人、作家、多栖艺术家赖廷阶先生的书法作品迎来万众 -
已投2.6万亿元!中国城市更新加速度
中国城市发展迎来重要转折。近期,湖北17个市(州)的住房和城乡建设... -
江西分宜:小螺蛳“嗦”出大产业 激发...
品尝一份美味的螺蛳,再搭配上冰镇的啤酒,音乐声在耳边响起 ... -
何以中国·寻根辽宁丨红山文化:中华文...
泱泱中华从何而来,中华文明源起何处,中国为什么成为现在的中国?这... -
高质量发展调研行丨“低值”垃圾拉满新...
你知道什么是低值可回收物吗?外卖餐盒、奶茶杯、泡面桶、快递包装…... -
创新点串珠成链 产业化向绿而行——江...
来源标题:创新点串珠成链 产业化向绿而行——江苏省常州市以新能... -
声动中国丨与自然共生,同万物相融
生态兴则文明兴。近年来,我国做出的生态环境保护成就有目共睹。生... -
全国生态日|七里海和它的伙伴们
立秋刚过,天津七里海就迎来一场秋雨。雾气缭绕中,一只麋鹿正四处... -
全国生态日 | 中国湿地,连接世界
鸟类的迁飞线宛如跨越国界的空中纽带优雅地勾勒出生命的轨迹中国地... -
可可西里巡山日记|无人区生存挑战
可可西里平均海拔超过4600米,很多在平原地区看似稀松平常的事,想... -
【邂逅中国 爱上中国】法国留学生陆小...
编者按:我是老外,但不见外!在中国,有这样一群不见外的老外——他... -
大脑推理神经过程首次阐明
大脑如何推断两件事之间的关系?科学家通过实验任务对人类大脑活动进... -
硅光子芯片让“量子罗盘”更小更精确
美国桑迪亚国家实验室研究人员利用硅光子微芯片组件,执行了一种名... -
超冷原子传感技术成功检测太空环境变化
美国国家航空航天局的冷原子实验团队利用原子干涉仪等量子传感工具... -
顶尖运动员脑中的六大“秘密武器”
尽管2024年巴黎奥运会已落下帷幕,但顶尖运动员在比赛中努力突破自... -
磁共振成像可预测心力衰竭风险
心力衰竭是一种由心脏内部压力升高所导致的致命疾病。英国东英吉利... -
为什么人类喜欢水
在刚刚落下帷幕的巴黎奥运会上,多项水上运动比赛吸引了观众。在炎... -
抗炎饮食或能降低患痴呆症几率
瑞典科学家开展的一项新研究发现,抗炎饮食可降低人们罹患痴呆症的... -
江苏校企携手推动粮食流通与现代服务深...
近日,粮食流通与现代服务深度融合赋能新质生产力发展大会在南京财...