电信诈骗咋防范?大模型有何风险?

9月9日，在2024年国家网络安全宣传周网络安全技术高峰论坛主论坛暨粤港澳大湾区网络安全大会上，中国工程院院士方滨兴就电信诈骗、大模型风险、数据跨境流动安全性等问题分享他的观点。

问：近年来，电信诈骗犯罪层出不穷，如何在事前预防阶段解决电信诈骗，防患于未然?

方滨兴：预防电信诈骗，我们可以通过宣传、管理、技术三个手段。首先，加强对公众网络安全教育的宣传力度，提高民众的防范意识和识别能力，这是我们一直在做的。其次，管理就是通过公安部门的雷霆手段震慑打击不法分子。再者，就是通过技术手段进行预警防控。

现在有些人刚接到诈骗电话，马上就有另一个电话打过来，说前面那个电话可能是诈骗电话，要小心。为什么这么快就有预警电话?这里面就有技术手段。现在还有一些技术能够提前发现电信诈骗。这背后的原理是不法分子实施电信诈骗时可能要经历很多来回，不是一次成功的，这就给技术追踪留出了时间，只要市民及时报警，就有相关工作人员跟进。更广泛的技术联动是，如果有市民接到诈骗电话，可以预警这位市民的银行账号可能存在风险，一旦这个账号发生转钱的行为，可以进行保护性冻结，联系家属再确认一下。

问：人工智能大模型的快速演进给网络安全带来哪些挑战?如何用人工智能大模型赋能网络安全建设?

方滨兴：一般来说，我们会从四个层面讨论新技术的安全性。前两个层面是新技术的AB面。以人工智能大模型为例，它能赋能攻击，比如AI换脸成为现在视频诈骗的新技术手段。赋能防御则是更多的，比如现在研判攻击离不开人工智能大模型。第三个层面是内生安全问题，比如对抗样本攻击就可能暴露人工智能大模型自身存在的脆弱性。第四个层面是衍生安全问题，比如人工智能大模型被利用或不恰当使用引发的事件。

我建议用外置手段给人工智能大模型做二次防范。比如企业里有大量敏感信息，当不同员工去获取经大模型输出的信息时，可以根据员工管理权限，限制其对敏感数据的访问程度。

问：目前我国正在推动数据跨境流动，从技术层面如何保障数据跨境流动的安全性?

方滨兴：数据跨境流动的安全性保障需要法律法规和技术手段的双重支持。首先数据跨境流动是受法律法规约束的。一个比较简单方法就是发布负面清单，明确禁止跨境流动的数据类型。另一个就是用技术手段解决，我把它叫作“数据不动程序动”。什么意思呢?就是在数据不离开本地的情况下，通过程序处理数据，并将处理结果进行跨境传输，实现隐私保护与数据流动共存的最优目标。比如，一名内地人去香港创业需要贷款，香港方面要调查这个人有没有资质、过往的借贷历史。但这些数据都在内地，涉及个人隐私信息，不允许跨境流动。由于香港那边是需要了解这个人的贷款偿还能力，那么可以在一个可信的执行环境中运算分析出这个人的信誉数值，这个数值的流动就是安全合规的。

标签：