10月13日,第38次全国计算机安全学术交流会在长沙成功举办。会议以“夯实网络安全防线,构建中国式现代化网络强国”为主题,由公安部网络安全保卫局指导,中国计算机学会(以下简称CCF)主办,CCF计算机安全专业委员会等承办。CCF计算机安全专业委员会常务委员、天融信科技集团董事长兼CEO李雪莹博士受邀出席大会主论坛并发表主题演讲,探讨人工智能发展给网络安全领域带来的机遇与挑战。
人工智能是新一轮科技革命和产业变革的重要驱动力量,近年来,我国人工智能产业在技术创新、产业生态、融合应用等方面取得积极进展。中国信通院测算,2022年我国人工智能核心产业规模达5080亿元,同比增长18%,企业数量接近4000家,国内人工智能已形成完整的产业体系,成为新的增长引擎。随着人工智能产业的快速发展,人工智能与网络安全的有机融合已成为网络安全行业发展的新挑战与新方向。
AI融合 安全赋能
CCF计算机安全专业委员会常务委员、天融信科技集团董事长兼CEO 李雪莹博士
CCF计算机安全专业委员会常务委员、天融信科技集团董事长兼CEO李雪莹博士受邀出席主论坛并发表《AI新突破 网安新篇章》主题演讲。她表示,人工智能经历三次大浪潮,从逻辑推理、专家系统到深度学习。生成式人工智能(AIGC)在前两次发展浪潮中开始萌芽,在第三次发展浪潮中从积累阶段迈入飞跃阶段,各类大模型相继问世,也为网络安全防护技术变革提供了新的思路。
● AI与网络安全
在大模型大“火”之前,人工智能已经具备一定的预测、分析、抽取、生成和决策等能力,可应用于网络安全领域中的威胁检测、恶意流量检测、威胁情报分析、行为分析、安全知识生产、数据分类分级等业务场景。但由于数据标注成本高、单体算力有限以及模型生成和决策能力不足等问题,人工智能赋能网络安全仍存在局限性。
● 大模型带来AI新突破
大模型的出现与发展带来了新的突破与转变。AI模型构建与训练实现了新的突破,以模型为中心的AI逐步向以数据为中心的AI进行转变。相较于传统的小模型,大模型通常采用更先进的架构,训练并微调了超大规模模型参数,使得大模型能够更好地理解和处理上下文信息,具备更强的预测、分析、抽取、生成和决策能力。同时,大模型的发展也带动了AIGC学习能力的突破,AIGC正在使生产模式发生转变。在增强检测防护、提升交付能力、助力安全运营和加速安全智能化等方面,实现了对网络安全业务的“提质、增效”,为网络安全领域带来了新的发展机遇。
● AI新突破,网安新篇章
人工智能赋能网络安全的同时,也从“AI自身风险”及“AI恶意利用风险”两个方面带来了新的挑战。“AI自身风险”涉及模型构建和运行阶段,在这两个阶段中会引入系统风险、内容风险、提示风险、合规风险4类风险;AI加持敌手之后,一方面降低了攻击技术门槛,另一方面不断提升攻击效率,使得我们面临的安全风险倍增。面对风险,需要体系化的解决方案,从威胁建模分析、AI资产扫描、安全风险评估、威胁检测防御等方面建立人工智能安全防护体系。
深耕网安 载誉而归
大会期间同步颁发了第38次年会特别贡献奖,天融信充分发挥带头作用,积极为中国计算机安全领域发展作出贡献,全面支撑计算机学会各项工作的开展,荣获第38次全国计算机安全学术交流会特别贡献奖。
天融信作为CCF会员单位,牵头发起成立了CCF计算机安全专委会车联网安全工作组,天融信李雪莹博士作为CCF计算机安全专委会常委及车联网安全工作组组长,带领工作组通过搭建行业交流平台,协同产业链各方,共同推动智能网联汽车产业安全生态体系构建。此次荣获“特别贡献奖”是对天融信及李雪莹博士为CCF发展及本次年会成功召开献智献策的肯定,天融信也将一如既往支持CCF的各项工作,共同携手推动计算机安全发展,构筑网空安全新格局。
TOPSEC
人工智能新突破带来了新的风险与挑战,同时也为网络安全领域带来了新的发展与机遇。作为国内率先开展人工智能技术研究的网络安全企业,天融信将深度探索人工智能大模型技术,以“提质增效”为目标,积极推进人工智能技术在安全领域的应用实践,助力人工智能与网络安全的快速、健康融合发展,书写网络安全领域新篇章。