中国工程院院士沈昌祥:用主动免疫可信计算筑牢人工智能安全防线
北京青年报客户端 2024-04-12 14:38

4月11日,在CSOP 2024网络安全运营实战大会上,中国工程院院士沈昌祥作了题为《用主动免疫可信计算筑牢人工智能安全防线》的主旨演讲。针对人工智能的安全发展,沈院士提出要构筑安全可信人工智能新生态体系、构建主动免疫人工智能安全产业空间。

他指出,主动免疫可信计算是一种运算同时进行安全防护的新计算模式,以密码为基因抗体实施身份识别、状态度量、保密存储等功能,及时识别“自己”和“非己”成分,相当于为网络信息系统培育了免疫能力。在这一新模式基础上,他进一步阐释了可信计算的“二重”体系结构、“三重”防护框架,“六不”防护效果。

中关村实验室首席科学家云晓春在以《APT防御关键技术及应用探讨》为题的主旨演讲中表示,当前APT(高级持续性威胁)攻击呈现出数量多、技术能力强、高对抗、高隐蔽的特点,亟需打通数据壁垒,加强关键技术攻关,构建国家级的APT威胁情报库和防御平台。针对已知攻击检测难,未知攻击发现难、防范难的挑战,他提出了一种“APT 冰山防御技术架构”,结合样本养殖、多步攻击检测、“数字替身”等关键技术,可实现快速检测并防御已知攻击和未知攻击。

“以防火墙、IDS和杀毒软件为代表的安全防护‘老三样’已难以有效应对新的安全威胁,基础安全需要被重新‘定义’。”作为大会发起方之一,微步在线创始人兼CEO薛锋在会上表示,在网络空间里,“发现”是安全的核心能力,而非一味防护。以大数据、人工智能为基础,威胁情报和安全大模型构成了网络安全新的生产力,传统“老三样”正逐步向NDR、下一代网关和EDR演进,构成新基础安全。薛锋在会上进一步演示了微步“情报智脑XGPT”,自今年1月通过生成式人工智能备案以来,XGPT已实现多次能力迭代与升级,能实时关联100+数据源与8大分析引擎,精准知识问答与威胁分析,加快事件分析与处置,并全面开放至微步X安全情报社区,成为企业安全运营的得力助手。

随着数字化进程加快,企业的外部暴露面不断扩大,网络攻防技术运营的挑战也日益增加。在滴滴网络安全负责人刘潇锋看来,网络攻防技术运营是对防护资产持续性动态风险评估的过程。他在现场分享了滴滴基于XDR的攻防技术运营体系建设思路,实践过程中实现综合运营人效提升10倍。北京大学计算中心网络安全室主任周昌令分享了对自动化渗透技术的探索与思考。他表示,相比人工渗透测试依赖测试人员,覆盖范围有限,且测试结果不可控等缺点,自动化渗透测试基于人工智能技术,模拟复杂的攻击场景,可以有效地识别与评估潜在安全风险,不仅能降低技术门槛,还可以显著提升测试效率和广度,发展前景广阔,有望在未来得到广泛应用。

做好常态化安全运营是网络安全的关键,针对当下面临的挑战,不同行业的嘉宾分享了各自的实践经验。国家水利部信息中心原主任蔡阳从体系化建设夯实网络安全基础、算法模型驱动常态化运营、威胁情报提升实战化攻防三个层面分享了水利网络安全建设与运营实践。中交集团科学技术与数字化部总经理助理兼网络安全处处长刘学忠,介绍了该集团以资产管理、漏洞管理、威胁检测及处置为业务主线,设计构建的一体化网络安全防护平台,不仅实现了安全防护过程可见和规范化、大幅提升工作效率和质量,通过业务流程完善和风险评估能力提升,推动安全运营成熟度持续提升。

作为构建主动安全防御体系的关键要素,推动威胁情报融入日常安全运营成为当务之急。微步在线技术合伙人樊兴华在分享中指出,近两年0day及高危漏洞、勒索攻击爆发,企业安全运营重心从“威胁”向“风险”演进,而情报能⼒是实现⾼效⻛险发现及消除的关键。风险驱动下,企业需要全新的“安全情报”,以此来进行风险识别和分级运营。

来自支付机构的安全运营专家钱勤慎与福田汽车信息安全部高级经理张志强分别从大数据分析与AI大模型两个角度探讨了如何实现智慧安全运营。钱勤慎认为,未来的安全运营中心能够达到可视化、自动化、智能化管理要求,从而实现安全集中化管理、一体化监控与智能化防御的总体安全运营管理目标。张志强表示,未来安全运营的建设思路将向自动化、动态化、智能化的“主动运营”转变,结合大数据、云计算、AI大模型等技术,整合“技术-人员-流程”,实现“主动响应闭环,持续安全运营”,从而更加适合数字化转型中的敏捷安全要求。

文/北京青年报记者 温婧
编辑/田野

相关阅读
为智能汽车技术发展筑牢数据安全防线
证券日报 2024-11-13
如何防电诈?专家:可通过技术手段“防患于未然”
中国新闻网 2024-09-11
2024全球数字经济大会|齐向东:AI驱动安全有三大必要条件
北京青年报客户端 2024-07-03
人工智能引领网络安全变革潮流
经济参考报 2024-05-30
美英起诉与所谓“同中国政府有关”黑客组织 外交部:贼喊捉贼
北京青年报客户端 2024-03-26
微步在线披露自身安全GPT技术应用 可对威胁情报进行智能化归集汇总
北京青年报客户端 2023-05-26
360揭美国国安局全球网络攻击手法 外交部:美是头号黑客帝国 还以受害者形象误导国际社会
北京青年报客户端 2022-03-03
齐向东出席APEC工商领导人中国论坛:网络安全科技自立是必然选择
北京青年报客户端 2021-12-25
最新评论