4月26日，在2024中关村论坛年会上，奇安信科技集团董事长齐向东在接受北京青年报等记者的专访时表示，数字经济和人工智能时代，新技术的广泛应用为人们带来便利的同时，网络安全事故也在不断激增，比如人工智能就降低了网络攻击门槛。“人工智能带来的安全难题，还是要用人工智能来解决”，他表示。

以ChatGPT、Sora为代表的生成式人工智能技术可以快速生成钓鱼邮件、编写恶意软件与代码等，导致攻击数量爆发式增长，AI欺诈事件频繁发生。一些不法分子利用人工智能技术，通过恶意剪辑、换脸变声、搭建虚假‘镜头环境’等手段，冒用身份混淆视听，进行网络诈骗，让受害人防不胜防。

“生成式人工智能可以快速生成钓鱼邮件、编写恶意软件与代码等，攻击数量增加。数据显示，ChatGPT等生成式人工智能造成网络钓鱼邮件攻击增长了135%。不法分子还能利用“深度伪造”换脸变声、伪造视频；还会在与用户对话交互的过程中获取用户数据，造成了数据非法获取、数据泄露及恶意滥用等数据安全问题”，齐向东表示。

在AI恶意利用方面，人工智能大幅降低了网络攻击门槛，不懂代码、不懂技术的普通人也能成为黑客，将扩大网络攻击数量。“专业化的黑客组织可能利用人工智能工具对网络攻击进行改造和升级，比如，利用AI大模型制作恶意软件、生成用于规避杀毒软件检测的代码等，网络攻击能力将出现跃升”，齐向东表示。

与此同时，AI武器化趋势显现。在人工智能技术的加持下，未来的战争可能会变得更加自动化。人工智能可被用在“机器人杀手”等致命性自主武器系统 上，通过自主识别攻击目标、远程自动化操作等，隐藏攻击者来源、建立对抗优势，可以执行军事任务，而不需要人类的干预。

“人工智能带来的安全难题，还是要用人工智能来解决。一方面，我们要用好‘人工智能＋安全’，不断提升安全防护水平”，齐向东认为，“另一方面，还要借助‘人工智能＋安全‘，护航大模型全生命周期的安全性、可靠性，让千行百业更放心的向人工智能要生产力。”

比如，奇安信创新打造的AI安全整体应对方案，可以帮助政企机构看清AI安全的全貌，提前洞察风险并采取应对措施，有效解决大模型带来的数据安全、模型安全，以及内容安全、AI伦理等各类风险。

齐向东介绍说，网络安全市场有很大增长空间。我国的经济规模和美国大体相近，是美国的2/3。公开数据显示2023年，中国GDP约为17.8万亿美元，美国名义GDP预估27.37万亿美元。而我们的网络安全产业规模是美国规模的1/7。2022年，中国网络安全产业规模约为633亿元，美国为646亿美元，“所以相比来说，我们的网络安全产业还有很大的发展空间。”

“从前景来看，网络安全市场发展长期向好的趋势不会变。以人工智能为核心的新技术，正在解放千行百业的生产力。数字化、智能化场景也变得越来越丰富，个性化的网络安全需求激增。未来借助‘人工智能＋’行动的开展，网络安全市场将迎来新的增长引擎，拥有更多创新发展的机会”，齐向东说。

文/北京青年报记者 温婧
编辑/樊宏伟