“今年5月底，骗子通过利用Deepfake换脸技术，伪造了一系列以假乱真的马斯克谈话视频，谎称其创办了某个加密货币交易平台，每天可以带来30%的基础收益，这让马斯克不得不出来辟谣——这个例子可以充分说明，AI安全能力建设已刻不容缓。”6月24日，第六届世界智能大会在天津举办，360集团创始人周鸿祎出席大会并发表主题演讲。

他指出，面对人工智能的各种复杂安全挑战，网络安全行业应当被重新定义，将计算机安全、网络安全升维到数字安全，才能跟得上人工智能行业的发展需求，才能跟得上国家的产业数字化发展要求，才能保障人们进入数字文明时代。

周鸿祎在演讲中指出，人工智能在不断发展的同时，也面临着七大安全挑战，包括硬件可能被攻击、软件存在漏洞、专用通信协议可以能被篡改、算法可以被欺骗、数据可以被污染、应用上可能危害人类利益、社会伦理上可能超出现有规范等诸多风险问题，甚至引发混乱与恐慌。

例如，今年2月底，一条乌克兰总统泽连斯基呼吁乌克兰士兵放下武器的 “视频”被广泛传播，后经泽连斯基本人辟谣证实，该视频是由Deepfake换脸技术伪造。前不久，一名谷歌研究员在与AI对话时“走火入魔”，不但自己被AI说服，相信其有自主意识，甚至还写了一篇长达21页的调查报告上交公司,试图让高层认可AI的人格。此外，如有“别有用心”的人通过给智能汽车输入“污染”过的训练样本，就可以把“禁止通行”的交通标志牌识别为“可以通行”，从而造成交通事故和人员伤亡。

“人工智能在数字化过程中扮演着至关重要的角色。”在周鸿祎看来，加快数字化发展已经上升为国家战略，产业数字化将是红海中的新蓝海。

他认为，产业数字化真正的价值是帮助很多传统企业，特别是制造业进行智能化改造升级，“人工智能则是推动产业数字化进入智能阶段的创新引擎，能够赋能智慧城市、数字政府、工业互联网、车联网等数字化场景实现智能化、自动化运转，比如说，未来数字城市里的智慧交通，既要有聪明的车，也要有智慧的路，车路协同才能真正重塑城市交通。”

“人工智能技术高速发展、带来安全新挑战的同时，也为解决数字安全风险提供了新的技术手段。”对于人工智能的风险与积极作用，周鸿祎认为需要辩证对待。

据他介绍，目前人工智能已经应用于数据分析、情报处理、智能防御等领域，在恶意代码检测、恶意流量分析、漏洞挖掘、僵尸网络检测、网络黑灰产检测等方面发挥着重要的作用。

以AI数据分析为例，借助人工智能，安全专家可以对多维度、海量、鲜活的安全大数据进行实时数据分析，以算力代替人力，提高海量安全事件的响应速度。

360一直高度重视人工智能安全，率先在行业进行布局，积极构建起人工智能安全能力体系。周鸿祎表示，360对自身积累的全球最大的安全大数据进行AI分析，形成了360云端安全大脑的原型，为行业或企业提供强大的数据和情报支撑，助力对网络威胁进行有效分析、溯源。

文/北京青年报记者 温婧
编辑/樊宏伟