AI换脸冒充马斯克行骗 周鸿祎呼吁构建AI安全能力体系
北京青年报客户端 2022-06-25 10:56

“今年5月底,骗子通过利用Deepfake换脸技术,伪造了一系列以假乱真的马斯克谈话视频,谎称其创办了某个加密货币交易平台,每天可以带来30%的基础收益,这让马斯克不得不出来辟谣——这个例子可以充分说明,AI安全能力建设已刻不容缓。”6月24日,第六届世界智能大会在天津举办,360集团创始人周鸿祎出席大会并发表主题演讲。

微信图片_20220625112505.jpg

他指出,面对人工智能的各种复杂安全挑战,网络安全行业应当被重新定义,将计算机安全、网络安全升维到数字安全,才能跟得上人工智能行业的发展需求,才能跟得上国家的产业数字化发展要求,才能保障人们进入数字文明时代。

周鸿祎在演讲中指出,人工智能在不断发展的同时,也面临着七大安全挑战,包括硬件可能被攻击、软件存在漏洞、专用通信协议可以能被篡改、算法可以被欺骗、数据可以被污染、应用上可能危害人类利益、社会伦理上可能超出现有规范等诸多风险问题,甚至引发混乱与恐慌。

例如,今年2月底,一条乌克兰总统泽连斯基呼吁乌克兰士兵放下武器的 “视频”被广泛传播,后经泽连斯基本人辟谣证实,该视频是由Deepfake换脸技术伪造。前不久,一名谷歌研究员在与AI对话时“走火入魔”,不但自己被AI说服,相信其有自主意识,甚至还写了一篇长达21页的调查报告上交公司,试图让高层认可AI的人格。此外,如有“别有用心”的人通过给智能汽车输入“污染”过的训练样本,就可以把“禁止通行”的交通标志牌识别为“可以通行”,从而造成交通事故和人员伤亡。

“人工智能在数字化过程中扮演着至关重要的角色。”在周鸿祎看来,加快数字化发展已经上升为国家战略,产业数字化将是红海中的新蓝海。

他认为,产业数字化真正的价值是帮助很多传统企业,特别是制造业进行智能化改造升级,“人工智能则是推动产业数字化进入智能阶段的创新引擎,能够赋能智慧城市、数字政府、工业互联网、车联网等数字化场景实现智能化、自动化运转,比如说,未来数字城市里的智慧交通,既要有聪明的车,也要有智慧的路,车路协同才能真正重塑城市交通。”

“人工智能技术高速发展、带来安全新挑战的同时,也为解决数字安全风险提供了新的技术手段。”对于人工智能的风险与积极作用,周鸿祎认为需要辩证对待。

据他介绍,目前人工智能已经应用于数据分析、情报处理、智能防御等领域,在恶意代码检测、恶意流量分析、漏洞挖掘、僵尸网络检测、网络黑灰产检测等方面发挥着重要的作用。

以AI数据分析为例,借助人工智能,安全专家可以对多维度、海量、鲜活的安全大数据进行实时数据分析,以算力代替人力,提高海量安全事件的响应速度。

360一直高度重视人工智能安全,率先在行业进行布局,积极构建起人工智能安全能力体系。周鸿祎表示,360对自身积累的全球最大的安全大数据进行AI分析,形成了360云端安全大脑的原型,为行业或企业提供强大的数据和情报支撑,助力对网络威胁进行有效分析、溯源。

文/北京青年报记者 温婧
编辑/樊宏伟

相关阅读
我国生成式AI大模型突破180个 人工智能激发更多网络安全新需求
中国证券网 2024-08-01
周鸿祎张朝阳十年之约:下一个风口在哪里?
​第一财经 2024-07-09
周鸿祎再谈Sora:其突破在于实现了机器对世界的感知、观察和交互的能力
第一财经 2024-02-22
AI大模型如何共建智能网联新生态?业界高层齐聚重庆探讨
中国新闻网 2023-09-05
AI替身“周鸿祎”亮相黑马AIGC峰会:中国不会只有一个GPT
北京青年报客户端 2023-05-27
周鸿祎:国内大模型如果不经过两年模仿 上来就说超越 那叫吹牛
财联社 2023-05-08
全国政协委员周鸿祎:人工智能大模型技术的巨大跃升将掀起一场新的工业革命
北京青年报客户端 2023-03-05
张朝阳、周鸿祎《星空下的对话》:不要让科学怪兽从道德牢笼中走出来
北京青年报客户端 2023-02-13
最新评论