“倡议慎用ChatGPT”背后:金融机构面临什么风险?
中新经纬 2023-04-12 20:44

ChatGPT引发的合规性问题正成为业界关注的焦点。

11日,国家互联网信息办公室(下称网信办)发布通知,就《生成式人工智能服务管理办法(征求意见稿)》(下称《意见征求稿》)向社会公开征求意见。

近日,中国支付清算协会也发布了《关于支付行业从业人员谨慎使用ChatGPT等工具的倡议》。

国内不少金融机构已在试水布局生成式人工智能。业内人士认为,金融机构使用ChatGPT等工具,应先进行可控范围的评估,同时提升数据保护意识,加强对客户的信息保护。

为生成式人工智能立规矩

“中国支付清算协会向行业发出倡议正当其时,对整个金融行业和从业人员都是一次提醒,具有较强的针对性。”招联首席研究员董希淼对中新经纬说。

中国支付清算协会表示,近期,ChatGPT等工具引起各方广泛关注,已有部分企业员工使用ChatGPT等工具开展工作。但是,此类智能化工具已暴露出跨境数据泄露等风险。为有效应对风险、保护客户隐私、维护数据安全,提升支付清算行业的数据安全管理水平,根据有关法律规定,中国支付清算协会向行业发出倡议。

“从金融安全的角度看,特别是要上传隐私类数据时,要非常慎重。”清华大学新闻学院元宇宙文化实验室主任、教授沈阳对中新经纬表示,最近ChatGPT在多个国家已经被警示或者被禁用,日本也在和Open AI进行讨论,要强化对隐私的保护。ChatGPT本身有隐私泄露的风险、数据安全的风险、价值观偏见的风险、还有环保方面的压力。

一位支付机构的从业人员在接受中新经纬采访时指出,ChatGPT能够极大地提高工作效率,但对于金融、支付等严监管行业来说,其带来的数据泄露、虚假信息、知识产权合规等风险不容忽视。

在谈到数据泄露和安全问题时,博通分析金融行业资深分析师王蓬博在接受中新经纬采访时强调,金融行业对于个人信息和相关的商业数据特别敏感,更应该注意这方面的问题。

王蓬博分析称,ChatGPT是一个人工智能技术驱动的自然语言处理工具,需要对数据库不断更新,运行逻辑是通过大量的文本收集、数据训练回答客户问题,而金融从业者若想使用ChatGPT则需要添加内容数据做训练,需要经过数据不断填充才能进化,就一定会存在金融数据隐私及安全问题,即使用户是无意识的行为,也非常有可能造成个人信息和数据的泄露。个人信息的收集、使用和传输都面临着安全挑战。

金融数据跨境风险也是业内关注的焦点。中国社会科学院金融研究所金融科技研究室主任尹振涛称,“支付机构其实拥有大量的用户信息和敏感信息,以及涉及国家安全的重要数据,包括支付数据,如果不加强管理,部分信息上传至境外服务器,其实是非常大的隐私泄露事件。”

中国人民大学国际货币研究所研究员、独立国际策略研究员陈佳对中新经纬分析称,境外API与中国支付行业在数据海关问题上的风险漏洞尚未破题。中国支付行业经过多年来的发展积累了大量客户群体的核心数据,包括个人信息、产行业信息、支付信息,并在依法合规获得渠道授权条件下得以接入国家金融数据库,这些数据的物理地址都在境内且接受数据和算力海关的监管。

“相比之下,包括ChatGPT在内的几乎全部海外API开发工具的服务器、数据库和算力中心都在境外。”陈佳指出,如果中资支付机构过度依赖这类API,几乎无法避免商业数据甚至客户隐私信息跨境出关的问题。由于API每一次调用不知不觉间可能涉及天量隐私数据,支付行业机构将防不胜防,监管技术亦将短期内高度承压。因此清算协会提出谨慎使用是立足当前行业发展实际的审慎之举。

金融机构应加强信息保护

在王蓬博看来,金融机构要想使用类似的产品,起码先进行可控范围的评估,做好预防措施以后再进行应用。预计在数据安全相关法律法规的政策框架范围内,未来有可能出台相关补充监管政策,比如数据分级保护制度、数据跨境审核机制等等。

中央财经大学证券期货研究所研究员、内蒙古银行研究发展部总经理杨海平在接受中新经纬采访时建议,监管部门对金融机构围绕ChatGPT等工具的业务应用进行充分的沙箱测试,结合测试结果,以金融科技伦理规范、数据治理规范、金融安全等考量为依据,形成监管意见,并采取下一步的监管行动。

董希淼指出,对金融机构而言,下一步应从三个方面加强客户信息保护:第一,在思想上,要高度重视客户信息保护。应将保护个人信息的理念内化于银行血液中,以最严格的标准和最严密的措施确保客户信息安全。第二,在管理上,应建立信息数据库分级授权管理制度。根据个人信息的重要程度、业务需要、敏感程度等,实行分级管理。在个人信息处理过程中,应在技术上对客户信息复制、查询有硬约束,比如建立分级审批、双人控制等要求。第三,在机制上,加强金融信息安全保护的宣传教育。一方面,应开展员工内部培训,在工作中强化对用户信息的保护意识;另一方面,应当未雨绸缪,将加强信息保护等融入消费者教育内容,提高消费者金融素养和自我保护能力。

专家呼吁实现自主可控的大语言模型

尽管生成式人工智能在使用上还存在一定风险,但中新经纬注意到,ChatGPT风起,一些金融机构也已先行布局或“放言”要使用这类人工智能技术,涉及领域包括智能客服、投研、投顾、量化交易、风险管理等。在多家券商2022年度报告或业绩说明会上,人工智能+金融既是提及的未来发展方向,也是投资者们提问的话题之一。

近日,东方财富董事长其实在业绩说明会上回答投资者提问时表示,已经陆续研发了东方财富金融数据AI智能化生产平台、多媒体智能资讯及互动平台系统等多个人工智能相关项目,并在公司部分产品及服务中进行了具体应用。

银行方面,在工商银行2022年业绩会上,工商银行副行长张文武表示,对于人工智能的研发应用,工商银行一直高度重视。从技术实力看,工商银行已经建成了自主可控、功能完备的企业级人工智能平台。从研发应用看,工商银行一直在探索适合金融业的大规模应用,近期与头部科技机构合作,在国内同业中率先推出人工智能金融行业通用模型,初步探索出超大规模通用模型应用于金融行业的实践。

百信银行最近则上线了首个3D数字营业厅,百信银行行长李如东认为,未来3-5年,“AIGC+数字人”将成为服务用户的主流形态,内容生产力和精准营销能力大幅提升,陪伴式的用户服务将成为标配。

险企方面,中国太保在2022年度报告中也提到,将基于大数据基础和技术全面加快经营管理的数字化转型步伐,尤其加大ChatGPT等人工智能前沿创新应用落地。

“ChatGPT及类ChatGPT产品在金融业应用场景丰富,如果符合风控和合规要求,将在满足客户需求、提升风控能力、降低经营成本等方面发挥积极作用,应用前景十分广阔。”董希淼表示,金融机构应高度关注人工智能等前沿技术和应用,以核心客户需求为导向,适时加大前瞻性投入和布局,持续提高金融科技发展水平,加快推进和深化数字化转型,不断提高客户服务能力和客户体验,提升为实体经济服务质效。

《意见征求稿》指出,国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。

沈阳呼吁,中国自己的ChatGPT产品和大模型本地化部署是一个刻不容缓的现实需求,需要加大投入力量,快速缩小和国外的技术差距,实现自主可控的大语言模型,这是当下要高度重视的问题。

陈佳认为,未来中资API一旦破题,将实现科技伦理与理论创新,科技工具与产业链融合,科技监管与行业自律创新的全面配合。在结合中国一贯坚持从严监管、科技向善、自主创新的原则,支付行业在与中资API合作过程中,就可以规避新一代人工智能超速发展引发的科技伦理、监管缺位和发展超速的系统性问题,另一方面亦有利于中国金融科技和支付行业以我为主厚积薄发,实现不超速不失速的平衡发展,更好的将科技成果服务于人民群众。

编辑/樊宏伟

相关阅读
恶劣!恶意投诉敲诈金融机构,团伙作案450余起...警方出手,打击金融黑产
券商中国 2023-11-12
金融机构频遭恶意投诉 多方合力打击金融黑产
证券时报 2023-11-09
摩根士丹利的“ChatGPT”即将上线 华尔街迎来颠覆性力量?
财联社 2023-09-08
服贸会时间|金融机构“卷”起AI:何时才能真应用?
中新经纬 2023-09-06
200余家金融机构服贸会上秀“黑科技”
北京青年报客户端 2023-09-03
ChatGPT访问量增速下滑引担忧 专家提醒警惕泡沫化风险
证券日报 2023-07-05
ChatGPT类产品开启新时代:这一行业正在被悄悄重塑……
财联社 2023-04-24
互联网券商正抢先“上车”ChatGPT!ChatGPT已走入金融科技“凡间”
财联社 2023-04-16
最新评论