央行推进金融科技监管创新 打开算法黑箱

经济观察网 胡群/文 人民银行在科技领域监管布局渐趋成熟。

4月19日，人民银行召开2021年科技工作电视会议，会议认为，2020年以来，人民银行科技条线坚决贯彻落实党中央、国务院决策部署，迎难而上，担当作为，科技体制机制改革落地实施，金融业网络安全保障能力持续提升，金融信息技术创新应用稳步推进，金融科技发展与监管有明显进步，金融标准体系建设迈上新台阶，各项工作取得显著成绩。

“金融业标准化作为金融业健康发展的技术底座，是金融业治理体系和治理能力现代化的基础性制度，是支撑高标准金融市场体系建设的关键要素。”近日，中国人民银行副行长、全国金融标准化技术委员会主任委员范一飞在最新一期的《金融电子化》上发表文章称，“十四五”时期，金融标准化工作更要适应新发展格局，围绕金融市场基础制度、要素配置、市场环境、市场开放、市场监管等高标准金融市场体系建设关键领域，提供高质量金融标准支持。尤其要强化金融标准顶层设计，夯实金融市场体系基础制度。

科技越进步，风险越小？

中国金融业随着科技进步已发生巨大变革。金融与科技结合，不仅颠覆了银行、保险、证券和资管等细分领域原有的商业模式与逻辑，更重构了传统金融机构的战略、运营、产品服务、渠道和风控等各个环节。与此同时，金融科技企业利用数字化科技创新金融服务方式、丰富金融服务场景、优化金融服务体验，也经历了从与传统金融机构抢夺市场，到为传统金融机构赋能的转变。

普华永道发布的《中国金融科技调研2020》指出，科技创新既是金融业发展的动力，也成为了新的风险来源。本次调研的受访者普遍认为，政府应对金融科技进行适当监管，避免野蛮生长和套利创新。 其中，最需要做的就是规范个人隐私和数据安全。

金融监管机构对于金融科技的监管正在完善，一方面通过“监管沙盒”继续鼓励创新试点，另一方面出台多项新规，引导传统金融机构与金融科技公司规范创新，保障消费者权益，确保市场公平竞争。

人民银行发布的《中国金融稳定报告2020》显示，2019年12月，北京市率先启动金融科技创新监管试点，2020年，在上海市、成渝地区、粤港澳大湾区、河北雄安新区、杭州市、苏州市等地扩大试点。截至2020年8月末，已推出60个试点项目，既有商业银行、清算机构等持牌金融机构牵头申请，也有电信运营商、金融科技公司等科技企业直接申报。

今年3月26日，人民银行发布并实施《人工智能算法金融应用评价规范》（下文简称《规范》），这是一部由人民银行提出，全国金融标准化技术委员会归口的文件，规定了人工智能算法在金融领域应用的基本要求、评价方法和判定标准，适用于开展人工智能算法金融应用的金融机构、算法提供商及第三方安全评估机构等。该文件从安全性、可解释性、精准性和性能方面开展AI算法评价，适用对象分为资金类场景和非资金类场景。

“央行出台《规范》，体现的是监管机关对于技术为金融所用实质仍是金融且同步必须纳入金融风险管控的监管思路。可以预见的是，在这些行业标准的具体执行和监管过程中，除了查阅材料、查看系统、访谈人员、攻击测试、查看算法等评价方法之外，机器可读标准等智能化嵌入式监管也将随之得到应用和推动，这客观上也将推动商业银行智能化经营和管理。”广发银行网络金融部总经理关铁军认为，《规范》对人工智能算法在金融领域应用做出了明确要求，对应资金类场景和非资金类场景，分别从是否可用（安全性）、是否适用（可解释）、应用效果是否达到目标预期（算法精准性和性能）等三个方面展开测度和评价，覆盖了目标函数算法表达能力、训练数据防窃取、防恶意模仿、防药饵等攻击、算法可追溯性等各具体方面或环节。为此，金融机构或算法提供商均需在算法技术管理、风控评价、模型仓库、账号及日志管理、算法监控、性能表现等方面做出相应业务及风控管理安排，并从经营角度对应用部署人工智能算法的成本、性能、精准性等作出管理。

直面风险

近年，随着金融科技与金融业务深度融合，金融产品创新层出不穷，不断丰富金融市场供给，已对金融市场健康发展形成挑战，甚至已引发多种风险。新型风险具有传导速度更快、波及范围更大、 影响程度更深的特点，亟需采用与之相适应的新型监管模式和手段。范一飞在上述文中指出，由于标准供给不能充分满足金融领域新业务模式、新技术应用、新产品服务快速发展要求，不能有效适应金融业转型升级的新局面，需要加快先进金融标准制修订，助力深化金融供给侧结构性改革。

“金融业风险防控是一个永恒的主题，人工智能技术存在的潜在风险如果不能及时识别、控制，人工智能技术就是一把‘达摩克利斯之剑’。”索信达资深数据科学家、AI创新中心总监邵平表示，《规范》的出台为人工智能技术在金融行业的规范应用增加了一道有力保障，推动人工智能技术在金融行业更广泛应用和更加健康、安全发展。另外这次规范的标准非常专业化和技术化，清楚的列出了人工智能技术应用的基础条件和使用人工智能技术的应用标准，规避人工智能技术的不适当使用可能给行业带来的风险，也为金融机构和金融科技公司指明了清晰的技术创新方向和目标。

一直以来，诸如深度神经网络算法或集成学习算法等，由于模型内部结构复杂，其运作机制就像一个黑箱，很难用人类可以理解的语言解释模型输入特征与模型结果的影响关系，被称为黑箱算法。由于其结果在准确性、安全性、公平性等方面都存在很大不可靠性，尤其是在自动驾驶、金融风控、医疗等高风险领域，以及对安全和公平性有较高要求的业务场景，都不适合使用黑盒模型。人们不仅希望模型给出正确的预测结果，还希望模型能给出判断的原因，所谓知其然更要知其所以然，在不清楚黑盒模型运作原理的情况下，大家是不敢轻易仅凭模型的结果就做出决策的。

《规范》指出，AI算法安全性为算法在金融行业应用提供安全保障，是决定AI算法是否可用的基础，只有在满足安全性要求的前提下才能在金融领域开展应用。AI算法可解释性是判断算法是否适用的重要依据，可解释性越高算法内在逻辑、技术实现路径、决策过程、预期目标越明晰，算法更易于被理解、匹配、应用和管理。AI算法精准性和性能是评价算法应用效果及目标预期的主要因素，一般而言精准性和性能越高算法应用效果越好。

邵平认为，《规范》重大的亮点之一，即新增了人工智能技术安全性和可解释性的评价规范，并且摆在了很重要的位置。首先安全性是第一考虑的要素，是决定算法是否可用的基础；第二位是可解释性，是决定模型是否适用的重要依据。这两个前提条件为人工智能技术的应用起到了保驾护航的作用，规避了人工智能技术的滥用和不安全使用，纠正了之前模型好坏只用精度来衡量的偏颇，也有效防范了人工智能技术应用过程中很多可能存在的风险。

中国人民银行金融消费权益保护局课题组发布的《大型互联网平台消费者金融信息保护问题研究》一文中指出，收集的“必要信息”范围过宽，大型互联网平台对信息收集范围掌握绝对“话语权”。在消费者金融信息收集、使用范围方面，《消费者权益保护法》与《网络安全法》都规定了“收集、使用（消费者）个人信息，应当遵循合法、正当、必要的原则”，目的是要求经营者在最小范围内收集消费者个人信息，避免过度收集行为危害消费者个人信息安全。

针对当前部分金融科技公司算法过度采集用户信息，以及保障数据隐私，避免用户敏感信息泄露等，《规范》要求，设计文档制定了反馈信息的要求，在满足用户需求的前提下，遵循最小够用的原则，避免反馈信息过多，造成逆向攻击；系统采取与设计文档一致的安全防护措施，保障训练数据安全，防止用户敏感信息泄露。

马上消费的金融科技专家表示，《规范》中明确将算法安全性纳入考量，是一项工业界体悟的前瞻式评价标准，其对于遏制网络犯罪专业化趋势、促进行业良性有序发展，有里程碑的意义。近期，马上消费也在积极响应国家号召，深度参与公安部、信通院等国家机关机构倡议发起的“可信人脸”相关计划，其提出的多模态生物核验与防伪算法解决方案可以有效抵御网络中充斥的人脸伪冒、活体攻击等安全风险行为。

构建新金融秩序

人工智能算法金融对金融业影响有多大？

普华永道发布的《中国金融科技调研2020》显示，在问及银行业未来五年以“大数据分析能力和智能模型算法赋能业务端营销及风控”的可能性有多大?有67%的人认为很有可能。

《规范》已于3月26日实施，对金融行业将产生怎样的影响？

“在人工智能领域如火如荼发展的当前，《规范》的发布与实施正好有效弥补了人工智能领域在规范和标准上的空白。”中信银行信用卡中心方面表示，之前信用卡在模型应用方面主要是基于《商业银行资本管理办法》和《商业银行互联网贷款管理暂行办法》执行，规范化研发、评审、实施，而针对大数据、特别是AI的新特点，从抽样数据到全量数据，从结构化数据到混杂数据（文本、语音、图像等等），从关注因果关系到相关关系等方面的特点，需要有新的办法针对人工智能的新特点进行管理约束。现在信用卡中心将在保障安全性的基础上之上，积极开展人工智能应用项目，包括传统机器学习、集成学习和深度学习的应用均有开展。在项目开展过程中，除了充分结合人工智能的高精度和传统评分卡的高稳定性、可解释性的特点，融会贯通，形成有中信银行信用卡人工智能应用的特点，并且在各种应用的开展中均重点强调算法、应用、系统的自主可控，夯实基础能力。

对于算法提供商而言，邵平认为，金融机构和金融科技服务厂商需要在规范的前提下研发、创新适合金融业务场景使用的安全、可解释的人工智能算法，这对金融科技公司的人工智能技术服务能力提出了更高的要求，但同时也是推动科技公司进行技术创新变革的动力。

据邵平介绍，索信达在可解释机器学习领域探索较早，具有成熟的研发能力与经验。早在2018年，索信达就与香港大学成立联合实验室，开展可解释机器学习方面的研究。经过多年深耕，索信达已具有自主知识产权的系列可解释机器学习算法及产品，并积累了丰富的金融业务场景实践案例。索信达的可解释机器学习算法及产品已在金融风控信用评级、用户流失预警、产品营销推荐等多个场景应用。

版权声明：以上内容为《经济观察报》社原创作品，版权归《经济观察报》社所有。未经《经济观察报》社授权，严禁转载或镜像，否则将依法追究相关行为主体的法律责任。版权合作请致电：【010-60910566-1260】。

胡群经济观察报部门主任

金融市场研究院主任
主要关注银行、信托、fintech领域市场动态。