瑞士金融科技公司Calvin Risk开发AI模型风险管理软件，定量评估和持续监控AI模型在商业用途中的风险 | 瑞士创新100强

图源Calvin Risk

钛媒体APP注：自2011年以来，瑞士连续13年全球创新指数排名第一，是全球重要的创新策源地，也是中国首个创新战略伙伴关系国，在创新发展和科技金融领域与中国具有极佳互补性。 由Venturelab主办的“瑞士创新100强”，汇聚了最佳“瑞士制造”的初创及成长期科技创新企业，是瑞士最具国际影响力的创新生态标杆。自2011年以来，该榜单每年在瑞士全国范围内评选出100家最具开创性和市场前景的瑞士创新企业和25家最具独角兽潜力的瑞士成长期企业，覆盖生命科学、工程机械、机器人、信息通信、低碳科技、食品科技等领域。 为了全方位展示和介绍瑞士最前沿的创新科技，钛媒体APP与Venturelab的中国授权合作方以明科技（Insight Tech）合作推出《瑞士创新100强》专题，全面展示瑞士先锋科创生态的全景。 本文为专栏第131期，介绍的Calvin Risk是2024年《瑞士创新100强》上榜企业，其致力于开发AI模型风险管理软件。

瑞士金融科技公司Calvin Risk 创立于2022年，其致力于开发AI模型风险管理软件。该软件可对AI模型算法进行风险评估和合规管理，帮助公司管理用于商用的AI模型组合，确保所用AI模型符合技术、道德与监管要求。

Calvin Risk 为苏黎世联邦理工学院的衍生公司，由 Julian Riebartsch 和 Syang Zhou共同创立。Julian Riebartsch为公司首席执行官，拥有苏黎世联邦理工学院理学硕士学位，曾在 Venture Capital与btov Partners工作，为欧洲新兴工业软件和硬件公司提供支持和融资，同时，Julian Riebartsch还是 Matterwave Ventures 的风险合伙人。Syang Zhou为公司首席技术官，拥有苏黎世联邦理工学院博士学位，为苏黎世联邦理工学院随机金融研究小组成员，在风险管理方面拥有丰富经验。

图源Forbes

AI模型的决策过程通常为“黑匣子”模式，需采用大量数据进行训练。若所选数据集存在系统性偏差，会导致AI算法在实际应用输出时产生偏颇风险，呈现意外结果，影响业务运营和企业声誉。在生成式AI越来越多地被集成于企业商业服务的情况下，这类风险产生的可能性日益升高。因此，AI开发人员必须确保AI模型在算法训练阶段不会出现偏差，并确保即便实际运行环境发生变化，模型依然能输出可靠的结果。此外，欧盟的人工智能法案对AI模型的技术、道德、安全性及合规提出了严格标准，这对AI模型使用及运行的评估及合规管理提出了更高要求。而当下，许多机构仍然依赖事后分析方法，缺乏结构化框架来解决AI安全性及合规问题。

图源Calvin Risk

Calvin Risk开发了全面的定量分析软件，可对公司用于商业用途的AI模型进行风险评估与自动管理。该软件可帮助公司创建透明的标准化框架来管理其AI模型组合，通过集成模型概览、风险自动评估及合规功能，实现AI模型风险的定量评估及实时监控，帮助企业满足监管要求并避免财务损失。

Calvin Risk 具备模型概览功能，可完整呈现模型信息。该功能通过API或应用程序接入模型后，可访问各模型的使用案例、部署状态、所有权及评估结果等信息，且能够详细查看历史运行记录，最终汇集模型信息及其风险评估结果，提升模型透明度。

Calvin Risk 具备AI模型风险自动评估功能。不同业务部门的AI模型开发人员会以不同方式和维度指标来对模型进行验证，造成验证结果参差。Calvin Risk能够为开发人员提供一致的、经业界验证的AI模型验证指标，该指标以行业数据为基础，通过与苏黎世联邦理工学院合作及广泛的研究和测试最终完成，涵盖了模型性能、稳健性、公平性、可解释性、可问责性和安全性等重要维度，可以全面、标准化的维度体系，简化AI模型验证过程，将验证时间从数月缩短至数周并确保评估一致性。同时，该软件还可量化AI模型的技术、道德和监管风险及其对公司业务可能造成的损失。软件通过对财务、声誉、法律、运营以及其他风险进行分类，针对每个业务案例创建AI模型风险画像并设置权重，在单个模型及整体模型层面对潜在风险及其原因进行分析，并通过计算风险概率量化潜在损失。

Calvin Risk还具备合规功能，能够根据监管标准合理地开发、部署和管理数据，识别和履行欧盟AI法案等框架下企业应遵守的义务，以可视化工作流的方式证明企业业务符合合规性要求。同时，软件还能够生成可用于审计的风险报告，可根据业务内容设置风险阈值，监测所有AI模型运行状况并及时发出风险警告，从而实现主动风险管理和合规性监控。

Calvin Risk的AI模型风险管理软件已经应用于保险、银行与交通领域。在保险领域，Calvin Risk与保险公司Aviva开展合作。在银行领域，Calvin Risk与Lloyds Bank进行了合作，协助其在符合审计规范的前提下，开发经过AI模型验证的安全的银行产品。在交通领域，Calvin Risk与Lufthansa签署了合作协议，软件将用于评估Lufthansa开发的AI 维护应用程序的法律合规性。未来，Calvin Risk将进一步拓展零售与电信行业的业务。Calvin Risk的软件产品被Hub France IA评为银行业顶级AI风险管理工具，并在Risk.net的2024年市场技术奖中荣获年度模型风险管理产品。

2024年11月，Calvin Risk完成了400万美元的种子轮融资，本轮投资由Join Capital 和seed + speed Ventures领投，资金将用于产品开发，扩展Calvin Risk的软件能力，以扩大其在欧洲的市场范围。

2024年《瑞士创新100强》中文版由以明科技（Insight Tech）荣誉发布。以明科技是《瑞士创新100强》的中国授权合作方，负责《瑞士创新100强》在中国的运营推广并协助榜单项目对华商业合作。作为中欧（瑞士）科技创新投资与产业化运营商，以明科技为瑞士创新和中国产业的双向合作提供投融资和商业拓展服务并开展股权投资业务。 获取2024年《瑞士创新100强》完整榜单及行业榜单，请访问以明科技公号或官网。