(原标题:全国首个大模型攻防赛启动线上报名)
近日,由重庆蚂蚁消费金融有限公司(下简称“蚂蚁消金”)联合中国图象图形学学会、蚂蚁集团及云安全联盟(CSA)大中华区等多家机构共同发起的“全球AI攻防挑战赛”正式启动线上报名。这是我国首个面向大模型攻防主题的科技赛事,旨在探索和应对大模型在实际应用中可能面临的攻防挑战。
本次赛事特别设置了“攻击”与“防守”两条赛道,汇聚了众多白帽黑客和技术精英,他们将在文生图大模型“数据投毒”攻防演练以及金融场景大模型生成内容防伪检测两个方向展开激烈角逐。
在“攻击赛道”,选手们需运用动态攻击技术,寻找并暴露大模型中的潜在漏洞,从而提升模型免疫力;而“防守赛道”则聚焦于金融凭证的篡改检测,要求参赛者开发相应的检测模型,准确识别伪造内容,保障金融交易安全。
据大赛技术招募官、蚂蚁消金首席信息官刘义介绍,“防守赛道”的设计灵感来源于蚂蚁消金在日常信贷业务中遇到的真实挑战。刘义表示,蚂蚁消金为数亿用户提供消费金融服务,在消保场景,部份用户利用假章、假证等伪造技术制作虚假证明,获得非法收益。随着图片、语音、视频等多模态数据在金融领域的广泛应用,传统的人工审核方式已难以满足高效、准确识别伪造凭证的需求,亟需借助人工智能技术实现自动化甄别。
金融行业具有单位产值下数据产出量高的典型特征,为大模型的应用提供了良好土壤,同时也面临着更为复杂的安全挑战。此次赛事不仅是一次技术比拼,更是一次产学研深度合作的契机,有利于促进科技成果向现实生产力转化。
“我们希望通过此次赛事,吸引更多优秀的人才参与金融科技创新,共同推动大模型技术在金融领域的健康有序发展。”刘义表示。
据悉,本次大赛设立了丰厚的奖金池,并邀请到包括中国工程院院士、中国图象图形学学会理事长王耀南,云安全联盟(CSA)大中华区主席李雨航在内的多位学术界与工业界的权威人士担任评委,确保比赛的公平性和专业性。9月19日起,参赛者可登录中国图象图形学学会官网或阿里云天池平台官网进行报名。