9月6日，一场备受瞩目的科技盛事在上海外滩拉开帷幕。在2024年Inclusion外滩大会上，一场名为“全球AI攻防挑战赛”的科技竞赛正式宣布启动，标志着国内AI大模型攻防领域的一次重要突破。
此次挑战赛旨在深入探索AI大模型在实际应用中的安全性和可靠性，特别设计了攻防两大赛道，吸引了众多技术精英和“白帽黑客”参与。他们将通过一系列实战演练，对AI大模型进行深入的安全测试和挑战。
-
在“攻击赛道”上，参赛者将利用各种创新的攻击技术，如目标劫持、情景模拟和逻辑嵌套等，来诱导大模型生成具有风险的图像。这一过程不仅能够揭示大模型的潜在弱点，还能有效提升其安全防护能力。
而“防守赛道”则专注于金融场景中的AI身份验证技术，面对日益复杂的Deepfake和AIGC伪造技术，参赛者需要开发出能够准确检测凭证篡改的模型。大赛提供了庞大的数据训练集，以支持参赛者研发和测试他们的模型，确保其在实际应用中的有效性。
这场赛事由中国图像图形学会、蚂蚁集团以及云安全联盟（CSA）大中华区联合主办，得到了包括上海交通大学、浙江大学在内的C9高校和众多产学研机构的大力支持。
为了激励更多的优秀人才参与，赛事设立了高达100万元人民币的奖金池，并邀请了学术界和工业界的多位知名专家担任评委。中国工程院院士、中国图象图形学学会理事长王耀南，以及云安联盟（CSA）大中华区主席李雨航等近30位专家学者将参与大赛的组织和评审工作。
全球AI攻防挑战赛已于9月6日正式开放报名，预计将在11月初完成评审工作。感兴趣的选手可以通过中国图象图形学学会官网或阿里云天池大数据众智平台官网进行报名，共同参与这场AI领域的技术盛宴。
