每周一问大模型 | 字节实习生恶意攻击模型训练事件如何预防？

AI+大模型榜是基于企业商业力、团队力、领导力、资本力和舆论力五个维度的评估结果。11月28日，榜单中企业，字节跳动起诉前实习生田某某篡改代码攻击公司内部模型训练一案，已获北京市海淀区人民法院正式受理。字节跳动请求法院判令田某某赔偿公司侵权损失800万元及合理支出2万元，并公开赔礼道歉。怎么预防此类事件再次发生，听听大模型怎么说？

01

通义千问2.5

图源：通义千问截图

通义千问总结：为了预防类似事件再次发生，企业应加强员工网络安全和职业道德培训，实施严格的访问控制和最小权限原则，建立代码审查与安全审计机制，增强系统监控与日志记录，采用多因素认证提高账户安全性，制定应急响应计划，通过法律合同明确责任，并设立内部举报渠道，以此综合提升信息安全防护水平。

02

豆包

图源：豆包截图

豆包总结 ：为预防类似字节跳动前实习生篡改代码攻击公司内部模型训练事件再次发生，需多管齐下。既要加强员工职业道德与法律法规教育，又要完善企业管理，包括优化招聘、合理分配资源、严格权限管理、强化监督并建立反馈渠道，同时强化技术防护，如做好代码管理与监控、数据备份与恢复以及安全漏洞扫描与修复，还要营造良好企业文化，构建信任氛围、强调团队合作并树立安全意识，从人员、管理、技术和文化等多层面构建全面的防范体系。

03

Kimi

图源：Kimi截图

Kimi总结：为了预防类似字节跳动前实习生篡改代码攻击公司内部模型训练的事件再次发生，企业应实施严格的访问控制和身份验证，采用代码签名和数字签名技术，定期进行安全审计，遵守监管标准和行业最佳实践，执行威胁建模，使用安全编码实践，强化监控和响应机制，对抗训练和输入数据校验，进行数据验证和清洗，采用正则化技术和交叉验证，利用法律手段保护企业利益，并对员工进行代码篡改方面的教育和培训，以构建一个全面的安全防护体系。

04

文心大模型3.5

图源：文心一言截图

文心一言总结：为了预防类似字节跳动前实习生篡改代码攻击公司内部模型训练的事件再次发生，企业应加强员工背景调查、完善权限管理与数据加密保护、建立安全审计与监控机制、加强员工安全意识培训、制定并执行严格的数据安全管理制度、采用先进技术进行防护，并建立应急响应机制，以提高整体数据安全防护能力。

05

智谱清言

图源 ：智谱清言

智谱清言总结：为防止类似字节跳动前实习生田某某篡改代码攻击公司内部模型训练的事件再次发生，公司应加强内部监控和审查，提升员工教育和培训，完善权限管理，建立透明的沟通渠道，强化技术防护措施，并采取严格的法律和纪律处分，确保信息安全和维护公司利益。

06

ChatGPT

图源:ChatGPT

ChatGPT总结：为预防类似字节跳动事件的发生，企业应加强内部安全管理，严格权限控制和行为监控，确保员工访问仅限工作所需。定期进行职业道德和安全培训，并建立有效的举报机制。同时，完善离职管理流程，确保员工离职时立即撤销权限，并签订严格的保密协议。此外，强化法律保护，确保员工了解违规后果，建立应急响应机制以应对突发事件。在技术层面，采用防篡改措施并进行定期安全审计，以提高整体安全防护水平。

07

图灵指数：AI榜、大模型榜、金融榜、机器人榜

戳我查看本月“AI企业榜单”