安全防御¶
AI · 知识域。面向 AI 系统的安全模型训练与防护体系。标签:安全模型训练。
触发特征¶
- 题目/赛题要求"训练一个安全模型"(内容审核、入侵检测、钓鱼识别)。
- 评测型:给定攻击流量/恶意样本,训练或调优检测模型。
安全模型训练¶
- 检测模型构建:特征工程(静态特征:文件熵/导入表/字符串;动态特征:API 调用序列/流量统计)→ 经典 ML(树模型对表格特征强)+ 深度模型(序列 LSTM/Transformer)。
- 样本不均衡:欠采样/过采样/焦点损失;评价指标换 PR-AUC。
- 恶意样本场景:PE 恶意检测(EMBER 特征集)、Webshell 检测(词法+语义特征)、钓鱼 URL 检测。
- 对抗鲁棒:检测器本身会被规避(→ 模型攻击 对抗样本思想),训练时混入规避样本。
- 在线学习/概念漂移:攻击模式演化下的模型更新策略。