大语言模子的安全风险可以从多个维度进行分类。 从输入输出的角度来看,存在提示注入、不安全输出处理、恶意内容生成和幻觉错误等风险; 从数据层面来看,训练数据中毒、敏感信息泄漏和模子反演攻击是重要威胁; 模子自身则面临拒绝服务和偷窃的风险;
供应链和插件的不安全引入了外部依赖风险;不妥的使用方式,如太过署理和太过依赖,也会带来安全隐患;算法歧视是模子固有属性带来的风险;对抗性攻击则是使用模子的漏洞进行攻击。这些风险相互交错,共同构成了LLM安全领域的复杂挑衅
一、LLM重要风险陈列
风险描述 | 缘故原由 | 危害 | 应对方法 | 提示注入 (LLM01)ÿ |
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。 |