​​​​​​​大语言模子安全风险分析及相关办理方案 ...

打印 上一主题 下一主题

主题 928|帖子 928|积分 2784


         大语言模子的安全风险可以从多个维度进行分类。 从输入输出的角度来看,存在提示注入、不安全输出处理、恶意内容生成和幻觉错误等风险; 从数据层面来看,训练数据中毒、敏感信息泄漏和模子反演攻击是重要威胁; 模子自身则面临拒绝服务和偷窃的风险;
         供应链和插件的不安全引入了外部依赖风险;不妥的使用方式,如太过署理和太过依赖,也会带来安全隐患;算法歧视是模子固有属性带来的风险;对抗性攻击则是使用模子的漏洞进行攻击。这些风险相互交错,共同构成了LLM安全领域的复杂挑衅
一、LLM重要风险陈列

风险描述缘故原由危害应对方法
提示注入 (LLM01)ÿ

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

梦见你的名字

金牌会员
这个人很懒什么都没写!
快速回复 返回顶部 返回列表