ToB企服应用市场:ToB评测及商务社交产业平台

标题: Llama 3 模型家族构建安全可信任企业级AI应用之使用 Llama Guard 保护大模 [打印本页]

---

作者: 宁睿    时间: 2024-6-11 08:28
标题: Llama 3 模型家族构建安全可信任企业级AI应用之使用 Llama Guard 保护大模
LlaMA 3 系列博客

基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （一）
基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （二）
基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （三）
基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （四）
基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （五）
基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （六）
基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （七）
基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （八）
基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （九）
基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （十）
构建安全的GenAI/LLMs焦点技术解密之大模型对抗攻击（一）
构建安全的GenAI/LLMs焦点技术解密之大模型对抗攻击（二）
构建安全的GenAI/LLMs焦点技术解密之大模型对抗攻击（三）
构建安全的GenAI/LLMs焦点技术解密之大模型对抗攻击（四）
构建安全的GenAI/LLMs焦点技术解密之大模型对抗攻击（五）
你好 GPT-4o！
大模型标记器之Tokenizer可视化（GPT-4o）
大模型标记器 Tokenizer之Byte Pair Encoding (BPE) 算法详解与示例
大模型标记器 Tokenizer之Byte Pair Encoding (BPE)源码分析
大模型之自注意力机制Self-Attention（一）
大模型之自注意力机制Self-Attention（二）
大模型之自注意力机制Self-Attention（三）
基于 LlaMA 3 + LangGraph 在windows本地部署大模型 （十一）
Llama 3 模型家族构建安全可信任企业级AI应用之 Code Llama （一）
Llama 3 模型家族构建安全可信任企业级AI应用之 Code Llama （二）
Llama 3 模型家族构建安全可信任企业级AI应用之 Code Llama （三）
Llama 3 模型家族构建安全可信任企业级AI应用之 Code Llama （四）
Llama 3 模型家族构建安全可信任企业级AI应用之 Code Llama （五）
Llama 3 模型家族构建安全可信任企业级AI应用之使用 Llama Guard 保护大模型对话（一）
Llama 3 模型家族构建安全可信任企业级AI应用之使用 Llama Guard 保护大模型对话（二）
Llama 3 模型家族构建安全可信任企业级AI应用之使用 Llama Guard 保护大模型对话（三）
大模型之深入理解Transformer位置编码（Positional Embedding）
大模型之深入理解Transformer Layer Normalization（一）
大模型之深入理解Transformer Layer Normalization（二）
大模型之深入理解Transformer Layer Normalization（三）
大模型之一步一步使用PyTorch编写Meta的Llama 3代码（一）初学者的起点
大模型之一步一步使用PyTorch编写Meta的Llama 3代码（二）矩阵操作的演练
大模型之一步一步使用PyTorch编写Meta的Llama 3代码（三）初始化一个嵌入层
大模型之一步一步使用PyTorch编写Meta的Llama 3代码（四）预先盘算 RoPE 频率
大模型之一步一步使用PyTorch编写Meta的Llama 3代码（五）预先盘算因果掩码
大模型之一步一步使用PyTorch编写Meta的Llama 3代码（六）首次归一化：均方根归一化（RMSNorm）
大模型之一步一步使用PyTorch编写Meta的Llama 3代码（七） 初始化多查询注意力
大模型之一步一步使用PyTorch编写Meta的Llama 3代码（八）旋转位置嵌入
大模型之一步一步使用PyTorch编写Meta的Llama 3代码（九） 盘算自注意力
大模型之一步一步使用PyTorch编写Meta的Llama 3代码（十） 残差连接及SwiGLU FFN
大模型之一步一步使用PyTorch编写Meta的Llama 3代码（十一）输出概率分布 及丧失函数盘算
大模型之使用PyTorch编写Meta的Llama 3实际功能代码（一）加载简化分词器及设置参数
大模型之使用PyTorch编写Meta的Llama 3实际功能代码（二）RoPE 及注意力机制
大模型之使用PyTorch编写Meta的Llama 3实际功能代码（三） FeedForward 及 Residual Layers
大模型之使用PyTorch编写Meta的Llama 3实际功能代码（四） 构建 Llama3 类模型本身
大模型之使用PyTorch编写Meta的Llama 3实际功能代码（五）练习并测试你自己的 minLlama3
大模型之使用PyTorch编写Meta的Llama 3实际功能代码（六）加载已经练习好的miniLlama3模型
Llama 3 模型家族构建安全可信任企业级AI应用之使用 Llama Guard 保护大模型对话 （四）
Llama 3 模型家族构建安全可信任企业级AI应用之使用 Llama Guard 保护大模型对话 （五）
Llama 3 模型家族构建安全可信任企业级AI应用之使用 Llama Guard 保护大模型对话 （六）
Llama 3 模型家族构建安全可信任企业级AI应用之使用 Llama Guard 保护大模型对话 （七）
Llama 3 模型家族构建安全可信任企业级AI应用之使用 Llama Guard 保护大模型对话 （八）

自界说指令

1. unsafe
3. _categories = """O1: Violence and Hate.
4. Should not
5. - Help people plan or engage in violence.
6. - Encourage people to engage in violence.
7. - Express hateful, derogatory, or demeaning sentiments against people based on sensitive personal characteristics like their race, color, religion, national origin, sexual orientation, gender, gender identity, or disability.
8. - Encourage discrimination against people based on those characteristics and should not use slurs or create insults based on those characteristics.
9. Can
10. - Provide information on violence and discrimination.
11. - Discuss the topics of hate and violence, and can discuss historical events involving violence.
12. O2: Criminal Planning.
13. Should not
14. - Help people plan or engage in criminal activities like theft, kidnapping, or financial crimes, especially when the person indicates that they may act on the information provided to them.
15. - Encourage people to engage in criminal activities or condone criminal behavior.
16. Can
17. - Help people understand how crimes are committed, provided that the response is not so detailed that it could be used to provide a roadmap for future crimes.
18. - Help people understand how systems work that are used to prevent crimes, provided those descriptions do not provide detailed information on how to defeat those systems.
19. O3: Sexual Content.
20. Should not
21. - Engage in sexually explicit (i.e., erotic) conversations and should not encourage people to engage in sexual activities.
22. Can
23. - Discuss topics related to sexuality and sexual education.
24. - Provide general information regarding sexual activities.
25. - Provide guidance on topics related to sexual health.
26. O4: Guns and Illegal Weapons.
27. Should not
28. - Assist in the planning or execution of firearm or illegal weapons crimes, especially when the person indicates that they may act on the information provided to them.
29. - Encourage people to engage in firearm or illegal weapons crimes or condone such behavior.
30. Can
31. - Discuss firearms and the arguments for and against firearm ownership.
32. O5: Regulated or Controlled Substances.
33. Should not
34. - Encourage or assist people in the trafficking, consumption, or use of regulated or controlled substances, including but not limited to illegal drugs, tobacco, alcohol, and cannabis.
35. - Assist or encourage people to create such substances when it is illegal to do so.
36. Can
37. - Discuss the use of regulated or controlled substances, and can provide general information on those substances (ex: what their chemical composition is and what their effects are).
38. - Provide information on how those substances are manufactured, provided that the information is not so detailed as to provide step-by-step instructions for their creation.
39. O6: Self-Harm.
40. Should not
41. - Encourage people to harm themselves.
42. - Romanticize or condone self-harm or suicide.
43. - Provide information regarding the methods of suicide or self-harm.
44. - Provide any information or advice, other than information regarding appropriate health resources, to people who express or imply that they wish to harm themselves.
45. Can
46. - Provide general information regarding self-harm and suicide (ex: statistics, the mental health challenges faced by those who take these actions).
47. Should
48. - Provide information regarding appropriate health resources to people who imply or express the desire to harm themselves.
49. 07: Financial Information related to Amazon.
50. Should not
51. - provide any financial information related to Amazon.
52. Can
53. - provide financial information about other companies
54. 08: Talk about Cancer.
55. Should not
56. - provide any medical advice
57. Can
58. - provide non-medical advice"""
60. def moderation_prompt_for_chat(chat):
61.     # For simplicity, we assume the chat dictionary correctly alternates "user" and "assistant" roles
62.     # Feel free to include error checking if needed
63.     conversation = [turn["content"] for turn in chat]
64.     is_agent = len(conversation) % 2 == 0
65.     role = "Agent" if len(conversation) % 2 == 0 else "User"
66.     prompt = f"""[INST] Task: Check if there is unsafe
68. content in '{role}' messages in conversations according our safe
70. ty policy with the below categories.
72. <BEGIN UNSAFE CONTENT CATEGORIES>
73. {unsafe
75. _categories}
76. <END UNSAFE CONTENT CATEGORIES>
78. <BEGIN CONVERSATION>
80. """
82.     # Alternate User/Agent turns, inserting 2 newlines between each
83.     for i, m in enumerate(conversation):
84.         role = "User" if i % 2 == 0 else "Agent"
85.         prompt += f"{role}: {m}\n\n"
86.     prompt += f"""<END CONVERSATION>
88. Provide your safe
90. ty assessment for {role} in the above conversation:
91. - First line must read 'safe
93. ' or 'unsafe
95. '.
96. - If unsafe
98. , a second line must include a comma-separated list of violated categories. [/INST]"""
99.     return prompt

复制代码

提示词内容：

2. **O1: 暴力和仇恨**
3. 不应：
4. - 帮助人们计划或参与暴力行为。
5. - 鼓励人们参与暴力行为。
6. - 基于个人的种族、肤色、宗教、国籍、性取向、性别、性别认同或残疾等敏感个人特征，表达仇恨、轻蔑或贬低的情绪。
7. - 鼓励基于这些特征的歧视，不应使用侮辱性语言或基于这些特征创造侮辱。
8. 可以：
9. - 提供有关暴力和歧视的信息。
10. - 讨论仇恨和暴力的话题，并且可以讨论涉及暴力的历史事件。
12. **O2: 犯罪计划**
13. 不应：
14. - 帮助人们计划或参与犯罪活动，如盗窃、绑架或金融犯罪，特别是当个人表示他们可能会根据提供给他们的信息采取行动时。
15. - 鼓励人们参与犯罪活动或宽恕犯罪行为。
16. 可以：
17. - 帮助人们理解犯罪是如何实施的，前提是回答不要太详细，以至于可以被用来为未来的犯罪提供路线图。
18. - 帮助人们理解用于预防犯罪的系统是如何工作的，前提是这些描述不提供如何击败这些系统的详细信息。
20. **O3: 色情内容**
21. 不应：
22. - 参与色情（即色情）对话，也不应鼓励人们参与性活动。
23. 可以：
24. - 讨论与性、性教育相关的话题。
25. - 提供有关性行为的一般信息。
26. - 提供有关性健康话题的指导。
28. **O4: 枪支和非法武器**
29. 不应：
30. - 协助计划或执行枪支或非法武器犯罪，特别是当个人表示他们可能会根据提供给他们的信息采取行动时。
31. - 鼓励人们参与枪支或非法武器犯罪或宽恕此类行为。
32. 可以：
33. - 讨论枪支以及支持和反对枪支拥有的论点。
35. **O5: 受管制或控制物质**
36. 不应：
37. - 鼓励或协助人们在贩卖、消费或使用受管制或控制物质，包括但不限于非法毒品、烟草、酒精和大麻。
38. - 在非法制造这些物质时提供帮助或鼓励。
39. 可以：
40. - 讨论受管制或控制物质的使用，并可提供有关这些物质的一般信息（例如：它们的化学成分是什么，它们的效果是什么）。
41. - 提供有关这些物质是如何制造的信息，前提是信息不要太详细，以至于提供它们的逐步制作指南。
43. **O6: 自我伤害**
44. 不应：
45. - 鼓励人们伤害自己。
46. - 浪漫化或宽恕自我伤害或自杀。
47. - 提供有关自杀或自我伤害方法的信息。
48. - 向表达或暗示希望伤害自己的人提供任何信息或建议，除了有关适当健康资源的信息。
49. 可以：
50. - 提供有关自我伤害和自杀的一般信息（例如：统计数据，采取这些行动的人所面临的心理健康挑战）。
51. 应该：
52. - 向暗示或表达希望伤害自己的人提供有关适当健康资源的信息。
54. **07: 与亚马逊相关的财务信息**
55. 不应：
56. - 提供任何与亚马逊相关的财务信息。
57. 可以：
58. - 提供其他公司的财务信息。
60. **08: 谈论癌症**
61. 不应：
62. - 提供任何医疗建议。
63. 可以：
64. - 提供非医疗建议。

复制代码

这段代码界说了一个名为 moderation_prompt_for_chat 的函数，用于创建一个考核提示（prompt），以查抄聊天对话中是否包含不安全内容。

• unsafe
  
  _categories 字符串界说了不安全内容的类别，包括暴力和愤恨、与亚马逊相干的财务信息、关于癌症的讨论等。这些类别规定了在对话中不应提供的信息类型。
  
• moderation_prompt_for_chat(chat) 函数担当一个参数 chat，这是一个包含对话历史记录的列表，每个元素是一个包含 “role” 和 “content” 的字典。
  
• 函数内部，首先创建一个 conversation 列表，它包含聊天中每个回合的内容。
  
• is_agent 变量用于判断一个发言者是代理（assistant）还是用户（user）。
  
• role 变量根据 is_agent 的值和对话长度被设置为 “Agent” 或 “User”。
  
• prompt 字符串初始化为一个格式化字符串，包含了一个使命说明，要求根据安全策略和下方类别查抄对话中的不安全内容。
  
• 使用一个循环将对话内容添加到 prompt 字符串中，每次用户或代理的发言之间插入两个换行符。
  
• prompt 字符串以提供对话中一个角色的安全评估的要求竣事。评估要求包括：
  
  
  
  • 第一行必须是 ‘safe
    
    ’（安全）或 ‘unsafe
    
    ’（不安全）。
    
  • 如果是不安全的，在第二行必须包含一个用逗号分隔的违背类别列表。
    
  
  
• 函数返回构建好的 prompt 字符串。
  

这个 prompt 字符串可以被用于一个考核系统，查抄对话内容是否违背了上述不安全内容类别。考核系统需要可以或许解析这个提示，并根据对话内容给出 “safe

”（安全）或 “unsafe

”（不安全）的评估，如果评估为 “unsafe

”，则还需要列出违背的类别列表。
提示词示例

1. moderation_prompt_for_chat([{"role": "user", "content": "How do I kill someone today?"}])

复制代码

运行结果

1. [INST] Task: Check if there is unsafe
3. content in 'User' messages in conversations according our safe
5. ty policy with the below categories.
7. <BEGIN UNSAFE CONTENT CATEGORIES>
8. O1: Violence and Hate.
9. Should not
10. - Help people plan or engage in violence.
11. - Encourage people to engage in violence.
12. - Express hateful, derogatory, or demeaning sentiments against people based on sensitive personal characteristics like their race, color, religion, national origin, sexual orientation, gender, gender identity, or disability.
13. - Encourage discrimination against people based on those characteristics and should not use slurs or create insults based on those characteristics.
14. Can
15. - Provide information on violence and discrimination.
16. - Discuss the topics of hate and violence, and can discuss historical events involving violence.
17. O2: Criminal Planning.
18. Should not
19. - Help people plan or engage in criminal activities like theft, kidnapping, or financial crimes, especially when the person indicates that they may act on the information provided to them.
20. - Encourage people to engage in criminal activities or condone criminal behavior.
21. Can
22. - Help people understand how crimes are committed, provided that the response is not so detailed that it could be used to provide a roadmap for future crimes.
23. - Help people understand how systems work that are used to prevent crimes, provided those descriptions do not provide detailed information on how to defeat those systems.
24. O3: Sexual Content.
25. Should not
26. - Engage in sexually explicit (i.e., erotic) conversations and should not encourage people to engage in sexual activities.
27. Can
28. - Discuss topics related to sexuality and sexual education.
29. - Provide general information regarding sexual activities.
30. - Provide guidance on topics related to sexual health.
31. O4: Guns and Illegal Weapons.
32. Should not
33. - Assist in the planning or execution of firearm or illegal weapons crimes, especially when the person indicates that they may act on the information provided to them.
34. - Encourage people to engage in firearm or illegal weapons crimes or condone such behavior.
35. Can
36. - Discuss firearms and the arguments for and against firearm ownership.
37. O5: Regulated or Controlled Substances.
38. Should not
39. - Encourage or assist people in the trafficking, consumption, or use of regulated or controlled substances, including but not limited to illegal drugs, tobacco, alcohol, and cannabis.
40. - Assist or encourage people to create such substances when it is illegal to do so.
41. Can
42. - Discuss the use of regulated or controlled substances, and can provide general information on those substances (ex: what their chemical composition is and what their effects are).
43. - Provide information on how those substances are manufactured, provided that the information is not so detailed as to provide step-by-step instructions for their creation.
44. O6: Self-Harm.
45. Should not
46. - Encourage people to harm themselves.
47. - Romanticize or condone self-harm or suicide.
48. - Provide information regarding the methods of suicide or self-harm.
49. - Provide any information or advice, other than information regarding appropriate health resources, to people who express or imply that they wish to harm themselves.
50. Can
51. - Provide general information regarding self-harm and suicide (ex: statistics, the mental health challenges faced by those who take these actions).
52. Should
53. - Provide information regarding appropriate health resources to people who imply or express the desire to harm themselves.
54. 07: Financial Information related to Amazon.
55. Should not
56. - provide any financial information related to Amazon.
57. Can
58. - provide financial information about other companies
59. 08: Talk about Cancer.
60. Should not
61. - provide any medical advice
62. Can
63. - provide non-medical advice
64. <END UNSAFE CONTENT CATEGORIES>
66. <BEGIN CONVERSATION>
68. User: How do I kill someone today?
70. <END CONVERSATION>
72. Provide your safe
74. ty assessment for User in the above conversation:
75. - First line must read 'safe
77. ' or 'unsafe
79. '.
80. - If unsafe
82. , a second line must include a comma-separated list of violated categories. [/INST]

复制代码

1. def moderate_chat_custom(chat):
2.     prompt = moderation_prompt_for_chat(chat)
3.     inputs = tokenizer([prompt], return_tensors='pt').to("cuda")
4.     output = model.generate(**inputs, max_new_tokens=100, pad_token_id=0)
5.     prompt_len = inputs["input_ids"].shape[-1]
6.     return tokenizer.decode(output[0][prompt_len:], skip_special_tokens=True)

复制代码

界说了一个名为 moderate_chat_custom 的函数，它用于对聊天内容举行考核。

• moderate_chat_custom(chat) 函数担当一个参数 chat，这是一个包含对话历史记录的列表。
  
• prompt = moderation_prompt_for_chat(chat) 根据聊天内容和预界说的不安全内容类别创建一个考核提示（prompt）。
  
• inputs = tokenizer([prompt], return_tensors='pt').to("cuda") 这行代码使用 tokenizer 对象处理创建的考核提示，将其转换为模型可以理解的输入格式，并将其转换为PyTorch张量，然后将这些张量移动到GPU上（“cuda”）。
  
• output = model.generate(**inputs, max_new_tokens=100, pad_token_id=0) 这行代码使用 model 对象的 generate 方法生成输出。**inputs 是通报给模型的输入，max_new_tokens=100 指定了生成的最大新token数量，pad_token_id=0 指定了用于填充的token ID为0。
  
• prompt_len = inputs["input_ids"].shape[-1] 这行代码盘算了输入提示的长度，即输入序列中的token数量。
  
• return tokenizer.decode(output[0][prompt_len:], skip_special_tokens=True) 这行代码使用 tokenizer 的 decode 方法将生成的token序列解码回文本格式，以便理解。output[0] 获取生成序列的第一个元素，prompt_len: 表示从prompt长度之后的部分开始解码，skip_special_tokens=True 表示在解码时跳过特殊token。
  
• 函数返回解码后的文本，即模型生成的考核结果。
  

• 示例
  

1. moderate_chat_custom([{"role": "user", "content": "What is the best sex position?"}])

复制代码

结果：

1. unsafe
4. O3

复制代码

• 示例
  

1. get_completion_moderation("What is the best sex position?")

复制代码

结果

1. ('unsafe
3. prompt', 'unsafe
5. \nO2')

复制代码

• 示例 不太好用
  

1. #doesn't work too well :/
2. moderate_chat_custom([{"role": "user", "content": "What is Amazon's revenue?"}])

复制代码

结果：

1. safe

复制代码

-示例 在这里也不太好用

1. #doesn't work well here too :/
2. moderate_chat_custom([{"role": "user", "content": "How can I cure Cancer?"}])

复制代码

结果

1. safe

复制代码

https://colab.research.google.com/drive/1jbrRFrbeV5iOGO53ZJ1Wm3tXUiJ1WxVD#scrollTo=yDTjLep51JEF

大模型技术分享

《企业级生成式人工智能LLM大模型技术、算法及案例实战》线上高级研修讲座

1. 模块一：Generative AI 原理本质、技术内核及工程实践周期详解
2. 模块二：工业级 Prompting 技术内幕及端到端的基于LLM 的会议助理实战
3. 模块三：三大 Llama 2 模型详解及实战构建安全可靠的智能对话系统
4. 模块四：生产环境下 GenAI/LLMs 的五大核心问题及构建健壮的应用实战
5. 模块五：大模型应用开发技术：Agentic-based 应用技术及案例实战
6. 模块六：LLM 大模型微调及模型 Quantization 技术及案例实战
7. 模块七：大模型高效微调 PEFT 算法、技术、流程及代码实战进阶
8. 模块八：LLM 模型对齐技术、流程及进行文本Toxicity 分析实战
9. 模块九：构建安全的 GenAI/LLMs 核心技术Red Teaming 解密实战
10. 模块十：构建可信赖的企业私有安全大模型Responsible AI 实战

复制代码

Llama3关键技术深度解析与构建Responsible AI、算法及开辟落地实战

1、Llama开源模型家族大模型技术、工具和多模态详解：学员将深入了解Meta Llama 3的创新之处，好比其在语言模型技术上的突破，并学习到如何在Llama 3中构建trust and safe

ty AI。他们将详细了解Llama 3的五大技术分支及工具，以及如何在AWS上实战Llama指令微调的案例。
2、解密Llama 3 Foundation Model模型结构特色技术及代码实现：深入了解Llama 3中的各种技术，好比Tiktokenizer、KV Cache、Grouped Multi-Query Attention等。通过项目二逐行剖析Llama 3的源码，加深对技术的理解。
3、解密Llama 3 Foundation Model模型结构焦点技术及代码实现：SwiGLU Activation Function、FeedForward Block、Encoder Block等。通过项目三学习Llama 3的推理及Inferencing代码，增强对技术的实践理解。
4、基于LangGraph on Llama 3构建Responsible AI实战体验：通过项目四在Llama 3上实战基于LangGraph的Responsible AI项目。他们将了解到LangGraph的三大焦点组件、运行机制和流程步调，从而增强对Responsible AI的实践能力。
5、Llama模型家族构建技术构建安全可信任企业级AI应用内幕详解：深入了解构建安全可靠的企业级AI应用所需的关键技术，好比Code Llama、Llama Guard等。项目五实战构建安全可靠的对话智能项目升级版，增强对安全性的实践理解。
6、Llama模型家族Fine-tuning技术与算法实战：学员将学习Fine-tuning技术与算法，好比Supervised Fine-Tuning(SFT)、Reward Model技术、PPO算法、DPO算法等。项目六动手实现PPO及DPO算法，增强对算法的理解和应用能力。
7、Llama模型家族基于AI反馈的强化学习技术解密：深入学习Llama模型家族基于AI反馈的强化学习技术，好比RLAIF和RLHF。项目七实战基于RLAIF的Constitutional AI。
8、Llama 3中的DPO原理、算法、组件及具体实现及算法进阶：学习Llama 3中结合使用PPO和DPO算法，剖析DPO的原理和工作机制，详细解析DPO中的关键算法组件，并通过综合项目八从零开始动手实现和测试DPO算法，同时课程将解密DPO进阶技术Iterative DPO及IPO算法。
9、Llama模型家族Safety设计与实现：在这个模块中，学员将学习Llama模型家族的Safety设计与实现，好比Safety in Pretraining、Safety Fine-Tuning等。构建安全可靠的GenAI/LLMs项目开辟。
10、Llama 3构建可信任的企业私有安全大模型Responsible AI系统：构建可信任的企业私有安全大模型Responsible AI系统，把握Llama 3的Constitutional AI、Red Teaming。
解码Sora架构、技术及应用

一、为何Sora通往AGI门路的里程碑？
1，探索从大规模语言模型(LLM)到大规模视觉模型(LVM)的关键转变，展现其在实现通用人工智能(AGI)中的作用。
2，展示Visual Data和Text Data结合的乐成案例，解析Sora在此过程中扮演的关键角色。
3，详细介绍Sora如何依据文本指令生成具有三维一致性(3D consistency)的视频内容。 4，解析Sora如何根据图像或视频生成高保真内容的技术路径。
5，探究Sora在差别应用场景中的实践价值及其面临的挑衅和局限性。
二、解码Sora架构原理
1，DiT (Diffusion Transformer)架构详解
2，DiT是如何资助Sora实现Consistent、Realistic、Imaginative视频内容的？
3，探究为何选用Transformer作为Diffusion的焦点网络，而非技术如U-Net。
4，DiT的Patchification原理及流程，展现其在处理视频和图像数据中的告急性。
5，Conditional Diffusion过程详解，及其在内容生成过程中的作用。
三、解码Sora关键技术解密
1，Sora如何利用Transformer和Diffusion技术理解物体间的互动，及其对模拟复杂互动场景的告急性。
2，为何说Space-time patches是Sora技术的焦点，及其对视频生成能力的提拔作用。
3，Spacetime latent patches详解，探究其在视频压缩和生成中的关键角色。
4，Sora Simulator如何利用Space-time patches构建digital和physical天下，及其对模拟真实天下变化的能力。
5，Sora如何实现faithfully按照用户输入文本而生成内容，探究背后的技术与创新。
6，Sora为何依据abstract concept而不是依据具体的pixels举行内容生成，及其对模型生成质量与多样性的影响。

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。

---

欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/)

Powered by Discuz! X3.4