Llama模子家属之Stanford NLP ReFT源代码探索 （二）Intervention Layers层 ...

LlaMA 3 系列博客

基于 LlaMA 3 + LangGraph 在windows本地摆设大模子 （一）
基于 LlaMA 3 + LangGraph 在windows本地摆设大模子 （二）
基于 LlaMA 3 + LangGraph 在windows本地摆设大模子 （三）
基于 LlaMA 3 + LangGraph 在windows本地摆设大模子 （四）
基于 LlaMA 3 + LangGraph 在windows本地摆设大模子 （五）
基于 LlaMA 3 + LangGraph 在windows本地摆设大模子 （六）
基于 LlaMA 3 + LangGraph 在windows本地摆设大模子 （七）
基于 LlaMA 3 + LangGraph 在windows本地摆设大模子 （八）
基于 LlaMA 3 + LangGraph 在windows本地摆设大模子 （九）
基于 LlaMA 3 + LangGraph 在windows本地摆设大模子 （十）
构建安全的GenAI/LLMs核心技术解密之大模子对抗攻击（一）
构建安全的GenAI/LLMs核心技术解密之大模子对抗攻击（二）
构建安全的GenAI/LLMs核心技术解密之大模子对抗攻击（三）
构建安全的GenAI/LLMs核心技术解密之大模子对抗攻击（四）
构建安全的GenAI/LLMs核心技术解密之大模子对抗攻击（五）
你好 GPT-4o！
大模子标记器之Tokenizer可视化（GPT-4o）
大模子标记器 Tokenizer之Byte Pair Encoding (BPE) 算法详解与示例
大模子标记器 Tokenizer之Byte Pair Encoding (BPE)源码分析
大模子之自留意力机制Self-Attention（一）
大模子之自留意力机制Self-Attention（二）
大模子之自留意力机制Self-Attention（三）
基于 LlaMA 3 + LangGraph 在windows本地摆设大模子 （十一）
Llama 3 模子家属构建安全可信赖企业级AI应用之 Code Llama （一）
Llama 3 模子家属构建安全可信赖企业级AI应用之 Code Llama （二）
Llama 3 模子家属构建安全可信赖企业级AI应用之 Code Llama （三）
Llama 3 模子家属构建安全可信赖企业级AI应用之 Code Llama （四）
Llama 3 模子家属构建安全可信赖企业级AI应用之 Code Llama （五）
Llama 3 模子家属构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模子对话（一）
Llama 3 模子家属构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模子对话（二）
Llama 3 模子家属构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模子对话（三）
大模子之深入明白Transformer位置编码（Positional Embedding）
大模子之深入明白Transformer Layer Normalization（一）
大模子之深入明白Transformer Layer Normalization（二）
大模子之深入明白Transformer Layer Normalization（三）
大模子之一步一步使用PyTorch编写Meta的Llama 3代码（一）初学者的起点
大模子之一步一步使用PyTorch编写Meta的Llama 3代码（二）矩阵利用的演练
大模子之一步一步使用PyTorch编写Meta的Llama 3代码（三）初始化一个嵌入层
大模子之一步一步使用PyTorch编写Meta的Llama 3代码（四）预先计算 RoPE 频率
大模子之一步一步使用PyTorch编写Meta的Llama 3代码（五）预先计算因果掩码
大模子之一步一步使用PyTorch编写Meta的Llama 3代码（六）首次归一化：均方根归一化（RMSNorm）
大模子之一步一步使用PyTorch编写Meta的Llama 3代码（七） 初始化多查询留意力
大模子之一步一步使用PyTorch编写Meta的Llama 3代码（八）旋转位置嵌入
大模子之一步一步使用PyTorch编写Meta的Llama 3代码（九） 计算自留意力
大模子之一步一步使用PyTorch编写Meta的Llama 3代码（十） 残差连接及SwiGLU FFN
大模子之一步一步使用PyTorch编写Meta的Llama 3代码（十一）输出概率分布 及损失函数计算
大模子之使用PyTorch编写Meta的Llama 3实际功能代码（一）加载简化分词器及设置参数
大模子之使用PyTorch编写Meta的Llama 3实际功能代码（二）RoPE 及留意力机制
大模子之使用PyTorch编写Meta的Llama 3实际功能代码（三） FeedForward 及 Residual Layers
大模子之使用PyTorch编写Meta的Llama 3实际功能代码（四） 构建 Llama3 类模子本身
大模子之使用PyTorch编写Meta的Llama 3实际功能代码（五）训练并测试你自己的 minLlama3
大模子之使用PyTorch编写Meta的Llama 3实际功能代码（六）加载已经训练好的miniLlama3模子
Llama 3 模子家属构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模子对话 （四）
Llama 3 模子家属构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模子对话 （五）
Llama 3 模子家属构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模子对话 （六）
Llama 3 模子家属构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模子对话 （七）
Llama 3 模子家属构建安全可信赖企业级AI应用之使用 Llama Guard 保护大模子对话 （八）
Llama 3 模子家属构建安全可信赖企业级AI应用之 CyberSecEval 2：量化 LLM 安全和本领的基准（一）
Llama 3 模子家属构建安全可信赖企业级AI应用之 CyberSecEval 2：量化 LLM 安全和本领的基准（二）
Llama 3 模子家属构建安全可信赖企业级AI应用之 CyberSecEval 2：量化 LLM 安全和本领的基准（三）
Llama 3 模子家属构建安全可信赖企业级AI应用之 CyberSecEval 2：量化 LLM 安全和本领的基准（四）
Llama 3 模子家属构建安全可信赖企业级AI应用之code shield（一）Code Shield简介
Llama 3 模子家属构建安全可信赖企业级AI应用之code shield（二）防止 LLM 天生不安全代码
Llama 3 模子家属构建安全可信赖企业级AI应用之code shield（三）Code Shield代码示例
Llama模子家属之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模子（一） LLaMA-Factory简介
Llama模子家属之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模子（二） LLaMA-Factory训练方法及数据集
大模子之Ollama：在本地机器上释放大型语言模子的强大功能
Llama模子家属之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模子（三）通过Web UI微调
Llama模子家属之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模子（四）通过命令方式微调
Llama模子家属之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模子（五） 基于已训练好的模子进行推理
Llama模子家属之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模子（六）Llama 3 已训练的大模子归并LoRA权重参数
Llama模子家属之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模子（七） 使用 LoRA 微调 LLM 的实用技巧
Llama模子家属之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模子（八） 使用 LoRA 微调 LLM 的实用技巧
Llama模子家属之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模子（九） 使用 LoRA 微调常见问题答疑
Llama模子家属之使用 Supervised Fine-Tuning（SFT）微调预训练Llama 3 语言模子（十） 使用 LoRA 微调常见问题答疑
Llama模子家属训练奖励模子Reward Model技术及代码实战（一）简介
Llama模子家属训练奖励模子Reward Model技术及代码实战（二）从用户反馈构建比较数据集
Llama模子家属训练奖励模子Reward Model技术及代码实战（三） 使用 TRL 训练奖励模子
Llama模子家属之RLAIF 基于 AI 反馈的强化学习（一）RLHF简介
Llama模子家属之RLAIF 基于 AI 反馈的强化学习（二）RLHF 与RAIF比较
Llama模子家属之RLAIF 基于 AI 反馈的强化学习（三） RLAIF 的工作原理
Llama模子家属之RLAIF 基于 AI 反馈的强化学习（四）RLAIF 优势
Llama模子家属之RLAIF 基于 AI 反馈的强化学习（五）RLAIF 挑战
Llama模子家属之RLAIF 基于 AI 反馈的强化学习（六） RLAIF 代码实战
Llama模子家属之RLAIF 基于 AI 反馈的强化学习（七） RLAIF 代码实战
Llama模子家属之RLAIF 基于 AI 反馈的强化学习（八） RLAIF 代码实战
Llama模子家属之RLAIF 基于 AI 反馈的强化学习（九） RLAIF 代码实战
Llama模子家属之RLAIF 基于 AI 反馈的强化学习（十） RLAIF 代码实战
Llama模子家属之拒绝抽样(Rejection Sampling)（一）
Llama模子家属之拒绝抽样(Rejection Sampling)（二）匀称分布简介
Llama模子家属之拒绝抽样(Rejection Sampling)（三）确定缩放常数以优化拒绝抽样方法
Llama模子家属之拒绝抽样(Rejection Sampling)（四） 蒙特卡罗方法在拒绝抽样中的应用：评估线与样本接受尺度
Llama模子家属之拒绝抽样(Rejection Sampling)（五） 蒙特卡罗算法在拒绝抽样中：匀称分布与样本接受尺度
Llama模子家属之拒绝抽样(Rejection Sampling)（六） 拒绝抽样中的蒙特卡罗算法：重复过程与接受尺度
Llama模子家属之拒绝抽样(Rejection Sampling)（七） 优化拒绝抽样：选择高斯分布以减少样本拒绝
Llama模子家属之拒绝抽样(Rejection Sampling)（八） 代码实现
Llama模子家属之拒绝抽样(Rejection Sampling)（九） 强化学习之Rejection Sampling
Llama模子家属之使用 ReFT技术对 Llama-3 进行微调（一）ReFT简介
Llama模子家属之使用 ReFT技术对 Llama-3 进行微调（二） PyReFT简介
Llama模子家属之使用 ReFT技术对 Llama-3 进行微调（三）为 ReFT 微调准备模子及数据集
Llama模子家属之使用 ReFT技术对 Llama-3 进行微调（四） ReFT 微调训练及模子推理
Llama模子家属之Stanford NLP ReFT源代码探索 （一）数据预干预
Llama模子家属之Stanford NLP ReFT源代码探索 （二）

pyreft-main\pyreft\interventions.py

1. import torch
2. from collections import OrderedDict
4. from pyvene import (
5.     ConstantSourceIntervention,
6.     SourcelessIntervention,
7.     TrainableIntervention,
8.     DistributedRepresentationIntervention,
9. )
10. from transformers.activations import ACT2FN
13. class LowRankRotateLayer(torch.nn.Module):
14.     """A linear transformation with orthogonal initialization."""
16.     def __init__(self, n, m, init_orth=True):
17.         super().__init__()
18.         # n > m
19.         self.weight = torch.nn.Parameter(torch.empty(n, m), requires_grad=True)
20.         if init_orth:
21.             torch.nn.init.orthogonal_(self.weight)
23.     def forward(self, x):
24.         return torch.matmul(x.to(self.weight.dtype), self.weight)
27. class LoreftIntervention(
28.     SourcelessIntervention,
29.     TrainableIntervention,
30.     DistributedRepresentationIntervention
31. ):
32.     """
33.     LoReFT(h) = h + R^T(Wh + b − Rh)
34.     """
35.     def __init__(self, **kwargs):
36.         super().__init__(**kwargs, keep_last_dim=True)
37.         rotate_layer = LowRankRotateLayer(self.embed_dim, kwargs["low_rank_dimension"], init_orth=True)
38.         self.rotate_layer = torch.nn.utils.parametrizations.orthogonal(rotate_layer, orthogonal_map='householder')
39.         self.learned_source = torch.nn.Linear(
40.             self.embed_dim, kwargs["low_rank_dimension"]).to(
41.             kwargs["dtype"] if "dtype" in kwargs else torch.bfloat16)
42.         self.dropout = torch.nn.Dropout(kwargs["dropout"] if "dropout" in kwargs else 0.0)
43.         self.act_fn = ACT2FN["linear"] if "act_fn" not in kwargs or kwargs["act_fn"] is None else ACT2FN[kwargs["act_fn"]]
44.         
45.     def forward(
46.         self, base, source=None, subspaces=None
47.     ):
48.         rotated_base = self.rotate_layer(base)
49.         output = base + torch.matmul(
50.             (self.act_fn(self.learned_source(base)) - rotated_base), self.rotate_layer.weight.T
51.         )
52.         return self.dropout(output.to(base.dtype))
54.     def state_dict(self, *args, **kwargs):
55.         """
56.         Overwrite for data-efficiency.
57.         """
58.         state_dict = OrderedDict()
59.         for k, v in self.learned_source.state_dict().items():
60.             state_dict[k] = v
61.         state_dict["rotate_layer"] = self.rotate_layer.weight.data
62.         return state_dict
64.     def load_state_dict(self, state_dict, *args, **kwargs):
65.         """
66.         Overwrite for data-efficiency.
67.         """
68.         self.learned_source.load_state_dict(state_dict, strict=False)
69.         overload_w = state_dict["rotate_layer"]
70.         overload_w_width = overload_w.shape[-1]
71.         self.rotate_layer.parametrizations.weight[0].base[:,:overload_w_width] = overload_w
72.         return
75. class NoreftIntervention(
76.     SourcelessIntervention,
77.     TrainableIntervention,
78.     DistributedRepresentationIntervention
79. ):
80.     """
81.     NoReFT(h) = h + W2^T(W1h + b − W2h)
82.     """
83.     def __init__(self, **kwargs):
84.         super().__init__(**kwargs, keep_last_dim=True)
85.         self.proj_layer = torch.nn.Linear(
86.             self.embed_dim, kwargs["low_rank_dimension"], bias=kwargs["add_bias"]).to(
87.             kwargs["dtype"] if "dtype" in kwargs else torch.bfloat16)
88.         self.learned_source = torch.nn.Linear(
89.             self.embed_dim, kwargs["low_rank_dimension"]).to(
90.             kwargs["dtype"] if "dtype" in kwargs else torch.bfloat16)
91.         self.dropout = torch.nn.Dropout(kwargs["dropout"] if "dropout" in kwargs else 0.0)
92.         self.act_fn = ACT2FN["linear"] if "act_fn" not in kwargs or kwargs["act_fn"] is None else ACT2FN[kwargs["act_fn"]]
93.         
94.     def forward(
95.         self, base, source=None, subspaces=None
96.     ):
97.         proj_base = self.proj_layer(base)
98.         output = base + torch.matmul(
99.             (self.act_fn(self.learned_source(base)) - proj_base), self.proj_layer.weight
100.         )
101.         return self.dropout(output.to(base.dtype))
104. class ConsreftIntervention(
105.     SourcelessIntervention,
106.     TrainableIntervention,
107.     DistributedRepresentationIntervention
108. ):
109.     """
110.     ConsReFT(h) = h + R^T(b − Rh)
111.     """
112.     def __init__(self, **kwargs):
113.         super().__init__(**kwargs, keep_last_dim=True)
114.         rotate_layer = LowRankRotateLayer(self.embed_dim, kwargs["low_rank_dimension"], init_orth=True)
115.         self.rotate_layer = torch.nn.utils.parametrizations.orthogonal(rotate_layer, orthogonal_map='householder')
116.         self.learned_source = torch.nn.Parameter(
117.             torch.rand(kwargs["low_rank_dimension"]), requires_grad=True)
118.         
119.     def forward(
120.         self, base, source=None, subspaces=None
121.     ):
122.         rotated_base = self.rotate_layer(base)
123.         output = base + torch.matmul(
124.             (self.learned_source - rotated_base), self.rotate_layer.weight.T
125.         )
126.         return output.to(base.dtype)
129. class LobireftIntervention(
130.     SourcelessIntervention,
131.     TrainableIntervention,
132.     DistributedRepresentationIntervention
133. ):
134.     """
135.     LobiReFT(h) = h + R^T(b)
136.     """
137.     def __init__(self, **kwargs):
138.         super().__init__(**kwargs, keep_last_dim=True)
139.         rotate_layer = LowRankRotateLayer(self.embed_dim, kwargs["low_rank_dimension"], init_orth=True)
140.         self.rotate_layer = torch.nn.utils.parametrizations.orthogonal(rotate_layer, orthogonal_map='householder')
141.         self.learned_source = torch.nn.Parameter(
142.             torch.rand(kwargs["low_rank_dimension"]), requires_grad=True)
143.         self.dropout = torch.nn.Dropout(kwargs["dropout"] if "dropout" in kwargs else 0.0)
144.         
145.     def forward(
146.         self, base, source=None, subspaces=None
147.     ):
148.         output = base + torch.matmul(
149.             self.learned_source, self.rotate_layer.weight.T
150.         )
151.         return self.dropout(output.to(base.dtype))
154. class DireftIntervention(
155.     SourcelessIntervention,
156.     TrainableIntervention,
157.     DistributedRepresentationIntervention
158. ):
159.     """
160.     DiReFT(h) = h + R^T(Wh + b)
161.     """
162.     def __init__(self, **kwargs):
163.         super().__init__(**kwargs, keep_last_dim=True)
164.         rotate_layer = LowRankRotateLayer(self.embed_dim, kwargs["low_rank_dimension"], init_orth=True)
165.         self.rotate_layer = torch.nn.utils.parametrizations.orthogonal(rotate_layer, orthogonal_map='householder')
166.         self.learned_source = torch.nn.Linear(
167.             self.embed_dim, kwargs["low_rank_dimension"]).to(
168.             kwargs["dtype"] if "dtype" in kwargs else torch.bfloat16)
169.         self.dropout = torch.nn.Dropout(kwargs["dropout"] if "dropout" in kwargs else 0.0)
170.         self.act_fn = ACT2FN["linear"] if "act_fn" not in kwargs or kwargs["act_fn"] is None else ACT2FN[kwargs["act_fn"]]
171.         
172.     def forward(
173.         self, base, source=None, subspaces=None
174.     ):
175.         cast_base = base.to(self.learned_source.weight.dtype)
176.         output = base + torch.matmul(
177.             (self.act_fn(self.learned_source(cast_base))).to(self.rotate_layer.weight.dtype), self.rotate_layer.weight.T
178.         )
179.         return self.dropout(output.to(base.dtype))
182. class NodireftIntervention(
183.     SourcelessIntervention,
184.     TrainableIntervention,
185.     DistributedRepresentationIntervention
186. ):
187.     """
188.     NodiReFT(h) = h + W2^T(W1h + b)
189.     """
190.     def __init__(self, **kwargs):
191.         super().__init__(**kwargs, keep_last_dim=True)
192.         self.proj_layer = torch.nn.Linear(
193.             self.embed_dim, kwargs["low_rank_dimension"], bias=kwargs["add_bias"]).to(
194.             kwargs["dtype"] if "dtype" in kwargs else torch.bfloat16)
195.         self.learned_source = torch.nn.Linear(
196.             self.embed_dim, kwargs["low_rank_dimension"]).to(
197.             kwargs["dtype"] if "dtype" in kwargs else torch.bfloat16)
198.         self.dropout = torch.nn.Dropout(kwargs["dropout"] if "dropout" in kwargs else 0.0)
199.         self.act_fn = ACT2FN["linear"] if "act_fn" not in kwargs or kwargs["act_fn"] is None else ACT2FN[kwargs["act_fn"]]
200.         
201.     def forward(
202.         self, base, source=None, subspaces=None
203.     ):
204.         output = base + torch.matmul(
205.             self.act_fn(self.learned_source(base)), self.proj_layer.weight
206.         )
207.         return self.dropout(output.to(base.dtype))

复制代码

这段代码界说了一系列基于PyTorch框架的神经网络干预层（Intervention Layers），用于对嵌入向量进行变更 ：
1. 导入模块

• torch：PyTorch库，用于构建和利用张量以及构建神经网络。
  
• OrderedDict：有序字典，用于生存状态字典时保持键的次序。
  
• pyvene：提供了不同范例的干预层基类。
  
• ACT2FN：一个映射，将激活函数的名称映射到其对应的函数实现。
  
  
  
  

2. LowRankRotateLayer 类

• 这个类实现了一个线性变更层，其权重矩阵通过正交初始化来保证数值稳定性。
  
  
  
  • __init__：构造函数，接受输入维度n和输出维度m（要求n > m），并可选择是否进行正交初始化。
    
  • forward：前向流传函数，使用矩阵乘法对输入x进行变更。
    
  
  

3. LoreftIntervention 类

• 继续自SourcelessIntervention、TrainableIntervention和DistributedRepresentationIntervention，实现了LoReFT干预层。
  
  
  
  • __init__：构造函数，初始化一个低秩旋转层、一个可学习的源向量层、dropout层和激活函数。
    
  • forward：实现了LoReFT变更，通过旋转层和可学习的源向量层对底子嵌入base进行变更。
    
  • state_dict和load_state_dict：重写这两个方法以优化数据服从，确保在生存和加载模子状态时只生存必要的参数。
    
    
    
    
  
  
• 公式 ( h + R^T(Wh + b - Rh) ) 形貌了一种向量变更
  

• ( h )：这是原始的输入向量，是嵌入表现向量。
  
• ( R )：这是一个低秩矩阵，用于在变更中引入低维结构。"低秩"意味着矩阵 ( R ) 的列向量或行向量是线性相关的，这有助于减少模子的参数数量并进步计算服从。
  
• ( W )：这是一个权重矩阵，用于对输入向量 ( h ) 进行线性变更。在神经网络中，( W ) 通常是可学习的参数。
  
• ( b )：这是一个偏置项，用于为变更添加一个常数。
  
• ( R^T )：这是矩阵 ( R ) 的转置。在矩阵乘法中，转置利用会影响结果向量的方向。
  
• ( Wh )：表现权重矩阵 ( W ) 与输入向量 ( h ) 的乘积，这是对输入向量的一个线性变更。
  
• ( - Rh )：表现矩阵 ( R ) 与输入向量 ( h ) 的乘积，然后取负号。这表现从 ( Wh ) 中减去 ( Rh ) 的影响，是为了减少某些范例的偏差或进行正则化。
  
• ( R^T(Wh + b - Rh) )：这部分是整个变更的核心。首先，对 ( h ) 进行线性变更 ( Wh )，然后加上偏置 ( b )，再减去 ( Rh )。 将整个结果乘以 ( R ) 的转置，得到一个新的向量。
  
• ( h + R^T(Wh + b - Rh) )：终极，原始向量 ( h ) 与通过 ( R^T ) 变更后的结果相加，得到终极的输出向量。这种结构答应模子在保留原始信息的同时，对嵌入表现进行调解，以更好地适应特定的任务或数据集。
  

4. NoreftIntervention 类

• 雷同于LoreftIntervention，但使用的是正交投影层而不是旋转层，实现了NoReFT干预层。
  

5. ConsreftIntervention 类

• 使用常数源向量和旋转层实现ConsReFT 干预层。
  

6. LobirefIntervention 类

• 使用单个参数化的源向量和旋转层的转置实现LobiReFT 干预层。
  

7. DireftIntervention 类

• 雷同于LoreftIntervention，但源向量是通过线性层得到的，并且使用了激活函数，实现DiReFT 干预层。
  

8. NodireftIntervention 类

• 雷同于NoreftIntervention，但源向量是通过线性层得到的，并且使用了激活函数，实现NodiReFT 干预层。
  

大模子技术分享

《企业级天生式人工智能LLM大模子技术、算法及案例实战》线上高级研修讲座

1. 模块一：Generative AI 原理本质、技术内核及工程实践周期详解
2. 模块二：工业级 Prompting 技术内幕及端到端的基于LLM 的会议助理实战
3. 模块三：三大 Llama 2 模型详解及实战构建安全可靠的智能对话系统
4. 模块四：生产环境下 GenAI/LLMs 的五大核心问题及构建健壮的应用实战
5. 模块五：大模型应用开发技术：Agentic-based 应用技术及案例实战
6. 模块六：LLM 大模型微调及模型 Quantization 技术及案例实战
7. 模块七：大模型高效微调 PEFT 算法、技术、流程及代码实战进阶
8. 模块八：LLM 模型对齐技术、流程及进行文本Toxicity 分析实战
9. 模块九：构建安全的 GenAI/LLMs 核心技术Red Teaming 解密实战
10. 模块十：构建可信赖的企业私有安全大模型Responsible AI 实战

复制代码

Llama3关键技术深度解析与构建Responsible AI、算法及开辟落地实战

1、Llama开源模子家属大模子技术、工具和多模态详解：学员将深入了解Meta Llama 3的创新之处，比如其在语言模子技术上的突破，并学习到如何在Llama 3中构建trust and safety AI。他们将详细了解Llama 3的五大技术分支及工具，以及如何在AWS上实战Llama指令微调的案例。
2、解密Llama 3 Foundation Model模子结构特色技术及代码实现：深入了解Llama 3中的各种技术，比如Tiktokenizer、KV Cache、Grouped Multi-Query Attention等。通过项目二逐行剖析Llama 3的源码，加深对技术的明白。
3、解密Llama 3 Foundation Model模子结构核心技术及代码实现：SwiGLU Activation Function、FeedForward Block、Encoder Block等。通过项目三学习Llama 3的推理及Inferencing代码，加强对技术的实践明白。
4、基于LangGraph on Llama 3构建Responsible AI实战体验：通过项目四在Llama 3上实战基于LangGraph的Responsible AI项目。他们将了解到LangGraph的三大核心组件、运行机制和流程步骤，从而加强对Responsible AI的实践本领。
5、Llama模子家属构建技术构建安全可信赖企业级AI应用内幕详解：深入了解构建安全可靠的企业级AI应用所需的关键技术，比如Code Llama、Llama Guard等。项目五实战构建安全可靠的对话智能项目升级版，加强对安全性的实践明白。
6、Llama模子家属Fine-tuning技术与算法实战：学员将学习Fine-tuning技术与算法，比如Supervised Fine-Tuning(SFT)、Reward Model技术、PPO算法、DPO算法等。项目六动手实现PPO及DPO算法，加强对算法的明白和应用本领。
7、Llama模子家属基于AI反馈的强化学习技术解密：深入学习Llama模子家属基于AI反馈的强化学习技术，比如RLAIF和RLHF。项目七实战基于RLAIF的Constitutional AI。
8、Llama 3中的DPO原理、算法、组件及详细实现及算法进阶：学习Llama 3中团结使用PPO和DPO算法，剖析DPO的原理和工作机制，详细解析DPO中的关键算法组件，并通过综合项目八从零开始动手实现和测试DPO算法，同时课程将解密DPO进阶技术Iterative DPO及IPO算法。
9、Llama模子家属Safety筹划与实现：在这个模块中，学员将学习Llama模子家属的Safety筹划与实现，比如Safety in Pretraining、Safety Fine-Tuning等。构建安全可靠的GenAI/LLMs项目开辟。
10、Llama 3构建可信赖的企业私有安全大模子Responsible AI体系：构建可信赖的企业私有安全大模子Responsible AI体系，掌握Llama 3的Constitutional AI、Red Teaming。
解码Sora架构、技术及应用

一、为何Sora通往AGI门路的里程碑？
1，探索从大规模语言模子(LLM)到大规模视觉模子(LVM)的关键变化，揭示其在实现通用人工智能(AGI)中的作用。
2，展示Visual Data和Text Data团结的乐成案例，解析Sora在此过程中扮演的关键脚色。
3，详细介绍Sora如何依据文本指令天生具有三维同等性(3D consistency)的视频内容。 4，解析Sora如何根据图像或视频天生高保真内容的技术路径。
5，探讨Sora在不同应用场景中的实践价值及其面临的挑战和范围性。
二、解码Sora架构原理
1，DiT (Diffusion Transformer)架构详解
2，DiT是如何资助Sora实现Consistent、Realistic、Imaginative视频内容的？
3，探讨为何选用Transformer作为Diffusion的核心网络，而非技术如U-Net。
4，DiT的Patchification原理及流程，揭示其在处理视频和图像数据中的重要性。
5，Conditional Diffusion过程详解，及其在内容天生过程中的作用。
三、解码Sora关键技术解密
1，Sora如何使用Transformer和Diffusion技术明白物体间的互动，及其对模仿复杂互动场景的重要性。
2，为何说Space-time patches是Sora技术的核心，及其对视频天生本领的提升作用。
3，Spacetime latent patches详解，探讨其在视频压缩和天生中的关键脚色。
4，Sora Simulator如何使用Space-time patches构建digital和physical世界，及其对模仿真实世界变化的本领。
5，Sora如何实现faithfully按照用户输入文本而天生内容，探讨背后的技术与创新。
6，Sora为何依据abstract concept而不是依据详细的pixels进行内容天生，及其对模子天生质量与多样性的影响。
GPT 自回归语言模子架构、数学原理及内幕-简介


     GPT 自回归语言模子架构、数学原理及内幕-简介
  
基于 Transformer 的 Rasa Internals 解密之 Retrieval Model 剖析-简介


     基于 Transformer 的 Rasa Internals 解密之 Retrieval Model 剖析-简介
  
Transformer语言模子架构、数学原理及内幕机制-简介


     Transformer语言模子架构、数学原理及内幕机制-简介
  

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。