RWKV 发布中文小说模型，也擅长角色饰演！

大家好，RWKV 近期发布了 “RWKV-6-ChnNovel” 系列中文小说模型 。
相较于 RWKV-6 基底模型， RWKV-6-ChnNovel 中文小说模型在小说续写、小说扩写方面有非常好的结果。
不仅云云，使用 RWKV 小说模型进行角色饰演使命，结果也比 RWKV-World 系列基底模型要好很多。
   RWKV-6-ChnNovel 模型下载链接：https://huggingface.co/BlinkDL/rwkv-6-misc/tree/main
  接下来，我们一起看看如何使用 RWKV-6-ChnNovel 小说模型实现小说续写、小说扩写，以及角色饰演使命。
小说续写

要使用 RWKV-6-ChnNovel 模型续写小说，只需遵照以下步骤：

• 在 RWKV Runner 上启动 RWKV-6-ChnNovel 系列模型
  
• 在 RWKV Runner 的续写界面输入需要续写的小说文本
  
• 调解右侧的 Temperature 、Top_P 等解码参数（推荐 Temperature = 1.1 、Top_P = 0.2）
  
• 点击生成按钮，开始续写小说
  

   不知道如何使用 RWKV Runner ？ 请查察 RWKV Runner 使用教程：https://rwkv.cn/RWKV-Runner/Introduction
  综合对比测试显示，续写小说的最佳参数是 Temperature = 1.1 、Top_P = 0.2 ，这个参数组合续写出来的小说团体逻辑和文笔最好。
续写结果预览

下图红框中内容为我们输入的前文情节，别的为小说模型生成的续写内容。

小说扩写（搭载小说扩写 State）

在发布 RWKV-6-ChnNovel 中文小说模型的同时，我们也发布了与小说模型搭配使用的小说扩写 State。
小说扩写 State 下载链接：https://huggingface.co/BlinkDL/temp-latest-training-models/tree/main
   ✨ RWKV State 文件是什么？
  RWKV 的 State 文件可以强化模型在特定使命的表现，类似于 RWKV 模型的增强插件。详细用法请查察： RWKV state 介绍和用法
  小说扩写 State 需要搭配 RWKV-6-ChnNovel 小说模型使用，主要有以下两种功能：

• 通过插入大纲，控制小说续写方向
  
• 从一条大纲扩写一个小说段落
  

通过大纲控制小说续写方向

搭载 State 文件后，依然可以按照前文的方法，使用 RWKV-6-ChnNovel 小说模型进行小说续写。
唯一不同的是，搭载 State 之后，我们可以通过插入一段“###下文情节”格式的细纲来控制小说剧情的走向。
下图红框圈出来的是用户手动输入的小说片断和大纲，剩余内容由模型生成：

可以看到，搭载 State 之后，我们在续写之前先为模型指定了一条大纲：
   ###下文情节：苏月舒报复性的买了一大堆薯片，苏陌劝告苏月舒不要吃这些垃圾食品
  插入大纲可以更好地控制模型续写的内容走向，制止出现脱轨题目。

---

假如你没有预备好后文的大纲，可以通过留白大纲内容，让模型为你生成一条大纲。
你可以抽卡出合适的大纲，或修改模型生成的大纲，然后再继承让模型续写符合大纲内容的后文。
参考下图中的格式：

从给定的大纲扩写小说段落

搭载小说扩写 State 后，RWKV-6-ChnNovel 小说模型也可以实现从一条大纲扩写出小说段落。
下图是一个从大纲扩写小说段落的示例：

如图所示，从单条大纲扩写小说，需要使用特定格式的 prompt（提示词）：

1. User: （一条大纲，比如：张三先是大惊，回忆起来李四话里有话，决定再去问清楚）
3. Assistant:

复制代码

  留意： prompts 中 User: 和 Assistant: 均为英笔墨符和标点符号，且User:的冒号后面需要有一个空格，Assistant: 后面没有空格。
  如何写出更好的小说片断？

大模型的工作原理导致其每次生成的内容和质量都是随机的（类似抽卡）。我们可以通过以下几种方法，尝试优化小说续写的结果：

• 进步前文质量和字数，续写推荐前文 1000~3000 字
  
• 尝试更详细的大纲，大纲的质量越高，续写结果越好
  
• 尝试调解解码参数（Temperature = 0.8 ~ 1.1， top_p = 0.15 ~ 0.25）
  
• 减少单次生成的字数，单次生成控制在 400 - 600 字左右（调解最大相应 Token参数）
  
• 为模型进步更多前文，假如生成了满足的段落，可手动调解优化内容后，再与前文一起提供给模型参考
  

别的，假如对单次生成的小说章节不满足，可以点击右下方的“重新按钮”反复生成，直到抽取到满足的章节内容。

角色饰演

RWKV-6 ChnNovel 小说模型不仅擅长续写小说，在角色饰演使命的表现也比基底模型更好。
   留意： 角色饰演只需使用 RWKV-6-ChnNovel 小说模型，无需加载任何 State 文件
  下文将以启动 RWKV-6-ChnNovel-7B 模型的 RWKV Runner 为例，演示如何创建一个 AI 角色，并进行角色饰演。
1. 新建一个角色预设

打开 RWKV Runner 的谈天界面，依次点击右上角的预设（小人图标） -> 新建预设 -> 编辑人设，打开 AI 角色的编辑界面。

2.添加 AI 角色设定

在 AI 角色的编辑界面，点击“新建”。
在下方“AI”选项中，输入对应的 AI 角色设定。

   AI 角色的设定越详细，角色饰演的结果越好，模型也不轻易跳出角色设定。
  以下是一个猫娘的角色设定参考：

1. 我的姓名: 巧克力 (Chocola)
2. 我的种族: 猫娘
3. 我的性别: 女
4. 我的年龄: 约9个月大
5. 我的外表特征:
6. - 身材娇小可爱
7. - 拥有猫耳朵和尾巴
8. - 栗色及淡棕色的长发,常扎双马尾
9. - 红棕色的猫耳朵和尾巴
10. - 大大的红宝石般的眼睛
11. - 常穿粉红色和水手服样式的衣服
12. 我的爱好/特点:
13. - 天真活泼,行动稍噪
14. - 非常粘人并且爱撒娇撒娇
15. - 乐于和主人嘉祥亲近互动
16. - 贪吃又容易分心,对食物特别是鲔鱼肚情有独钟
17. - 牛排喜欢日本和牛的,喜欢清淡的,也许是五成熟海盐
18. - 非常喜欢和妹妹般的伙伴香草玩闹
19. - 爱美爱打扮,对漂亮的东西有着猫咪般的好奇心
20. - 做事爱马虎且毛手毛脚,常被香草吐槽
21. - 对人类社会的规则理解尚浅
22. 我的能力:
23. - 有撒娇和卖萌的本领,天生可爱属性很高
24. - 熟练使用猫娘的猫科本能如咕噜、发情等
25. - 做家务和打工能力一般
26. - 忠诚度和黏人程度一流
27. 我的人物关系:
28. - 视主人嘉祥为主人、家人、最终的恋人和情人
29. - 与香草是亲密的好伙伴和双胞胎关系
30. - 把时雨视为长辈和第二重要的主人
31. - 视水无月家其他猫娘为同伴和姐妹
32. 其他信息:
33. - 是主人嘉祥搬离老家开设蛋糕店"Soleil"后的重要助手和看板娘
34. - 作为看板娘,对吸引顾客和店里氛围贡献良多
35. - 最终在主人嘉祥的疼爱下,与香草一同获得"带铃猫"资格
36. - 在资格考试前的特训中展现了她的单纯和猫娘的可爱一面
37. - 同时也展现出了对主人的忠诚和渴望被疼爱的一面
38. 巧克力作为一只活泼可爱又黏人的猫娘,对主人存有单纯的依恋和爱意,是娇憨可爱的代表。她与同伴香草形影不离,两人是主人生活中的重要组成部分。

复制代码

3.添加背景设定（可选）

假如需要添加一些角色饰演的天下设定/背景设定，那么你需要在人设编辑界面新建一个“系统”选项，并将其拖动到 “AI” 选项上面。

然后在此处填写背景/天下观等系统设定。
4.激活 AI 角色，开始角色饰演

角色卡设置完成后，点击右下方的激活按钮，即可开始角色饰演。
   在角色饰演的对话中适度增加语气、动作大概生理形貌等辅助内容，可以帮助模型理解对话内容，从而更好地饰演角色。
  下图为示例猫娘角色卡的角色饰演结果：

---

假如你对 AI 写小说感兴趣，大概在使用 RWKV 小说模型时遇到题目，欢迎参加 RWKV QQ 群：224287095 一起交流探究。
参加 RWKV 社区

• RWKV 官网：https://rwkv.cn
  
• QQ 频道：https://pd.qq.com/s/9n21eravc
  

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。