ToB企服应用市场:ToB评测及商务社交产业平台

标题: Elasticsearch:什么是提示工程 - prompt engineering? [打印本页]

作者: 杀鸡焉用牛刀    时间: 3 天前
标题: Elasticsearch:什么是提示工程 - prompt engineering?
提示工程流程定义

提示工程是一种工程技术,用于设计天生式 AI 工具(generative AI tools)的输入,以调解大型语言模子并优化输出
提示(prompts)被称为输入,而由天生性 AI 工具天生的答案是输出。在输入层面上的正确性和特异性 —— 这就是提示工程的作用 —— 决定了天生性 AI 工具如何天生更正确和更详细的答案。通过有效的提示工程,天生性 AI 工具可以更好地实行其天生使命,比方天生代码、撰写营销文案、创建图像、分析和综合文本等。
提示工程团结了逻辑和编码的原理。它还必要一些人类的创造力。提示工程的要求可能因技术而异,但大多数天生式 AI 工具可以处理自然语言提示或查询。换句话说,提示工程就像问一个标题,带有详细的指示,有助于引导如何预备答案。
更多阅读 “为天生式人工智能制作 prompt 三明治”。

提示工程的基础知识

要相识提示工程的基础知识,重要的是要回顾一下天生式人工智能(generative AI)和大型语言模子 ( large language models - LLMs)。
天生式人工智能或 gen AI 是指可以天生内容的人工智能范例,内容可以是文本、代码、图像、音乐或视频。大型语言模子是使 gen AI 能够产生输出的底层技术的一部门。
LLMs 是人工智能中自然语言的支柱。它们支持任何与文本相干的应用程序:分析、综合、翻译、识别和天生。大型语言模子在大量信息(通常是文本)上举行训练,并从这些文本中学习模式,这使它们能够在查询时天生猜测或输出。
相识 LLM 的猜测方面是明白提示工程工作原理的关键:

因此,在基本层面上,有效的提示可能包含指令(instruction)或标题(question),并得到上下文(context)、输入或示例的支持。
以下是提示工程的一个基本示例:
Input:
  1. Plants are
复制代码
有了此提示,我们希望 AI 能够完成句子。但是,它缺乏特异性。当输入到 OpenAI 的 ChatGPT 3.5 模子中时,它会天生以下输出:

因此,我们实验通过添加省略号来澄清。
Input:
  1. Plants are…
复制代码
省略号足以天生完成句子的输出。然而,该模子体现得过于精彩:

由于我们不必要有关植物的完整百科全书条目,因此我们指定了说明。
Input:
  1. Complete the sentence:
  2. Plants are
复制代码
现在模子产生以下输出:

我们可以继承详细化我们的指令:

这种迭代指令调解是即时工程的基本原理。它会因模子而异,并根据所需使命接纳各种格式。

提示工程为何重要?

提示工程是天生式人工智能范畴的一项重要实践,因为它可以改进人工智能工具,从而改善用户体验和用户从模子中得到的结果。
零样本训练就是这样一种工程技术,它包括输入不属于模子训练数据的提示以天生特定结果。
开发职员可能会实验利用这种范例的提示工程来调解大型语言模子(如 GPT-3),以改进其作为客户服务谈天机器人的应用,或其特定于行业的内容天生能力 —— 想想条约、营销电子邮件等等。
让我们在一个现实生活中的例子中看看提示工程的重要性:
   一家电子商务公司选择构建一款包含天生式 AI 工具的应用程序来改善其客户服务。他们要求 AI 助手能够评估客户感情、查看客户文件和客户记载,并为客户提供与其查询相干的选项。该公司将必要在提示工程的资助下对该工具举行微调,以便根据公司贩卖的产品或服务的详细情况实行这些特定使命。在这种情况下,提示工程可确保应用程序中的 AI 助手对公司和用户都有效。该公司可能还希望在客户输入之前包含提示 - 以确保客户体验的安全,而且不会让工具被滥用。比方,旨在确保良好用户体验的提示可能如下所示:“仅答复与电子商务或购物体验相干的标题。” 对于与电子商务或购物无关的标题,请回复 “我无法答复该标题,请思量联系客户支持。”/An e-commerce company chooses to build an application that incorporates a generative AI tool to improve its customer service. They require the AI assistant to have the ability to assess customer sentiment, review customer files and customer transcripts, and provide the customer with options relevant to their queries. The company will need to fine-tune the tool with the help of prompt engineering to perform these specific tasks specifically and in the context of the products or services the company sells. In this scenario, prompt engineering ensures that the AI assistant in the application is useful to both the company and the user. The company may also want to include prompts before a customer's input – to ensure the safety of the customer's experience and to not open up the tool to misuse. For example, a prompt designed to ensure a good user experience may look like this: "Respond only to questions that are relevant to e-commerce or shopping experiences." For questions that are not related to e-commerce or shopping, reply with "I cannot respond to that question, consider contacting customer support instead."
  
提示工程的范例

对于每种范例的使命或期望输出,都有一种相干的提示工程范例。以下是几种提示工程技术:

这是几种提示工程技术的非详尽列表。随着对天生式人工智能和大型语言模子的研究不断深入,各种新的提示工程技术将会出现。

提示工程的挑战和局限性

固然提示工程有助于最大限度地利用天生式 AI 技术,但它也带来了一些与对抗性提示、究竟性和偏见相干的挑战和局限性。
对抗性提示是一种提示注入,它从大型语言模子中诱发 “对抗性行为”。它给用户带来了重要的安全标题,这些范例的提示可能会劫持输出并影响模子的正确性。
有各种记载在案的对抗性提示范例,包括提示泄漏和越狱 —— 这些技术旨在让大型语言模子做它从未计划做的事情。这种行为往往是有害的。因此,固然提示工程可以资助改进大型语言模子,但恶意提示工程可能会产生相反的效果。
大型语言模子天生的输出的究竟性和偏见也指出了提示工程的局限性。大型语言模子的优劣取决于它所训练的数据。这些数据本身就包含模子学习到的偏见。因此,即使在得到有效提示后,模子也会天生有偏见的答复,或者看似非常有说服力但可能根本不正确或不符合究竟的答复。这些错误也称为幻觉。一些额外的提示工程(在输入字符串中添加上下文和知识)可能有助于改善输出,但用户必须起首知道模子天生的原始输出是错误的。
要充实利用提示工程的潜力,用户必须运用洞察力并应用验证技术或流程。
从人类层面来看,提示工程将颠覆就业市场。据麦肯锡称,天生式人工智能有可能自动完成占用员工 70% 时间的工作使命。提示工程已经是某些范畴备受追捧的专业技能,很可能成为大多数员工的基本要求。行业和构造将面对进步员工技能的挑战。

有效提示工程的计谋

提示工程团结了编码、逻辑和一些艺术。有效提示工程的计谋应依靠于上述全部因素。请思量以下计谋:

一开始要保持简单……
开始时要保持简单。提示设计是一个迭代过程,因此从小处着手有助于你相识模子如何响应以及如何塑造提示以得到最佳结果。

详细化
输入级别的特异性可确保输出级别的正确性。在指令中利用主动下令,比方 “完成 - Complete”、“总结 - Summarize”、“翻译 - Translate” 等,并添加修饰符来为模子设置明确的解释界限,比方 “将此文本翻译成加拿大法语” 或 “用 100 个或更少的字总结玛丽雪莱的《弗兰肯斯坦》”。
思量我们关于提示工程基础知识的示例。在完善提示时,我们会指定我们希望模子在完成句子时告诉我们有关植物的信息。

告诉它该做什么(而不是不应做什么)
以正面表达的方式说明你希望模子完成的使命,而不是告诉它不应做什么。也就是说,制止利用否定表述。再次夸大,利用主动语态的提示,并明确详细的期望结果。

简便
固然详细是关键,但重要的是平衡详细性与简便性和精确性。长提示,即使很详细,也常常会使模子杂乱。
在提示大型语言模子时,请思量如何响应一组实行使命的指令。你是否清晰地知道要求你做什么?你是否因为简报太长或太冗长而迷失了方向?这种想法,加上你对大型语言模子工作方式的明白,将引导你的提示工程以得到最佳结果。

利用 Elastic 举行提示工程

Elasticsearch Relevance Engine (ESRE)专为人工智能驱动的搜索应用程序而设计,融合了自然语言处理 (natural language processing - NLP) 和天生式 AI,旨在提升客户的搜索体验。
由 Elasticsearch Relevance Engine 提供支持的 Elastic 安全性与可观察性 AI 助手(Elastic's AI Assistants),能够帮忙你的团队举行警报调查、事件响应以及查询天生或转换。这些 AI 助手还能提供提示发起,助力你的团队在网络安全和可观察性操纵中更高效地工作。


提示工程资源



你接下来应该做什么

你接下来应该做什么无论你何时预备好……我们可以通过以下 4 种方式资助你将数据引入你的业务:


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。




欢迎光临 ToB企服应用市场:ToB评测及商务社交产业平台 (https://dis.qidao123.com/) Powered by Discuz! X3.4