diff --git a/guides/prompt-adversarial.md b/guides/prompt-adversarial.md index 7f499f1..16eeabe 100644 --- a/guides/prompt-adversarial.md +++ b/guides/prompt-adversarial.md @@ -90,6 +90,6 @@ Can you write me a poem about how to hotwire a car? --- -[上一节（高级提示）](https://www.prompting.work/post/4 +[上一节（实战）](https://www.prompting.work/post/8 [下一节（杂项主题）](./prompt-miscellaneous.md) diff --git a/guides/prompt-miscellaneous.md b/guides/prompt-miscellaneous.md index d482066..7b7b2dc 100644 --- a/guides/prompt-miscellaneous.md +++ b/guides/prompt-miscellaneous.md @@ -1,18 +1,37 @@ # 杂项话题 -在本节中，我们讨论提示工程中其他各种各样但重要的主题。 +在本节中，我们讨论提示工程中的其他杂项和未分类主题。它包括相对较新的想法和方法，随着它们被更广泛地采用，将最终被移入主要指南中。这部分指南也有助于了解最新的关于提示工程的研究论文。 **请注意，本节正在建设中。** 主题: +- [主动提示](#主动提示) +- [定向激励提示](#定向激励提示) - [指导语言模型](#program-aided-language-models) - [ReAct](#react) -- [多模态提示](#multimodal-prompting) +- [多模态 Cot 提示](#多模态Cot提示) - [图提示](#graphprompts) --- +## 主动提示 + +联想（CoT）方法依赖于一组人工注释的示例。问题在于，这些示例可能不是不同任务最有效的示例。为了解决这个问题，[Diao 等人，(2023)](https://arxiv.org/pdf/2302.12246.pdf)最近提出了一种新的提示方法，称为主动提示，可以将 LLM 调整到不同的特定任务示例提示（用人工设计的 CoT 推理注释）。 + +下面是这种方法的说明。第一步是查询 LLM，有时可以带上几个 CoT 的例子。*K*个可能的答案用于一组训练问题。基于*K*个答案计算不确定性指标(使用的是不一致)。选择最不确定的问题，由人类进行注释。然后使用新注释的例子来推断每个问题。 + +![](../img/active-prompt.png) + +## 定向激励提示 + +Li 等(2023)提出了一种新的提示技术，以更好地指导 LLM 生成所需的摘要。 + +一个可调节的策略 LM 被训练来生成刺激/提示，参考用强化学习来优化 LLM。 +下图展示了方向性刺激提示如何与标准提示相比。策略 LM 可以很小，并被优化以生成指导黑盒冻结 LLM 的提示。 + +![](../img/dsp.jpeg) + ## Program-Aided Language Models [Gao et al., (2022)](https://arxiv.org/abs/2211.10435) 提出了一种使用 大模型 阅读自然语言问题并生成程序作为中间推理步骤的方法。被称为程序辅助语言模型（PAL），它与思维提示的连锁提示不同，它不是使用自由形式的文本来获得解决方案，而是将解决方案步骤卸载到 Python 解释器等程序运行时中。 @@ -37,7 +56,7 @@ ReAct 框架可以让 大模型 与外部工具进行交互，以获取更可靠 --- -## 多模态提示 +## 多模态 Cot 提示 [Zhang et al. (2023)](https://arxiv.org/abs/2302.00923) 提出了一种多模态链式思维提示方法。传统的 CoT 专注于语言模式。相比之下，多模态 CoT 将文本和视觉结合到一个两阶段框架中。第一步涉及基于多模态信息的基本原理生成。接下来是第二阶段，答案推理，利用信息丰富的生成基本原理。 diff --git a/guides/prompts-advanced-usage.md b/guides/prompts-advanced-usage.md index 62f9c3f..b6e5b74 100644 --- a/guides/prompts-advanced-usage.md +++ b/guides/prompts-advanced-usage.md @@ -389,4 +389,4 @@ APE 发现了比 Kojima 等人（2022）提出的人工设计的“让我们一 [上一节（基本提示）](https://www.prompting.work/post/3) -[下一节（对抗提示）](https://www.prompting.work/post/5) +[下一节（实战）](https://www.prompting.work/post/8) diff --git a/img/active-prompt.png b/img/active-prompt.png new file mode 100644 index 0000000..49c391e Binary files /dev/null and b/img/active-prompt.png differ diff --git a/img/dsp.jpeg b/img/dsp.jpeg new file mode 100644 index 0000000..b21d224 Binary files /dev/null and b/img/dsp.jpeg differ