GPT-4最全攻略来袭！OpenAI官方发布，六个月攒下来的使用经验都在里面了( 三 ) _GPT-4

2、隐藏推理过程
上面讲到了让模型进行推理，给出解决方案。
但在某些应用中，模型得出最终答案的推理过程不适合与用户共享。
比如，在作业辅导中，我们还是希望鼓励学生制定自己的解题方案，然后得出正确答案。但模型对学生解决方案的推理过程可能会向学生揭示答案。
这时候我们就需要模型进行“内心独白”策略，让模型将输出中要对用户隐藏的部分放入结构化格式中。
然后，在向用户呈现输出之前，对输出进行解析，并且仅使部分输出可见。
就像下面这个示例：
先让模型制定自己的解决方案（因为学生的有可能是错的），然后与学生的解决方案进行对比。
如果学生的答案中哪一步出错了，那就让模型针对这一步给出一点提示，而不是直接给学生完整的正确的解决方案。
如果学生还是错了，那就再进行上一步的提示。

文章插图
还可以使用“查询”策略，其中除了最后一步的查询以外，所有查询的输出都对用户隐藏。
首先，我们可以要求模型自行解决问题。由于这个初始查询不需要学生的解决方案，因此可以省略掉。这也提供了额外的优势，即模型的解决方案不会受到学生解决方案偏见的影响。
接下来，我们可以让模型使用所有可用信息来评估学生解决方案的正确性。

文章插图
最后，我们可以让模型使用自己的分析来构建导师的角色。

你是一名数学导师。如果学生回答有误，请以不透露答案的方式向学生进行提示。如果学生答案无误，只需给他们一个鼓励性的评论。

3、询问模型是否遗漏了内容
假设我们正在让GPT-4列出一个与特定问题相关的源文件摘录，在列出每个摘录之后，模型需要确定是继续写入下一个摘录，还是停止。
如果源文件很大，模型往往会过早地停止，未能列出所有相关的摘录。
在这种情况下，通常可以让模型进行后续查询，找到它在之前的处理中遗漏的摘录。
换而言之，模型生成的文本有可能很长，一次性生成不完，那么就可以让它进行查验，把遗漏的内容再补上。

文章插图
策略五：其它工具加持
GPT-4虽然强大，但并非万能。
我们可以借助其他工具来补充GPT-4的不足之处。
比如，结合文本检索系统，或者利用代码执行引擎。
在让GPT-4回答问题时，如果有一些任务可以由其他工具更可靠、更高效地完成，那么我们可以将这些任务交给它们来完成。这样既能发挥各自的优势，又能让GPT-4发挥最佳水平。
实用技巧：
1、使用基于嵌入的搜索实现高效的知识检索
这一技巧在上文中已经有所提及。
若在模型的输入中提供额外的外部信息，有助于模型生成更好的回答。
例如，如果用户询问关于一部特定电影的问题，将关于电影的信息（例如演员、导演等）添加到模型的输入中可能会很有用。
嵌入可用于实现高效的知识检索，可以在模型运行时动态地将相关信息添加到模型的输入中。
文本嵌入是一种可以衡量文本字符串相关性的向量。相似或相关的字符串将比不相关的字符串更紧密地结合在一起。加上快速向量搜索算法的存在，意味着可以使用嵌入来实现高效的知识检索。
特别的是，文本语料库可以分成多个部分，每个部分可以进行嵌入和存储。然后，给定一个查询，可以进行向量搜索以找到与查询最相关的语料库中的嵌入文本部分。
2、使用代码执行进行更准确的计算或调用外部API
不能仅依靠模型自身进行准确地计算。
如果需要，可以指示模型编写和运行代码，而不是进行自主计算。
可以指示模型将要运行的代码放入指定的格式中。在生成输出后，可以提取和运行代码。生成输出后，可以提取并运行代码。最后，如果需要，代码执行引擎（即Python/ target=_blank class=infotextkey>Python解释器）的输出可以作为下一个输入。