动态少样本提示

动态少样本提示 构建在少样本提示（few-shot prompting）的基础上，通过动态地在提示中包含特定的示例来引导模型的响应。 调整这些示例的数量和相关性可以优化上下文长度和相关性，从而提升模型的效率和性能。像 scikit-llm 这样的库实现了这一技术，它使用最近邻搜索来获取与用户查询最相关的示例。该 技术 可以更好地利用模型有限的上下文窗口，并减少 token 消耗。开源 SQL 生成器 vanna 就是利用动态少样本提示来提高响应的准确性的。