📄️ LLM 中的对抗提示
对抗提示是提示工程中的一个重要主题,因为它有助于了解 LLM 存在的风险和安全问题。这也是一个重要的学科,用于识别这些风险并设计技术来解决这些问题。
📄️ 偏见
LLM 可能会产生有问题的生成结果,这可能会对模型在下游任务上的性能产生负面影响,并显示出可能会恶化模型性能的偏见。一些问题可以通过有效的提示策略来缓解,但可能需要更高级的解决方案,比如调节和过滤。
📄️ 真实性
LLM(大型语言模型)往往会生成听起来连贯有说服力的回答,但有时可能是虚构的。改进提示可以帮助改善模型生成更准确/真实的回答,并减少生成不一致和虚构的回应的可能性。