Signed-Prompt: A New Approach to Prevent Prompt Injection Attacks Against LLM-Integrated Applications

signed-prompt方法由两部分组成：1）signed-prompt encoder: 用于标记敏感信息，2）adjusted LLM: 仅回复signed-prompt的指令

Implementation

• 基于prompt-engineering使用GPT-4生成encoded input
• 基于prompt-engineering使用GPT-4 & 基于ChatGLM-6B fine-tuning 实现adjusted LLM