[日期] 预计学习时间:15-20 小时
10.1 Prompt 注入防御
防御策略:
- 输入/输出分离标记
- LLM Guard 输入检测
- 输出过滤
- 权限最小化
- 沙箱执行
- Human-in-the-loop
学习资料清单
llm-guard-ai/llm-guard— Prompt 注入防御:https://github.com/llm-guard-ai/llm-guard- OWASP Top 10 for LLM:https://owasp.org/www-project-top-10-for-large-language-model-applications/