SecOPD: 적응형 프롬프트 인젝션 방어를 위한 온-폴리시 디스틸레이션
프롬프트 인젝션 공격을 방어하기 위해 토큰 수준 피드백을 활용한 방어 기법 SecOPD를 제안한다. SecOPD를 적용한 Qwen3.6-27B 모델은 기존 최고 성능 모델인 Meta-SecAlign 대비 9.0%의 공격 성공률을 기록했다.
시사점 SecOPD는 적응형 프롬프트 인젝션 공격에 대해 기존 방어 기법 대비 훨씬 낮은 공격 성공률을 보여 AI 에이전트 보안 강화에 기여할 수 있다.