사이버 점수 시스템의 차이: 실증적 비교
취약점·익스플로잇
네 가지 취약점 점수 시스템(CVSS, EPSS, SSVC, IronMiner)을 비교했다. 2015년 우크라이나 전력망 사고 사례에서 각 시스템의 점수가 크게 달랐다.
시사점 실무에서는 단일 시스템보다 복합적 점수 접근법을 고려해야 할 수 있다.
취약점 점수CVSSEPSSSSVC
(새 창에서 원문 열기)RESEARCH
연구·리포트 참고 자료
이번 주 연구
연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
연구 목록
ToolFence: 안전한 도구 사용 LLM 에이전트를 위한 세부 권한 부여
AI 보안LLM 에이전트가 간접 프롬프트 인젝션 공격에 취약한 문제를 해결하기 위해, 실행 전에 타입화된 권한 청사진을 컴파일하고 결정론적 모니터를 통해 강제하는 ToolFence 기법을 제안한다. ToolFence는 사용자 권한이 있는 값과 신뢰되지 않은 관찰을 구분하여 공격 성공률을 3.80%포인트 이하로 낮춘다.
시사점 ToolFence는 LLM 에이전트의 권한 관리를 세부적으로 제어하여 보안성을 향상시키며, 실무에서 프롬프트 인젝션 공격 대응에 활용할 수 있다.
AI 보안프롬프트 인젝션LLM 에이전트권한 부여(새 창에서 원문 열기)OPFL: 연방 학습에서의 비관적 검증
AI 보안연방 학습에서 클라이언트의 악의적인 업데이트를 검증하기 위해 OPFL이라는 새로운 기법을 제안한다. 실험 결과, OPFL은 모델 중독 공격과 PGD 기반 공격에 대해 0%의 공격 성공률을 달성했으며, LeNet 작업에서 전체 MPC 기반 FL보다 약 98.6배 빠르고 ZK 기반 접근보다 625.5배 빠르다.
시사점 OPFL은 연방 학습 환경에서 악의적인 업데이트를 효과적으로 검증할 수 있는 새로운 기법으로, 보안과 효율성을 동시에 달성할 수 있다.
연방 학습보안OPFL비관적 검증(새 창에서 원문 열기)하나의 파이프라인은 모든 경우에 적합하지 않다: 취약점 재현을 위한 TAILOR 프레임워크
취약점·익스플로잇다양한 실행 요구사항을 가진 취약점 재현을 위해 유형과 상태를 인식하는 TAILOR 프레임워크를 제안한다. TAILOR는 59.24%의 웹 취약점과 44.19%의 전통적 취약점을 성공적으로 재현하였다.
시사점 TAILOR는 다양한 취약점의 자동화된 재현을 가능하게 하여 보안 팀의 진단과 방어 작업을 지원한다.
취약점 재현자동화TAILORCVE(새 창에서 원문 열기)블랙박스 LLM에 대한 제어된 디코딩 공격(Controlled Decoding Attacks)
AI 보안이 연구는 대형 언어 모델의 안전 정렬을 우회하기 위해 텍스트만을 사용하는 제어된 디코딩 공격 기법을 제안한다. 네 가지 타겟 엔드포인트와 세 가지 벤치마크에서 기존 기법 대비 가장 높은 평균 점수를 달성했다.
시사점 이 연구는 실제 서비스 중인 LLM의 안전 정렬을 우회할 수 있는 공격 기법을 제시하여, LLM 보안 대응 전략의 재검토가 필요하다.
LLM 보안안전 정렬 우회제어된 디코딩악성 프롬프트 공격(새 창에서 원문 열기)블랙박스 LLM에 대한 실용적 비밀 추출
AI 보안본 연구는 블랙박스 대형 언어 모델(LLM)에서 비밀 정보를 추출하는 새로운 프레임워크를 제안한다. 이 프레임워크는 비밀 관련 행동을 로컬 화이트박스 프록시로 정제하고, 추출된 후보를 필터링하는 두 단계로 구성된다. 제어된 API 키 벤치마크에서 기존 기준보다 추출 효과성과 실제 키 비율을 향상시키며, OpenAI와 Claude Code의 독립적으로 배포된 시스템에서 마스킹된 자격 증명을 복구하였다.
시사점 이 연구는 블랙박스 LLM에서 비밀 정보가 추출될 수 있음을 보여주어, 기업이 모델 훈련 데이터의 보안을 강화할 필요성을 강조한다.
LLM비밀 추출블랙박스 공격API 키(새 창에서 원문 열기)SKILLLITE: 컴팩트 LLM을 활용한 악성 스킬 감사
AI 보안LLM 기반 에이전트의 악성 스킬 감지를 위해 증거 기반 프레임워크 SKILLLITE를 제안한다. SKILLLITE는 다양한 컴팩트 LLM에서 악성 스킬 탐지 성능을 기존 대비 향상시킨다.
시사점 리소스 제약 환경에서도 효과적인 악성 스킬 감사를 위해 컴팩트 LLM 기반 프레임워크를 도입할 수 있다.
LLM악성 스킬 감사컴팩트 모델보안 감사(새 창에서 원문 열기)더 안전한 콘텐츠 또는 더 단호한 거부? 해로운 파인튜닝을 위한 하이브리드 퍼트urbation 방어
AI 보안해로운 파인튜닝 공격으로부터 대규모 언어 모델의 정렬을 보호하기 위해 VaccineBooster라는 새로운 방어 기법을 제안한다. VaccineBooster는 OpenAI 중재 점수 0.315를 달성했으며, 거부율은 50%를 유지한다.
시사점 VaccineBooster는 정렬된 모델이 신뢰할 수 없는 파인튜닝에 노출될 때 콘텐츠 안전성과 거부 행동 간의 우선순위를 설정하는 데 실무적으로 활용될 수 있다.
대규모 언어 모델정렬 방어파인튜닝 공격VaccineBooster(새 창에서 원문 열기)다중 턴 대화에서의 안전하지 않은 그래디언트 생존 여부: 그래디언트 기반 탈옥 탐지의 취약성
AI 보안이 연구는 다중 턴 대화에서 그래디언트 기반 탈옥 탐지의 효과성을 평가하고, 다양한 윈도우 크기와 공격 유형을 고려한 실험을 수행했다. 합성 데이터에서는 ROC-AUC 0.98을 달성했으나, 실제 대화에서는 0.76로 감소했으며, 90% 이상의 정상 대화가 위험으로 분류되었다.
시사점 실제 대화 환경에서 그래디언트 기반 탈옥 탐지를 신뢰성 있게 사용하려면 실제 데이터 기반 교정과 짧은 윈도우 크기, 길이에 따른 임계값 설정이 필요하다.
AI 보안탈옥 탐지그래디언트 기반다중 턴 대화(새 창에서 원문 열기)pikit: 간접 프롬프트 인젝션(ai-security) 연구 및 평가를 위한 구성 가능한 툴킷
AI 보안간접 프롬프트 인젝션 공격을 체계적으로 평가하기 위한 툴킷 pikit을 제안한다. 9개 방어 전략을 고위험 공격에 대비해 평가한 결과, 공격 성공률을 71.8% 상대적으로 감소시킨다.
시사점 이 툴킷은 실무에서 간접 프롬프트 인젝션 공격의 위험성을 평가하고 방어 전략을 검증하는 데 활용할 수 있다.
프롬프트 인젝션ai-security방어 전략툴킷(새 창에서 원문 열기)딥러닝 지연 공격(latency attack)과 방어: 가용성 위협에 대한 다분야 서베이
AI 보안딥러닝 모델의 가용성 위협을 중심으로 지연 공격과 방어 전략을 다분야에 걸쳐 종합적으로 조사한다. 공격 메커니즘과 방어 방법을 분류하고, 시스템 수준의 가용성 실패 조건을 분석한다.
시사점 이 연구는 딥러닝 시스템의 가용성 보장을 위해 지연 공격에 대한 이해와 방어 전략 수립의 중요성을 실무에 강조한다.
딥러닝지연 공격가용성ai-security(새 창에서 원문 열기)링크 기반 컴파트먼트 모델의 효율적 구현 (CHERI)
시스템·하드웨어CHERI 메모리 안전성을 기반으로 UNIX 사용자 공간의 세분화된 컴파트먼트를 구현하여 10,000개 이상의 컴파트먼트를 지원한다. 크롬브라우저 같은 대규모 애플리케이션에서 500개 이상의 컴파트먼트를 처리할 수 있으며, 소스 코드 변경이 거의 없는 효율적인 구현을 보인다.
시사점 이 연구는 CHERI 기반의 컴파트먼트 모델을 통해 메모리 보호를 강화하고, 대규모 애플리케이션에서의 실용성을 입증하여 보안 아키텍처 설계에 기여한다.
CHERI컴파트먼트 모델메모리 안전성UNIX 사용자 공간(새 창에서 원문 열기)자체 진화 방어(Self-Evolving Defense): LLM 에이전트를 위한 지속적 보안 정책 학습
AI 보안LLM 에이전트의 보안 위험을 해결하기 위해 Self-Evolving Defense (SED)라는 훈련 없는 방어 프레임워크를 제안한다. SED는 0.42%의 타겟 프롬프트 주입 성공률을 기록했으며, 기존 최고 기준 방어보다 3.7%로 훨씬 낮췄다.
시사점 SED는 LLM 에이전트의 보안 정책을 지속적으로 적응시키며, 기존 방어 기법보다 훨씬 낮은 공격 성공률을 보여 실무에서 적용 가능하다.
LLM 에이전트Self-Evolving Defense보안 정책프롬프트 주입(새 창에서 원문 열기)사이버퍼시스텐스벤치(CyberPersistBench): LLM 기반 사이버 공격자의 설치 및 지속성 평가
AI 보안기존 사이버 보안 벤치마크는 초기 접근까지만 평가하는 한계가 있어, LLM 기반 공격자가 지속성을 유지하는 능력을 평가하는 새로운 벤치마크인 CyberPersistBench를 제안한다. 5개의 최첨단 에이전트를 대상으로 한 실증 평가에서 자동 지속성은 27.6%~44.8%에 불과하며, 방어가 활성화된 경우 5.5%~13.3%로 급격히 떨어진다.
시사점 이 연구는 사이버 공격자의 지속성 평가가 필요하다는 점을 강조하며, 보안 전문가들이 LLM 기반 공격의 지속성에 대한 이해를 높이고 방어 전략을 개선해야 함을 시사한다.
LLM사이버 공격지속성 평가벤치마크(새 창에서 원문 열기)카운터스티어: 활성화 조정을 통한 간접 프롬프트 인젝션 억제
AI 보안LLM 에이전트의 간접 프롬프트 인젝션을 억제하기 위해 활성화 조정 기반 방어 기법인 CounterSteer를 제안한다. 5가지 개방 가중치 모델에서 공격 성공률이 0.21-1.00에서 0.00-0.17로 감소했으며, AgentDojo 침해율은 0.10-0.49에서 0.006-0.079로 감소했다.
시사점 CounterSteer는 LLM 에이전트의 간접 프롬트 인젝션 공격에 효과적으로 대응할 수 있는 방어 기법으로, 실무에서 즉시 적용 가능한 방안이다.
프롬프트 인젝션(prompt injection)LLM 에이전트활성화 조정CounterSteer(새 창에서 원문 열기)정상행동을 아는 것이 공격추적이다: 시스템 프로벤언스 기반의 컨텍스트 기반 및 상태 유지 LLM 조사
AI 보안기존의 프로벤언스 기반 침입 탐지 시스템(PIDS)은 공격 스토리라인을 구성하기 어려운 문제를 해결하기 위해, ANCHOR라는 조사 중심의 프로벤언스 시스템을 제안한다. ANCHOR는 증거 큐를 통해 원인 구조, 시간 경계, 창 간 연속성을 보존하며, 공격 스테이지별로 공격 스토리라인을 점진적으로 재구성한다. 6개 DARPA 데이터셋을 기반으로 한 평가에서 기존 기반 시스템보다 IoC 복구율과 공격 스테이지 속성 지정이 개선되었다.
시사점 이 연구는 시스템 프로벤언스 데이터를 기반으로 LLM을 활용한 공격 추적 방법을 제안하여, 보안 분석의 정확성과 효율성을 높일 수 있다.
프로벤언스 기반 침입 탐지LLM 조사공격 스토리라인 재구성ANCHOR(새 창에서 원문 열기)양자화를 통한 암호화된 밀집 검색
암호밀집 검색의 개인정보 보호를 위해 암호화된 행렬과 벡터의 곱셈을 활용한 2단계 암호 프로토콜을 제안한다. 3비트 양자화를 적용한 결과, 검색 품질과 RAG 정확도가 유지되며, 임상 참고문헌 크기의 문서에서 1~3분의 서버 시간이 소요된다.
시사점 이 연구는 개인정보 보호가 필요한 중간 규모의 문서에서 실용적인 밀집 검색을 가능하게 하며, 분당 수준의 지연이 허용되는 환경에 적합하다.
암호화밀집 검색양자화RAG(새 창에서 원문 열기)청중 제한 메모리: 메모리 수명 주기 내 권한 부여
AI 보안개인 언어 에이전트가 다양한 대화에서 정보를 학습하고 적용할 때 청중에 따른 권한 부여를 연구한다. 10,000개의 다자간 기록에서 불법 항목이 82% 감소했으며, 정확도는 기존 기준과 동일하거나 높았다.
시사점 이 연구는 개인 언어 에이전트의 정보 공유를 체계적으로 제어할 수 있는 새로운 접근법을 제시한다.
AI 보안메모리 수명 주기권한 부여개인 언어 에이전트(새 창에서 원문 열기)TTMark: 단일 토큰 엔트로피를 넘어서는 페어 와터마크 기법
AI 보안기존 토큰 기반 와터마크는 개별 토큰의 엔트로피에 제약받았으나, TTMARK는 연속 토큰 쌍의 결합 분포를 활용해 와터마크 알파벳을 확장하고 감지 능력을 향상시켰다. 실험 결과 생성 품질 저하 없이 감지력과 편집 내성을 개선했다.
시사점 이 연구는 기계 생성 텍스트의 신뢰성 있는 추적을 위해 토큰 쌍 기반 와터마크 기법을 제안하며, 보다 강력하고 정확한 와터마크 감지 기술의 필요성을 강조한다.
워터마크토큰 쌍엔트로피LLM 보안(새 창에서 원문 열기)이웃을 이용한 단일 라운드 멤버십 추론 교정
프라이버시기존 멤버십 추론 공격은 참조 모델을 사용해 각 샘플별로 신호를 교정했지만, 대규모 모델에서는 계산 비용이 높아졌다. 본 연구는 대상 포인트의 이웃을 이용해 신호를 교정하는 새로운 방법을 제안한다. 3개의 이미지 분류 데이터셋에서 이 방법이 기존 공격 성능을 유지하면서 추가 학습 비용 없이 강력한 멤버십 신호를 제공함을 보였다.
시사점 이 연구는 대규모 모델에서도 계산 비용을 유지하면서 멤버십 추론 공격을 효과적으로 수행할 수 있는 새로운 접근법을 제시한다.
멤버십 추론privacy모델 보안AI 보안(새 창에서 원문 열기)DecoyTrace: 분산 연방 학습에서의 적극적 방어를 위한 독성 델루스
AI 보안이 연구는 분산 연방 학습(DFL) 환경에서 악성 업데이트를 탐지하고 격리하는 적극적 방어 기법 DecoyTrace를 제안한다. DecoyTrace는 60개의 구성에서 평가되었으며, MNIST/FashionMNIST에서 기준선 대비 F1-score가 0.03 이내로 유지되는 등 성능 저하를 최소화했다.
시사점 이 연구는 분산 연방 학习 환경에서의 보안 방어 전략을 제시하여, DFL 시스템의 안정성과 신뢰성을 높이는 데 기여할 수 있다.
분산 연방 학습보안 방어델루스적극적 방어(새 창에서 원문 열기)
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.