연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
딥페이크 오디오를 탐지하기 위해 시간적 일관성 분석 프레임워크를 제안한다. CLAP 임베딩을 기반으로 오디오 구간 간 코사인 유사도를 계산하고, 분포에서 통계적 특성을 추출하여 경량 앙상블 분류기를 학습시켰으며, 21개의 통계적 특성이 학습과 실제 배포에서 구분 방향이 뒤바뀌는 현상을 발견했다.
시사점 이 연구는 딥페이크 오디오 탐지에 있어 시간적 일관성 분석을 통해 경량화된 방법으로도 높은 성능을 달성할 수 있음을 보여준다.
풀더플렉스 음성 모델에서 사용자의 음성 입력을 수신하면서 응답을 생성하는 과정에서 발생하는 공격 표면을 분석하고, 새로운 공격 기법 DuplexJail을 제안한다. 4개 오픈소스 모델과 720개 해악 요청을 대상으로 실험한 결과, 고정 지연 인터럽션이 PersonaPlex와 PersonaPlex-RL에서 각각 40.3%와 48.7%의 공격 성공률을 보였다.
시사점 풀더플렉스 음성 모델의 안전 정렬이 말한 중간 인터럽션에 의해 붕괴될 수 있으므로, 지속적인 상호작용 중 안전성을 평가해야 한다.
연구팀은 agentic AI 프레임워크에 대한 멀티모달 프롬프트 인젝션 공격을 평가하기 위한 MMPIBench 벤치마크를 제안하고, 720회 실험을 통해 공격 성공률이 약 1%이지만 시도율은 12.8%에 달하는 것을 보였다. 공격 시도는 대부분 계획 단계에서 차단되며, 모델 종류에 따라 공격 시도율 차이가 큰 것으로 나타났다.
시사점 agentic AI 프레임워크는 멀티모달 입력을 통해 프롬프트 인젝션 공격에 노출될 수 있으므로, 특히 모델 수준의 방어 강화가 필요하다.
자율주행차(AV)의 안전성에 영향을 주는 소프트웨어 취약점을 효과적으로 탐지하기 위해 LLM을 활용한 분석 프레임워크 LLMSec-AV를 제안한다. 18개의 취약점 분류체계를 구축하고, 이를 통해 기존 정적 분석 도구보다 높은 탐지 성능을 보인다.
시사점 LLMSec-AV는 자율주행차 소프트웨어의 취약점을 탐지하는 데 LLM을 효과적으로 활용할 수 있음을 보여주어, 실무에서 기존 분석 도구와 병행하여 사용할 수 있다.
RAG 시스템의 견고성을 문서 오염 공격에 대해 측정하여, 일부 검색된 문서가 오염되었을 때 정확도가 77.9%에서 43.5%로 감소함을 보였다. Entity swap 공격이 가장 많은 정답을 뒤바꾸는 것으로 나타났다.
시사점 RAG 시스템은 문서 오염 공격에 취약할 수 있으므로, 검색된 문서의 신뢰성을 철저히 검증해야 한다.
이 연구는 컴퓨터 사용 에이전트(CUAs)에 대한 이미지 트리거로 인한 명령 주입 공격을 종단간 평가하는 프레임워크를 제시한다. 실험에서 84.5%의 T-ASR, 47.0%의 TAPR, 20.3%의 E2E-ASR를 달성했으며, 일부 성공 사례에서 에이전트가 악성 터미널 명령을 실행한 후 원래의 선량한 작업을 계속하는 경로를 보였다.
시사점 이 연구는 컴퓨터 사용 에이전트의 시각적 입력 취약점을 보여주어, 실무에서는 이러한 공격 방식에 대한 보호 조치를 강화해야 한다.
AI 음성 사기의 예방 방법으로 안전 단어를 제안하고, 사기 수법과 대응 전략을 설명한다. 24%의 미국인이 최근 12개월 내 딥페이크 음성 전화를 받았다고 보고한다.
시사점 가족 간 사전에 약속된 안전 단어를 설정함으로써 딥페이크 음성 사기를 효과적으로 예방할 수 있다.
LLM 기반 공격 에이전트가 허니팟을 인식하고 예산을 할당하는 전략을 연구하여, 예산이 제한된 상황에서 효과적인 펜테스트를 수행하는 방법을 제시한다. 허니팟 의심이 생기면 공격을 중단하거나 건너뛰는 정책을 제안하고, 이를 통해 호스트 풀에서 호스트를 침해하는 데 예산을 효과적으로 할당할 수 있음을 보인다.
시사점 LLM 기반 공격 에이전트가 허니팟을 인식하는 능력을 고려하여 예산을 동적으로 할당하는 전략을 설계해야 한다.
LLM 에이전트가 소프트웨어 공급망 취약점의 공격 가능성 평가 능력을 평가하기 위한 새로운 벤치마크 VEX-Bench를 제안하고, 75개 실제 사례를 기반으로 9개 모델을 평가했다. GPT-5.5는 이진 분류에서 약 80% F1, 세부 사유 분류에서 70% 이상 macro-F1을 달성했다.
시사점 이 연구는 LLM 에이전트가 소프트웨어 공급망 보안 분석에 활용될 수 있음을 보여주며, 실제 취약점 평가 과정에서의 성능 한계를 드러낸다.
포스트-퀀텀 보호는 피어 간 관계에 따라 제공되며, 단일 피어가 이를 제대로 제어할 수 없음을 보인다. 40개 중 40개 에피소드에서 보안 퇴화가 발생함을 실험으로 확인했다.
시사점 포스트-퀀텀 보호의 적용 상태를 자동 감지하는 기존 도구는 실패하며, 보안 퇴화를 실시간으로 감지해야 한다.
AI 코드 어시스턴트가 소프트웨어 공급망의 신뢰 신호를 확인하는지 실험적으로 조사했다. 1,920회 시도 중 9회(0.5%)만 신뢰 신호를 열었고, 검증 명령어는 실행되지 않았다.
시사점 AI 코드 어시스턴트가 신뢰 신호를 확인하지 않는 것으로 나타나, 보안 강화를 위해 프로그램 내에 검증 기능을 구축해야 한다.
블록체인 기반의 데이터 스트림 분배 아키텍처인 Attestream을 제안한다. 데이터 유출을 방지하고 사용 내역을 검증하여 분배를 제어한다. 전체 라이프사이클 라운드는 657k gas를 소모하며, 50개 소비자 풀에서 40개의 테이블 행이 유출될 경우 100% 유출 책임을 추적할 수 있다.
시사점 이 연구는 데이터 소비자의 사용 내역을 검증하여 유출을 방지하는 블록체인 기반 아키텍처를 제안하여, 데이터 소유권 보호와 유출 추적에 기여한다.
공개된 MISP OSINT 피드에서 데이터셋을 구축하고, 8개 LLM을 제로샷 조건에서 비교한 후 미세 조정(fine-tuning)을 통해 성능을 분석하였다. 미세 조정 모델은 F1 점수 0.40~0.58를 달성했으나, 실무 적용에는 여전히 낮은 수준이다.
시사점 LLM을 보안 분야에 적용하려면 데이터 품질과 도메인별 조정이 필요하다.
LLM 기반 자동 펜테스트 에이전트의 장기 기억 문제를 해결하기 위해 의도 그래프(intent graph)를 도입한 Intentest를 제안한다. 벤치마크 CTF 문제에서 88.2%의 성공률을 달성했으며, 어려운 문제에서는 75.0%의 성공률을 보였다.
시사점 이 연구는 LLM 기반 자동 펜테스트의 효율성을 높이는 구조화된 상태 관리 방법을 제시하여, 실무 펜테스트 도구 개발에 기여할 수 있다.
이 연구는 이질적인 사이버 위협 지능(CTI) 소스에서 공격의 실행 조건과 관찰 가능한 흔적을 포착한 구조화된 공격 그래프를 생성하는 자동 파이프라인을 제안한다. 10개 실제 사례를 대상으로 수작업 평가를 통해 생성된 그래프가 예상 공격 진행과 일치함을 보인다.
시사점 이 연구는 분산된 CTI를 통합해 공격을 구조화하고 실행 조건과 흔적을 명시함으로써 방어 및 탐지에 활용할 수 있다.
산업 제어 시스템(ICS)의 이상 기반 침입 탐지 시스템이 공식적인 회복탄력성 기준을 충족하도록 하기 위해, 기존 회복탄력성 프레임워크를 기반으로 적대적 기계 학습 환경에 맞춘 회복탄력성 이론을 정식화하였다. BATADAL 수자원 분배 시스템 벤치마크를 통해 제안된 지표가 표준 벤치마크에서 보이지 않는 운영적으로 중요한 현상을 드러내는 것을 실증하였다.
시사점 ICS 시스템 설계 및 인증 기준 수립 시, 개별 노드의 강건성보다는 공격 경로 상의 결합 조정된 흡수 능력을 고려해야 한다.
LLM 에이전트의 능력 유출을 위한 새로운 공격 기법 AgentLeak을 제안한다. 600개의 인스턴스에서 40% 이상의 작업 성공률 향상과 80% 이상의 능력 격차를 줄였다.
시사점 LLM 에이전트의 실행 동작을 보호해야 한다.
LLM 에이전트의 주입 공격을 단계별로 라벨링한 벤치마크 AgentDrift를 제안한다. 벤치마크는 12,536개의 합성 도구 호출 경로로 구성되며, 각 단계는 무해, 주입 지점, 해킹, 실패 주입 중 하나로 라벨링된다.
시사점 이 벤치마크는 주입 공격 감지 기법의 개발과 평가에 활용될 수 있다.
다중 테넌트 환경에서 KV-캐시 타이밍 부채널 공격의 신뢰도가 어떻게 저하되는지를 7가지 실험으로 분석했다. 무작위 워커가 없을 때 평균 Cohen's d는 0.7789이지만, 2개 워커가 있을 때 0.2109로 감소한다(t=8.412).
시사점 LLM 서빙 시스템의 보안 설계 시 다중 테넌트 환경에서의 부채널 공격 신뢰도 저하를 고려해야 한다.
에이전트 AI 시스템의 워크플로우 수준 이상을 탐지하기 위해 의미적 및 구조적 모델링을 결합한 새로운 프레임워크 Skynet을 제안한다. 3개 공개 벤치마크에서 재현률이 높고 거짓 긍정률은 1% 미만이며, 온라인 모니터링에 적합한 저지연 특성을 보인다.
시사점 에이전트 AI 시스템의 이상 탐지에 워크플로우 수준 분석을 적용할 수 있으며, Skynet은 제로데이 공격 탐지에도 효과적이다.
LLM 에이전트의 안전한 행동을 평가하기 위해 AURA-Eval이라는 새로운 프레임워크를 제안한다. 157개의 경로를 기반으로 1,249개 평가 항목을 생성하고 20개의 최첨단 및 오픈 가중치 모델을 평가하여, 위험 탐지, 행동 전략, 시나리오별 안전성 등을 분류하는 기준을 개발하였다.
시사점 이 연구는 LLM 에이전트의 안전성 평가 기준을 제시하여, 모델의 위험 인식 능력과 안전한 행동 전략을 실무적으로 평가할 수 있게 한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.