연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
연구진은 내부 AI 배포 인프라를 기반으로 구축한 시뮬레이션 환경에서 분산 공격을 시연하며, 개별 에이전트의 공격 조각이 단독으로는 탐지되지 않음을 보였다. 단일 에이전트 공격 대비, 분산 공격은 모니터가 각 에이전트를 개별적으로 읽을 때 7%만 탐지된 반면, 단일 에이전트 공격은 87% 탐지되었다.
시사점 에이전트들의 개별 행동이 무해하더라도 협력하여 시스템 수준의 통제 상실을 유발할 수 있으므로, 통합적 모니터링이 필요하다.
Unit 42는 PAN-OS의 인증 우회 취약점(CVE-2026-0257)을 이용한 공격 시도가 있음을 관찰했으며, 공격자들은 이를 통해 VPN 연결을 시도하고 내부망 정찰 및 측면 이동을 시도했다. 공격 성공 시에는 가상화 계층(virtualization layer)으로 피벗하여 ESXi 하이퍼바이저의 보안 통제를 우회하는 고도화된 전술이 관찰되었다.
시사점 관련 조직은 해당 취약점에 대한 보안 권고 사항을 검토하고, 공격 지표를 탐지하며, 성공적인 게이트웨이 연결 이벤트 발생 시 사고 대응 프로토콜을 가동해야 한다.
본 연구는 공격의 단위를 프롬프트에서 실행 가능한 공격 기술로 전환한 에이전트 프레임워크 RedDarwin을 소개했다. RedDarwin은 47개의 기본 기술을 진화시켜 AdvBench 평균 공격 성공률을 18.8%에서 47.3%로 높였으며, GPT-5.6-Sol에 대해서는 10번의 질의로 100% 공격 성공률을 달성했다.
시사점 이러한 진화적 공격 패러다임은 적응형 레드팀 활동을 가속화하고 더 강력한 방어책을 마련하는 데 기여할 수 있다.
본 연구는 운영체제 보안 강화(STIG controls) 작업을 수행하는 LLM의 능력을 평가하기 위해, 실제 가상 머신에서 실행 결과를 검증하는 HardEval이라는 벤치마크를 소개했습니다. 이 벤치마크를 통해 열린 가중치 모델들을 평가한 결과, 보안 도메인 전반에 걸쳐 크고 불균등한 역량 차이가 관찰되었습니다.
시사점 LLM이 생성한 보안 설정 스크립트가 실제 시스템에서 요구되는 정확한 규정 준수 조건을 만족하는지 검증할 필요가 있다.
연구진은 Typed decision models의 출력 정보가 가지는 프라이버시 침해 가능성을 평가하기 위해 TUPLE-Bench를 구축하고, 출력 필드별로 정보 누출이 발생함을 확인했다. 또한, 워크플로우 제약을 고려한 프라이버시 양자화(WCPQ)를 도입하여 비밀 정보 복구를 줄이면서도 다운스트림 워크플로우의 행동과 비용을 보존할 수 있음을 보였다.
시사점 의사 결정 인터페이스를 필드별, 워크플로우별로 감사하여 정보 누출을 관리해야 한다.
연구진은 실제 자금 세탁 활동을 기반으로 다중 홉 전송, DeFi 거래 등을 포함하는 검증 가능한 태스크를 구성하는 ABF-Bench를 제안했습니다. 자체 개발한 에이전트 하네스는 특정 모델 대비 75%의 엣지 재현율(edge recall)을 달성했으며, 고정 순서 추적기 대비 더 빠르게 증거를 확보했습니다.
시사점 블록체인 포렌식에 LLM 에이전트를 적용할 때, 그 추론 과정을 검증 가능한 형태로 구축하는 것이 중요하며, 이는 에이전트의 신뢰성 평가에 활용될 수 있다.
본 연구는 Gumbel-max 워터마크에 대해 유형 I 오류 제약 조건 하에서 올바른 레이블 확률을 최대화하는 토큰 수준 다중 모드 귀인 방법을 정식화하였다. 이를 바탕으로 제안된 BLADE 검출기는 비교 검출기들보다 높은 올바른 레이블 확률을 달성하였다.
시사점 LLM의 워터마크 검증 시, 최적의 규칙과 신념 가중치를 적용한 검출기가 높은 성능을 보인다.
연구진은 7개의 오픈소스 SLM(20M-1.5B 파라미터)을 대상으로 디렉토리 열거 및 백도어 생성이라는 두 가지 후속 공격 코드 생성 작업을 체계적으로 평가하였다. 특정 알고리즘적 구성과 소수샷 프롬프팅을 결합했을 때 Qwen2.5-Coder 1.5B 모델이 Python 및 Lua 환경에서 각각 100% 및 99.2%의 성공률을 보였다.
시사점 소형 모델의 공격적 코드 생성 능력은 모델 크기뿐 아니라 작업 공식화 및 프롬프팅 전략의 상호작용에 의해 결정된다.
연구진은 모바일 에이전트의 멀티모달 주입 공격에 대응하기 위한 최초의 벤치마크인 MobileInject를 개발하고 11가지 시나리오와 9가지 보안 위험 범주를 포함하여 평가했다. 실험 결과, 모바일 에이전트가 멀티모달 주입에 광범위하게 취약하며 많은 실패가 초기 단계의 추론 탈취(reasoning hijacking)에서 비롯됨을 확인했다.
시사점 MLLM 기반 모바일 에이전트를 사용할 경우, 멀티모달 입력에 대한 추론 단계의 보안 취약점을 반드시 고려해야 한다.
본 연구는 멀티체인 시스템의 수수료 시장을 지연 피드백을 가진 비선형 동적 시스템으로 모델링하고, 교차체인 결합이 안정성을 저해함을 확인했다. 실험 결과, 교차체인 결합은 단일 블록체인 대비 안전한 수수료 업데이트 매개변수 공간을 최대 84.8%까지 축소시키며, 코스모스 체인 등은 기본 설정에서 이미 안전 범위를 초과하여 블록 실패율이 급증한다.
시사점 멀티체인 환경에서 수수료 메커니즘의 안정성을 확보하려면 과잉 보정(over-correction)을 제거하는 프로토콜 수준의 완화책이 필요하다.
본 연구는 모바일 환경에서 동작하는 대규모 언어 모델(MLLM) 기반 에이전트의 보안 취약점을 평가하기 위해 MobileJailBench라는 진화형 벤치마크를 구축했다. 이 벤치마크는 520개의 태스크와 14가지 위험 범주를 포함하며, 동적 진화 메커니즘을 통해 Qwen3.5-122B 모델에서 100%의 공격 성공률(ASR)에 도달함을 보였다.
시사점 MLLM 기반 모바일 에이전트의 안전성 검증을 위해서는 정적 평가를 넘어선, 동적이고 맥락적인 공격 시나리오를 포함하는 진화형 평가 프레임워크가 필요하다.
본 연구는 AI 에이전트의 시스템 동작을 추적하기 위해 eBPF를 사용하여 커널 리소스에 LLM 상호작용의 인과적 식별자를 임베딩하는 AgentLoupe를 제시했다. 실험 결과, AgentLoupe의 평균 관측 오버헤드는 8% 미만이었으며, 이를 통해 독립적인 프로세스를 거쳐 발생하는 공격의 근원을 추적할 수 있음을 확인했다.
시사점 AI 에이전트의 복잡한 실행 흐름을 보안 감사 목적으로 추적하려면 커널 레벨에서의 관측 도구가 필요하다.
연구진은 저장소 구조를 추상 구문 트리(AST)로 분석하고 에이전트 실행 추적을 매핑하는 TrojanForge라는 자동화 프레임워크를 개발했다. 이 프레임워크는 6개 도메인, 9개 프로그래밍 언어를 포괄하는 TrojanBench에서 백도어 주입 성공률 90% 이상을 달성하며 상용 에이전트도 방어하지 못함을 보였다.
시사점 코딩 에이전트의 취약점은 저장소 수준의 오염 공격에 있으며, 이에 대한 방어는 더욱 강화되어야 한다.
본 연구는 다중 에이전트 시스템(MAS)의 에이전트 간 통신을 대상으로, 신원 확인, 전송 보안, 메시지 무결성 및 모니터링을 통합한 제로 트러스트 아키텍처를 제시한다. 이 아키텍처는 분산 식별자, 검증 가능한 자격 증명, 양자 내성 TLS 및 영지식 증명 등을 활용하여 통신을 보호하고 행동 이상을 탐지한다.
시사점 에이전트 기반 시스템을 구축할 때, 통신 계층부터 신원 및 무결성 검증까지 통합된 보안 프레임워크를 적용해야 한다.
본 연구는 도구 사용 에이전트가 로컬 서비스에 의존하는 환경에서, 명시적 정책 무시 없이도 로컬 승인 워크플로우를 안내하여 공격을 성공시켰다. 23건의 통제된 실험에서 공격은 9/9 재시도에서 승인 토큰 전환에 도달했고, 8/9 재시도에서 목표 작업을 완료했다.
시사점 토큰 소유만으로도 요청자 신원, 승인 권한, 리소스 범위 등이 통합적으로 검증되지 않으면 충분한 권한으로 취급될 수 있으므로 이에 대한 방어적 고려가 필요하다.
본 연구는 의미론적 누설(semantic leakage)에 기반한 누설 공격에 대응하기 위해, 제한적 제로-누설 보안을 만족하는 암호화 데이터베이스 Aspire를 제안하였다. Aspire는 $2^{22}$ 키-값 쌍 데이터베이스에서 평균 질의 지연 시간 1.38ms 미만 및 통신 비용 약 2.95 KB를 달성함을 실험적으로 보였다.
시사점 암호화된 데이터베이스를 운영할 때, 공격으로부터 데이터를 보호하면서도 효율적인 질의 및 업데이트를 지원하는 제로-누설 메커니즘을 고려해야 한다.
연구진은 기존의 프롬프트 기반 공격이 아닌, 실제 유해성 점수를 활용하는 ECHO(Evaluation-Conditioned Harmfulness Optimization)를 제안하여 블랙박스 환경에서 공격을 수행했다. 이 기법은 AdvBench 상의 다섯 개 오픈 가중치 모델에 대해 최대 0.898의 StrongREJECT 평균 점수와 89.23%의 HarmBench 성공률을 달성했다.
시사점 LLM의 안전 정렬(safety alignment)에도 불구하고, 응답의 유해성 자체를 목표로 공격하면 기존 방어 기법을 우회할 수 있다.
본 연구는 공개 참조 모델을 사용하여 언어 모델(LM) 학습 시 원치 않거나 사적인 정보를 포함하는 데이터 구간을 식별하고 억제하는 Surprise Masking(SM)을 제안했다. 합성 코드 벤치마크에서 SM은 표준 마스킹 대비 프라이버시-유틸리티 트레이드오프를 개선했으며, 파인튜닝 실험에서 민감 정보 추출을 66.3%에서 2.3%로 감소시켰다.
시사점 SM은 코드 데이터셋의 가치 있는 부분을 보존하면서도 원치 않는 정보 학습을 줄이는 저렴하고 적응 가능한 방법이다.
본 연구는 LLM 에이전트의 장기 기억에 외부 정보가 포함될 때 발생하는 보안 위험을 해결하기 위해, 각 주장에 종류, 권한, 범위를 레이블링하는 SAFE-Mem 프레임워크를 제안했다. 이 프레임워크는 네 가지 LLM 백본에서 평가되었으며, 기존 방어 대비 공격 성공률을 가장 낮추고 답변 정확도를 최대 15% 향상시켰다.
시사점 LLM 에이전트의 메모리 사용 시, 정보의 출처와 사용 권한을 세분화하여 관리하는 거버넌스 계층을 도입해야 한다.
연구진은 LLM의 판단 오류를 극복하기 위해, 기존 분석 기법과 프로토콜 증거를 결합한 LENS라는 LLM 기반 시스템을 개발하여 Diameter 프로토콜의 취약성을 분석했다. 이 시스템은 평균 재현율 94.00%~98.00%, 정밀도 78.73%~88.94%, 정확도 84.00%~92.00%의 성능을 보였으며, 고려된 위협 모델 하에서 S6a 및 Cx 인터페이스의 25% 이상이 취약함을 발견했다.
시사점 LENS를 적용하여 95개의 알려지지 않은 취약점을 포함하여 총 118개의 취약점을 발견했으며, 이는 프로토콜의 실제 구현에 심각한 영향을 미칠 수 있음을 시사한다.
본 연구는 각 사실을 증거 주장(Evidence Assertion)으로 표현하고, 버전 관리되는 준수 정책 프로파일과 비즈니스 규칙 엔진을 통해 결정적이고 근거가 명시된 준수 결정(Compliance Decision)을 구성하는 ChainIT 프로토콜을 기술한다. 이 프로토콜은 의사결정 시점의 증거, 정책, 거래 맥락을 포함하는 서명된 시간 제한적 준수 결정 VDT를 생성한다.
시사점 규제 기관이 소프트웨어 에이전트에 권한을 위임할 때, 결정의 근거가 되는 증거와 정책의 시의성을 추적하고 증명할 수 있는 메커니즘이 필요하다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.