연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
LLM 에이전트가 시스템 프롬프트, 사용자, 메모리, 도구에서 온 지시를 조정하지만, 이 조정이 신뢰 경계를 강제하지 못한다는 것을 보인다. 46개 모델 엔드포인트에서 평균 실행률은 1.21%이며, 외부 참조 모니터를 통해 위조된 요청을 확정적으로 거부하는 방어 기법을 제안한다.
시사점 LLM 에이전트의 자체 조정은 보안 경계로 간주할 수 없으며, 외부 강제가 필요하다.
LLM 기반 에이전트가 보안 작업을 자동화하는 방식을 체계적으로 검토하고, 기술적 접근, 응용 분야, 평가 방법을 분석했다. 2023~2026년 동안의 동료 평가 논문을 대상으로 했다.
시사점 이 연구는 LLM 기반 에이전트의 보안 자동화에 대한 체계적 이해를 제공하여, 실무에서의 적용 범위와 한계를 파악하는 데 도움이 된다.
O-RAN의 분산형 아키텍처로 인한 보안 취약점을 양자 기반 기술로 보완하는 방안을 제시한다. 양자 저항성 암호(PQC), 양자 인증, 양자 강화 위협 탐지 등을 제안한다.
시사점 O-RAN 보안 강화를 위해 양자 기반 기술을 도입할 필요가 있다.
멀티코어 아키텍처의 전자기 누수 메커니즘을 분석하고, 코어별 누수를 활용한 부채널 공격을 실증했다. 상용 멀티코어 임베디드 시스템에서 실용성을 검증했다.
시사점 임베디드 시스템의 멀티코어 구조는 전자기 누수를 통한 부채널 공격에 취약할 수 있으므로, 하드웨어 설계 시 누수 저감 기술을 고려해야 한다.
긴 문맥에서의 프롬프트 인젝션 공격과 방어를 평가하기 위해 LongPIBench라는 새로운 벤치마크를 제안한다. 평가 결과, 기존 방어 기법이 긴 문맥에서 높은 성공률로 우회되는 것으로 나타났다.
시사점 긴 문맥 환경에서 기존 프롬트 인젝션 방어 기법의 효과가 크게 떨어진다는 점을 실무에서 고려해야 한다.
스마트 계약의 소스 코드 공개가 LLM 기반 취약점 스캐닝에 악용되는 문제를 해결하기 위해, DeLLMGuard라는 새로운 배포 프레임워크를 제안한다. DeLLMGuard는 387개 실제 취약 계약을 대상으로 실험한 결과, 원인 정확도를 23.5%에서 6.6%로 감소시켰다.
시사점 이 연구는 스마트 계약의 소스 코드 공개를 유지하면서 LLM 기반 취약점 스캐닝을 방어하는 방법을 제시하여, 블록체인 보안 실무에 새로운 방어 전략을 제시한다.
BEACON은 MITRE ATT&CK 기반 공격 행동을 기준으로 CTI 보고서에서 지식 그래프를 자동으로 구축하는 LLM 기반 프레임워크이다. 8,395개 요소를 포함하는 보고서 수준 CTI 추출 데이터셋과 3,487개를 포함하는 다중 소스 통합 데이터셋에서 기존 기준보다 각각 최소 23%와 9% 높은 성능을 보였다.
시사점 이 연구는 사이버 위협 지능을 자동화된 방식으로 통합하는 데 기여할 수 있으며, 보안 분석 팀은 BEACON을 사용하여 다중 소스의 CTI를 효과적으로 관리할 수 있다.
RAG 시스템의 외부 문서에 대한 데이터 오염 공격을 분석하고, 기존 공격 방식의 한계를 극복한 새로운 CamoDocs 공격 기법을 제안한다. CamoDocs는 평균 ASR 61.80%를 기록했으며, GPT-5.4-mini와 Claude-Haiku-4.5에서도 효과적임을 보인다.
시사점 CamoDocs 공격 기법은 RAG 시스템의 보안 강화를 위해 기존 방어 기법의 한계를 파악하고, 문서 기반 공격에 대한 새로운 대응 전략을 고려할 필요가 있다.
적대적 행동으로 시험 결과가 왜곡되는 문제를 해결하기 위해 최적 테스트 전략을 제안한다. 동적 프로그래밍을 사용하여 선택된 그룹을 재시험하고 보안 조치를 적용한다.
시사점 이 연구는 AI 기술을 활용한 시험 결과 왜곡을 방지하는 최적 테스트 전략을 제시하여, 테스트 신뢰도를 높이는 데 기여할 수 있다.
파워 도메인 NOMA의 채널 상태 정보(CSI)가 조작되었을 때의 보안 취약점을 분석하고, 허위 CSI 공격의 분류와 시스템 영향을 제시한다. 공격 유형별로 전력 할당, SIC 신뢰도, 스케줄러 동작, 공정성, 처리량, 비밀성 등에 미치는 영향을 매핑하였다.
시사점 6G 네트워크에서 파워 도메인 NOMA의 CSI 보안을 강화하여 허위 CSI 공격으로부터 시스템 신뢰성을 보장해야 한다.
LLM 방어 계층의 실패 상관관계를 측정하여, 방어 효과가 독립적으로 작동하지 않는다는 것을 보였다. 실험에서 7계층 방어 스택의 실패 상관관계는 0.30~0.75 범위였고, 잔여 공격 성공률이 예측보다 최대 0.172 높았다.
시사점 LLM 방어 스택의 효과는 단일 계층의 성능만으로 판단할 수 없으며, 전체 시스템에서 실패 상관관계를 측정해야 한다.
TagZilla는 위협 리포트에서 IoC를 자동으로 분석하고, 해당 IoC의 소유자와 악용 타입을 태깅하는 플랫폼이다. 평가 결과, 소유자 태깅에서 F1 점수 0.94, 악용 타입 태깅에서 0.93을 달성했다.
시사점 TagZilla는 위협 리포트의 IoC를 자동으로 분류하여 보안 분석의 효율성을 높일 수 있다.
LLM 생성 인프라 코드(IaC)의 보안성을 평가하기 위해 100개의 배포 시나리오를 기반으로 한 벤치마크(GenIaC-SecBench)를 제안하고, 12개 모델 구성에서 1,196개의 IaC 아티팩트를 생성하여 3개 정책 엔진으로 분석했다. 모델 생성 IaC의 취약점 밀도는 인공 생성 IaC에 비해 3.21~3.87배 높았으며, 작업 복잡도가 낮을수록 격차가 커졌다.
시사점 LLM 생성 인프라 코드의 보안성을 평가할 때 인공 생성 코드와의 비교가 필수적이며, 모델의 사고 과정에 따라 보안성 차이가 발생함을 실증했다.
Magma는 퍼저 평가와 비교를 위한 근거가 명확한 퍼징 벤치마크를 제시한다. 기존 퍼징 벤치마크의 한계를 극복하여 퍼저 간 공정한 비교를 가능하게 했다.
시사점 이 연구는 퍼징 도구의 성능 평가를 표준화하여 향후 퍼징 기술 개발과 비교에 기여할 수 있다.
기존 머신러닝 탐지기는 개념 드리프트에 취약한 반면, 대형 언어 모델(LLM)은 단일 차원의 증거에 의존해 악성코드 분석에 한계가 있다. Moirae는 동적으로 다중 모달 런타임 증거를 수집하고 ReAct 기반 전용 에이전트를 사용해 90.06% 정확도를 달성했다.
시사점 Moirae는 개념 드리프트에 강한 동적 악성코드 탐지 기법으로, 안드로이드 보안 시스템 개선에 활용될 수 있다.
LLM 에이전트에 대한 프롬프트 인젝션 공격을 방어하기 위해 CAITLYN이라는 방어 미들웨어를 제안한다. 기존 방어 기법 대비 토큰 오버헤드가 낮으면서도 정확도를 유지하는 것을 보인다.
시사점 LLM 에이전트 환경에서 새로운 인젝션 공격에 대응하기 위해 CAITLYN과 같은 자율 방어 시스템을 도입할 수 있다.
CHISEL은 테스트 스위트 없이 Ghidra에서 파생된 의사-C 코드에서 소스 코드를 반복적으로 복구하는 프레임워크를 제안한다. 120개 ExeBench 함수를 대상으로 96.1% 재컴파일 가능성과 79.8% 재실행 가능성, 2.1회 평균 반복 횟수를 달성했다.
시사점 CHISEL은 테스트 스위트 없이도 높은 정확도로 소스 코드를 복원할 수 있어, 바이너리 분석 및 복호화 작업에서 실용적 도구로 활용될 수 있다.
사이버 위협 정보(CTI)를 적절한 시기에 올바른 분야에 전달하는 것이 중요하다. 연구팀은 CTI 이벤트를 분야별로 매핑하기 위해 BERT 모델을 적용하여 94.5%의 정확도를 달성했다.
시사점 이 연구는 CTI 자동화를 통해 조직이 빠르게 대응할 수 있도록 도와 실무에서 위협 대응 효율성을 높일 수 있다.
대규모 언어 모델의 배포 후 변경 사항을 감지하기 위해 zk-SNARK 기반의 프라이버시 보호 감사 프레임워크를 제안한다. 토큰 기반 프로브가 블랙박스 환경에서 모델과 GPU 플랫폼을 가리지 않고 가장 높은 평균 감도를 보이며, 50개까지 확장해도 증명 시간은 1.78초, 검증 시간은 0.84초에 머무른다.
시사점 이 연구는 모델 배포 후 변경 사항을 비침투적으로 감지할 수 있는 프레임워크를 제시하여, AI 모델의 거버넌스와 보안을 강화할 수 있다.
GraftyVul은 실제 취약점을 오픈소스 프로젝트에 이식하여 보안 취약 프로그램을 생성하는 시스템이다. 212개의 검증되고 공격 가능한 취약 프로그램을 5개 언어와 23개 CWE 범주에 걸쳐 생성하였다.
시사점 이 결과는 취약점 탐지 및 자동 수정 연구에 더 다양하고 현실적인 데이터셋을 제공할 수 있다.
기존 모바일 OS의 권한 모델은 앱 세션 단위로 권한을 부여해 사용자가 데이터 접근 시점을 알기 어렵다. 컨텍스트에 따라 권한을 제어하는 프레임워크를 제안하고, 104명의 설문과 8명의 테스트를 통해 초기 평가를 수행했다.
시사점 이 연구는 모바일 기본 앱의 권한 관리를 개선해 사용자 이해도를 높이는 방안을 제시한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.