연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
MLLMs에 존재하는 백도어를 모델 수준에서 제거하기 위해 RACER라는 프레임워크를 제안한다. RACER는 백도어가 유발하는 내부 표현의 계층별 불일치를 지역별로 정규화하여 36개의 백도어 설정에서 평균 ASR을 1.1%로 줄였다.
시사점 RACER는 MLLMs에 숨겨진 백도어를 제거하면서 모델 성능을 유지할 수 있는 방안으로, 모델 수준의 방어 기술을 개선하는 데 기여할 수 있다.
AI 음성 에이전트 허니팟을 통해 수집한 10,211개의 전화 사기 및 스팸 전화를 분석하여, 사기 전화의 운영 방식을 밝혔다. 사기 전화는 평일에 6.6배 더 많고, 30개의 반복 스크립트를 사용하며, 15% 더 많은 대화 턴을 노년층에게 제공한다.
시사점 전화 사기는 템플릿화된 운영 방식으로, 노년층을 대상으로 더 적극적으로 접근하는 것으로 나타나, 실무에서는 대상별 대응 전략이 필요하다.
LLM 에이전트에서 프롬프트 인젝션 공격을 방어하기 위해 행동 지침을 지역화하는 Attnlocate 프레임워크를 제안한다. Attnlocate는 0.743의 평균 IoU, 0.956의 평균 AUROC, 0.067의 거짓 양성률에서 0.934의 참 양성률을 달성한다.
시사점 이 연구는 LLM 에이전트의 프롬트 인젝션 공격을 실시간으로 감지하고 방어할 수 있는 새로운 기법을 제시하여, AI 보안 분야의 실무에 즉각적으로 적용될 수 있다.
W3C WebMCP 제안에서 브라우저 내 LLM 에이전트가 웹 페이지 도구를 호출하는 방식의 보안 취약점을 분석하고, 신뢰 경계를 강제하는 이중 레이어 아키텍처를 제안한다. 실험 결과, 100%였던 공격 성공률을 0%로 낮추고, 80개 중 78개의 프롬프트 인젝션을 차단하는 것을 보였다.
시사점 이 연구는 브라우저 내 LLM 에이전트의 보안 아키텍처 설계에 중요한 기준을 제시하며, 실무에서 프롬프트 인젝션 방어 구조를 구현할 수 있다.
RAGSentinel은 검색 증강 생성(RAG) 시스템의 보안 취약점을 방어하기 위해 훈련 없이 레이블 없이 작동하는 방어 기법을 제안한다. 실험 결과, RAGSentinel은 다양한 질문-답변 데이터셋과 LLM 가족, 중독 공격에서 낮은 공격 성공률을 유지하면서 경쟁력 있는 정확도를 보인다.
시사점 RAGSentinel은 적대적 문서를 효과적으로 필터링하여 RAG 시스템의 보안을 향상시킬 수 있어, 실무에서 보안 강화에 활용할 수 있다.
대규모 언어 모델(LLM)의 안전 정렬 문제를 해결하기 위해 NeuronGuard라는 새로운 방어 기법을 제안한다. NeuronGuard는 안전 신호를 더 넓은 뉴런 집합에 재분배함으로써 탈옥 공격과 뉴런 수준 공격에 동시에 강건하게 만든다. 실험 결과, 세 가지 LLM과 여섯 가지 최신 공격 전략을 통해 공격 성공률(ASR)이 거의 0%로 유지되며 작업 정확도를 보존한다.
시사점 이 연구는 LLM의 안전 정렬을 강화하는 새로운 방어 기법을 제시하여, 실제 시스템에서의 안전성을 향상시킬 수 있다.
연방 학습 환경에서 감시 영상 이상 탐지를 위한 모델 학습 시, 클라이언트가 서버에 속이기 위해 배후도 공격을 주입할 수 있는 문제를 해결하기 위해 STAIN-FL이라는 새로운 공격 프레임워크를 제안한다. STAIN-FL은 낮은 조도, 실내 환경, 군중 밀도 등 자연스러운 감시 조건을 트리거로 사용하여 정상 정확도를 유지하면서도 특정 조건에서 오분류를 유도한다.
시사점 이 연구는 연방 학습 기반 감시 시스템에서 배후도 공격의 지속적 위험성을 보여주며, 특히 저강도 공격이 탐지 회피와 높은 공격 효과를 동시에 달성할 수 있음을 시사한다.
현대 하드웨어 퍼징 기술을 ISA, 마이크로아키텍처, RTL 세 가지 추상화 계층에서 분석하고, 퍼징 설계의 주요 요소와 현황을 조사했다. 퍼징 효율성 향상을 위한 하이브리드 프레임워크, AI 지원 테스트 생성, 표준화된 평가 지표 등 미래 연구 방향을 제시했다.
시사점 하드웨어 퍼징 기술의 현황과 한계를 파악하고, 효율적인 하드웨어 검증을 위한 연구 방향을 제시하여 실무에서 퍼징 도구 개발과 평가 기준 수립에 참고할 수 있다.
Google이 제시한 AP2 프로토콜의 보안 분석을 수행하고, 48개의 보안 위협을 식별하여 8개의 고위험 위협을 AIVSS 점수로 평가했다. 5개의 아키텍처를 포함한 테스트베드를 구축하고, 8개의 고위험 위협에 대한 증명 개념을 개발했다.
시사점 AP2 프로토콜의 보안 취약점을 이해하고, 위협 평가 및 완화 방안을 설계하는 데 이 결과를 활용할 수 있다.
TLS 1.3 암호화 의존성에 대한 양자 및 AI 가속화된 위험을 시나리오 기반 모델을 통해 평가하여, RSA 및 ECC 위험은 2030-2032년에 50%를 넘고, PQC 위험은 2032-2035년 이후 비영향 위험으로 나타났다.
시사점 2030년 이전 PQC 마이그레이션과 암호화 유연성, 하이브리드 암호화 배포가 필요하다.
기존 Rowhammer 기반 추론 시 백도어 공격은 하드웨어의 비트 플립 패턴을 고려하지 않아 공격 성공률과 정확도가 불안정했다. ROBBIN은 타겟 DRAM의 비트 플립 패턴을 분석해 공격 성공률 90%와 정확도 83% 이상을 달성했다.
시사점 이 연구는 Rowhammer 공격의 실용성을 높여 DRAM 기반 보안 취약점 대응이 필요하다.
MCP 서버에 대한 단계적 신뢰 공격인 TrustShift를 제안하고, 이 공격을 평가하고 방어하는 TrustShiftProbe 프레임워크를 제시한다. TrustShift 공격의 평균 공격 성공률은 69.5%이며, SHIELD 방어 기법을 통해 42.7%로 감소시켰다.
시사점 MCP 서버의 신뢰 공격을 감지하고 방어하기 위한 실용적인 프레임워크를 제공하여, LLM 에이전트와 외부 도구 간의 보안을 강화할 수 있다.
피보팅 공격은 침해된 호스트를 통해 트래픽을 중계하여 추가 타겟에 접근하는 공격으로, 기존 방어 기법은 정확도나 처리 지연 등의 문제를 가진다. Stitch는 프로그래밍 가능한 커널을 활용해 실시간으로 피보팅을 탐지하는 호스트 기반 시스템으로, 31%의 정확도 향상과 0.006%의 최대 오류율을 보인다.
시사점 Stitch는 실시간 피보팅 공격 탐지에 효과적인 방안으로, 네트워크 내 취약 호스트를 정확하고 가벼운 방식으로 보호할 수 있다.
웹 브라우저에서 태그 이름을 이용한 XSS 공격 기법을 분석하고, 다양한 변형을 통해 웹 방화벽(WAF)을 우회하는 방법을 제시한다. 여러 공격 벡터를 실증적으로 보인다.
시사점 브라우저가 HTML 태그 이름을 처리하는 방식을 이해하고, localName, part, classList 등의 속성을 통해 예상치 못한 XSS 공격이 발생할 수 있음을 인지해야 한다.
AI 기능이 통합된 악성코드 405개 샘플을 분석하여 약 97%가 실제 운영 환경에 도달하지 못하고 샌드박스에만 존재함을 밝혔다. 12개 샘플이 Cortex XDR 보호 엔드포인트에서 발견되었으며, 모든 샘플이 기존 방어 기술로 탐지·차단되었다.
시사점 기존의 동작 탐지, 클라우드 기반 샌드박스, 엔드포인트 분석이 AI 기능이 통합된 악성코드를 효과적으로 차단하고 있다.
공업 제어 시스템(ICS)에서 기계 학습 기반 이상 탐지 모델의 훈련 데이터 오염에 대한 안정성을 평가하였다. 11개 이상 탐지기의 3가지 오염 전략(랜덤 삽입, 유사도 타겟 삽입, 특징 노이즈 삽입)을 평가하여, 모델별로 안정성이 크게 달라지는 것을 확인하였다.
시사점 공업 제어 시스템에서 기계 학습 모델의 훈련 데이터 무결성을 보장하는 것이 중요하다.
악성코드 변종이 빠르게 진화함에 따라 기존 학습 정보를 유지하면서 새로운 위협에 적응하는 시스템이 필요하다. 본 연구는 소량의 라벨 데이터로 새로운 악성코드를 학습하는 FSCIL 환경에서, SSL 백본과 LoRA 기법을 결합한 새로운 연속 학습 프레임워크를 제안한다. 실험 결과 이 접근법이 기존 악성코드 FSCIL 기준선을 꾸준히 초과하며 최첨단 성능을 달성한다.
시사점 이 연구는 새로운 악성코드를 소량의 샘플로 빠르게 학습하면서 기존 지식을 잃지 않는 시스템 구축에 실용적 기법을 제시한다.
LLM 에이전트의 메모리 시스템에 단일 인터랙션으로 메모리 주입 공격을 수행하는 InjecMEM을 제안한다. 다양한 메모리 시스템과 백본 모델에서 평가한 결과, InjecMEM은 메모리 드리프트 상황에서도 신뢰성 있게 주제 조건부 검색과 대상 생성을 달성하였다.
시사점 LLM 에이전트의 메모리 시스템 보안 강화가 필요하며, 이 연구는 메모리 공격에 대한 재현 가능한 프레임워크를 제공한다.
IoT 센서 데이터 집계를 위한 동형 암호화 블록체인 아키텍처를 제안하고, 토폴로지 기반 보안 및 성능 분석을 수행하였다. Hyperledger Fabric 2.5에서 실험 결과, 기존 기준 대비 끝점 대 끝점 지연 시간이 낮아졌다.
시사점 이 연구는 IoT 센서 데이터 집계의 보안과 확장성을 동시에 달성할 수 있는 블록체인 아키텍처를 제시한다.
Gumbel 기반 추론 검증은 LLM 가중치 유출을 제한하지만, 공격자가 프롬프트 분포를 조절하면 방어가 약화된다. 1B~32B 파라미터의 6개 모델에서 공격으로 유출 비트 수가 약 2배 증가해 지연 요인을 60x-118x로 낮췄다.
시사점 LLM 보안 방어는 정적 기준보다 동적 엔트로피 기반으로 설정해야 한다.
SxSSD는 보안적이고 확장 가능한 소프트웨어 정의 SSD 설계를 제안한다. SxSSD는 내부 정책 정의와 기본 FTL 메커니즘을 분리하여 신뢰할 수 있는 애플리케이션이 동적으로 및 안전하게 FTL 정책과 노출된 저장 인터페이스를 정의할 수 있도록 한다. 실험 평가 결과 SxSSD의 오버헤드는 네이티브 FTL 구현에 비해 작다.
시사점 SxSSD는 OS가 침해된 상황에서도 보안을 유지할 수 있는 SSD 설계를 제공하여, 저장 장치 보안을 강화할 수 있다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.