연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
산업 사이버보안에서 인공지능(AI)의 불투명한 의사결정이 운영 신뢰와 규정 준수를 어렵게 하므로, 설명 가능한 인공지능(XAI) 기법을 검토하여 투명성과 해석성을 향상시킨다. XAI 기법의 주요 유형과 산업 환경에서의 적용 가능성, 한계를 분석한다.
시사점 이 결과로 실무에서는 XAI 도구를 보안 운영 센터(SOC)에 통합하여 AI 기반 위협 탐지의 신뢰도를 높이고 규정 준수를 용이하게 할 수 있다.
AI 에이전트가 상품 및 서비스를 구매하고 사용자의 대리로 지급을 실행하는 대리 지급 프로토콜의 보안 의존성을 분석하였다. 4개의 대표적인 프로토콜을 Tamarin에서 형식화하고, 86개의 검증 사례를 통해 40개의 새로운 형식적 일관성 문제를 발견하였다.
시사점 이 연구는 대리 지급 프로토콜의 보안 원칙을 명확히 하여, 자율 거래 시스템의 설계 및 검증에 실질적인 기여를 할 수 있다.
에이전트 언어 모델(agentic LLM) API 제공업체의 백본 모델을 감사하기 위해 도구 사용 패턴을 분석하는 새로운 방법 AgentProv를 제안한다. AgentProv는 630개 체크포인트 쌍에서 100%의 탐지 성능을 보이며, 시스템 프롬프트 주입에 따른 오류율은 7% 미만이다.
시사점 이 연구는 제공업체가 주장하는 모델과 실제 제공하는 모델이 다른 경우를 감지하는 데 실무적으로 활용될 수 있다.
Mirage Kitten APT 그룹이 새로운 Node.js 및 JavaScript 기반의 RAT(NodeRabbit, PollCat)를 사용하여 아프가니스탄, 이집트, 에티오피아의 시스템에 침투하는 공격을 수행하고 있음을 밝혀냈다. 공격자는 채용 과정을 가장한 악성 코드 아카이브를 통해 악성코드를 배포하고 있다. NodeRabbit은 Windows, Linux, macOS에 영향을 주며, C2 서버와의 통신을 위해 Azure 호스팅 인프라를 사용한다.
시사점 APT 그룹이 Node.js 및 JavaScript 기반의 악성코드를 사용하는 새로운 공격 방식을 채택하고 있어, 개발자 및 보안 전문가들은 채용 과정에서 제공되는 코드 아카이브에 주의해야 한다.
감시 규칙 저장소에서 거짓 긍정을 억제하기 위해 제외 조건이 추가되지만, 이 조건이 축적되고 지속되는 현상을 9년간 8,234개의 규칙 수정을 분석하여 측정했다. 1,642번 제외 조건이 추가되고 304번만 제거되며, 86.7%는 3년간 유지된다.
시사점 보안 실무자는 감지 규칙의 제외 조건이 누적되어 보안 허점을 만들 수 있음을 인지하고, 우선순위 기준을 사용해 주기적으로 검토해야 한다.
화자의 음성을 익명화하면서 의미와 톤은 유지하는 기술을 제안한다. 기존 휴리스틱 기반 익명화 시스템과 달리, 이 접근법은 어떤 적대자라도 재식별 성공률을 보장한다.
시사점 이 연구는 익명화 기술의 신뢰성을 높이는 데 기여할 수 있으며, 음성 데이터를 사용하는 기업에서 개인정보 보호를 강화하는 데 활용될 수 있다.
기존 탈옥 공격 평가가 단일 설정에서의 성공률만을 기준으로 하였으나, 실제 사용 환경에서의 다양한 운영 상태 변화가 공격 성공률에 큰 영향을 미친다는 점을 실증했다. 7개 정렬된 모델과 3가지 대표 탈옥 공격을 통해 평가 상태가 아닌 비평가 상태에서 공격 성공률이 최대 56%포인트 증가하는 현상을 관찰하였다.
시사점 LLM의 탈옥 공격에 대한 평가 시 단일 운영 상태만을 기준으로 하면 실제 보안 취약성을 과소평가할 수 있으므로, 다양한 운영 상태에서의 평가가 필요하다.
대규모 언어 모델(LLM)의 런타임 가드를 위해 내재적 방법인 SingProbe를 제안하고, 토큰 수준에서 질의 의도, 응답 안전성, 환상 위험을 예측한다. SingProbe는 약 2M 파라미터와 0.5% 미만의 추가 오버헤드로 기존 가드레일보다 경쟁적 또는 우수한 성능을 보인다.
시사점 SingProbe는 LLM 생성 과정의 실시간 모니터링과 제어를 저비용으로 가능하게 하여, 보안 및 의료 분야에서의 안전한 사용을 촉진할 수 있다.
코딩 에이전트가 타사 레포지토리에서 작업할 때 사용자의 인보케이션 선택이 취약성에 미치는 영향을 분석하고, CIPR이라는 벤치마크를 제안한다. CIPR은 20개 레포지토리, 4가지 작업 유형, 3가지 프롬프트 스타일, 3가지 스킬/규칙 조건을 포함하며, 공격 성공률(ASR)과 에이전트 경고률(AR)을 측정한다.
시사점 코딩 에이전트의 취약성은 사용자 설정에 따라 달라지므로, 개발자는 작업 유형과 프롬프트 표현 방식을 신중히 선택해야 한다.
Zero-knowledge domain-specific language(ZK DSL) 툴체인의 결함을 적대적 증인 주입을 통해 탐지하는 테스트 프레임워크인 Liezz를 제안한다. Liezz는 생성된 결정론적 프로그램에 대해 두 가지 공개 입력 할당을 실행하고 그 증인을 결합하여 툴체인의 결함을暴로한다. 13개의 결함을 발견했으며, 그 중 7개는 사운드니스에 영향을 미친다.
시사점 Liezz를 활용하면 기존의 유효 실행 테스트에서 발견되지 않는 ZK DSL 툴체인의 결함을 효과적으로 탐지할 수 있다.
5G 무선접속망(RAN)에서 임시 핫픽스를 배포하는 Buckler 프레임워크를 제안한다. 23개 논문에서 64개 공격을 분석하고, 20개 공격에 대해 DROP, MODIFY, RELEASE 3가지 방어 조치를 적용하여 실험적으로 검증하였다.
시사점 이 연구는 5G 네트워크 운영자가 표준 프로토콜 변경 없이 임시 방어 조치를 적용할 수 있는 실용적인 방법을 제시한다.
LLM 에이전트가 장기적 작업을 수행하는 시스템에 대해, 기존 프롬프트 인젝션 공격의 한계를 극복한 ECLIPSE 공격 기법을 제안하고, 이 기법이 기존 방어 기법을 우회하는 높은 공격 성공률을 보인다. ECLIPSE는 방어 없이 96.7%, 일반적인 안전 필터 하에서 69.2%의 공격 성공률을 달성한다.
시사점 이 연구는 LLM 에이전트 시스템의 보안 취약성을 드러내며, 기존 방어 기법의 한계를 보여주어 보다 효과적인 방어 기법 개발이 필요하다.
LLM 백도어 공격 방어 기법이 분산된 이유를 희소 오토인코더(SAE)를 사용한 특징 수준 분석을 통해 밝혔다. 실험 결과, SAE 기반 분석을 통해 정상 작업 성능을 유지하면서 ASR을 최대 10.8%까지 감소시켰다.
시사점 이 연구는 LLM 백도어 방어 기법의 분산 원인을 설명하고, 해석 가능한 방어 전략을 제시하여 실무에서 보안 설계에 활용할 수 있다.
다중 에이전트 시스템에서 독립적으로 운영되는 배포자 간의 작업 위임을 인증하기 위한 두 단계 인증 설계를 제안한다. Apple M1 Pro에서 계보 확인은 24.3-499.2us, AWS 클라우드에서 1,000개 경로가 검증되는 결과를 얻었다.
시사점 이 연구는 다중 에이전트 AI 시스템에서 위임 인증을 강화하는 기술로, 실무에서 위임 흐름의 보안성을 확보하는 데 활용될 수 있다.
Hyper-V 소켓을 악성코드 분석 샌드박스에서의 실시간 통신 채널로 활용할 수 있음을 보인다. WinSock TCP 소켓에 비해 TCP/IP 계층 차단을 받지 않고 일반 TCP 연결 열거 도구에서 나타나지 않는다.
시사점 악성코드 분석 샌드박스의 통신 채널로 Hyper-V 소켓을 사용하면 기존 TCP/IP 차단 기법을 우회할 수 있다.
이 연구는 딜러가 없는 기능 비밀 공유(FSS)에서 키 생성 과정의 병목 현상을 해결하기 위해 특수 목적 칩을 활용한 프로토콜-하드웨어 공동 설계인 KORD를 제안한다. KORD는 기존 프로토콜 대비 키 생성 통신량을 7,633~70,274배 감소시키고, ResNet-18 추론에서 키 생성에 소요되는 시간 비중을 96%에서 11.9%로 줄였다.
시사점 이 연구는 딜러 없는 FSS의 실용성을 높이기 위해 하드웨어와 프로토콜을 통합 설계한 사례로, 실무에서는 키 생성 과정의 효율성을 개선할 수 있다.
ICS 보안 솔루션 개발과 테스트에 필요한 데이터셋과 테스트베드를 체계적으로 분류하고 분석하여, 표준화된 벤치마크 부족과 현대적 공격 시나리오 부재 등의 문제를 보인다. 분석 결과는 지속적인 문제점과 새로운 도구 개발 권장사항을 제시한다.
시사점 ICS 보안 연구자와 실무자는 이 가이드를 통해 기존 데이터셋과 테스트베드의 한계를 이해하고, 보다 효과적인 보안 솔루션 개발을 위한 방향을 설정할 수 있다.
LLM 에이전트가 도구를 사용할 때 노출된 지식을 추출하는 공격 기법인 ToolSiphon을 제안한다. 평가 결과, 74.3%의 원본 기록을 복원할 수 있었다.
시사점 LLM 에이전트가 도구를 사용할 때 지식 유출 위험이 있으며, ToolSiphon을 통해 이를 확인할 수 있다.
컴퓨터 사용 에이전트(CUAs)는 인젝션 공격에 취약하다. SIR은 적응적 공격을 시뮬레이션하여 공격 성공률을 4%에서 24%, 0%에서 28%로 높였다.
시사점 CUAs를 사용하는 실무자는 SIR을 통해 보안 취약점을 사전에 확인하고 대응 전략을 수립해야 한다.
LLM 에이전트 메모리의 단계별 유틸리티-위험 교환을 이해하기 위해 MemGauge라는 제어 가능한 프레임워크를 제시한다. 11개 LLM과 두 개의 장기 메모리 벤치마크에서 단계별 평가를 통해 3가지 구별된 프로파일을 밝혀냈다.
시사점 이 결과는 LLM 에이전트 메모리의 단계별 평가와 제어가 필요하다는 것을 시사한다.
서버리스 함수의 프라이버시 문제와 낮은 지연 시간을 해결하기 위해 기밀 가상 머신(CVM) 기반의 서버리스 플랫폼이 제안되었다. Reducio는 인프라 변경 없이 플랫폼 메모리 요구 사항을 크게 줄이는 새로운 서버리스 플랫폼 설계를 제안한다.
시사점 이 연구는 기업이 기밀성을 유지하면서 서버리스 클라우드를 효율적으로 배포할 수 있는 새로운 방법을 제시한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.