연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
본 연구는 명령어 튜닝 데이터 선택 과정에 대한 적대적 공격인 유틸리티 하이재킹을 정의하고, 이를 통해 거부율을 0%에서 94%까지 높이거나 잘못된 사실을 주입하는 것을 시연했다. 제안된 CONCERT 방어 기법은 피해 모델에 대한 공격 집중도를 코드의 경우 6.67배에서 0배로, 사실의 경우 3.59배에서 0.67배로 낮추며 다운스트림 피해를 각각 100% 및 75% 감소시켰다.
시사점 데이터 선택 과정의 보안 취약점을 인지하고, CONCERT와 같은 방어 기법을 적용하여 모델의 안전성을 유지할 필요가 있다.
연구진은 코딩 에이전트가 대화 컨텍스트를 단일 문자열로 평탄화(flattening)할 때, 공격자가 주입한 사용자의 턴을 진본적인 명령으로 위장하여 에이전트 메모리에 주입할 수 있음을 발견했다. 이 공격은 특정 평탄화 도구에서 최대 100%의 성공률을 보였으며, 이를 통해 공격자가 원하는 코드를 실행시키거나 코드 리뷰를 속일 수 있었다.
시사점 에이전트의 컨텍스트 압축 시 직렬화 단계에서 역할 레이블(role labels)을 유지하거나 검증하는 것이 공격을 방어하는 데 중요하다.
본 연구는 역변환 기반 S-box의 선형 또는 아핀 변환에 따른 비자명 선형 자기 대칭성의 발생 빈도를 연구했다. 그 결과, AES S-box는 비자명 선형 자기 대칭성을 갖지 않음을 증명했다.
시사점 이 연구는 암호학적 구성 요소의 대칭성 분석에 대한 이론적 기준을 제공한다.
본 연구는 메시지 내용이 암호화된 다중 홉 무선 네트워크에서 통신 사실 자체가 송신지와 목적지의 물리적 위치를 노출할 수 있음을 조사한다. 연구는 사용자가 관심 위치 프라이버시와 현재 위치 프라이버시 사이의 상충 관계를 고려하여 가짜 목적지를 선택하는 방법을 탐구한다.
시사점 무선 네트워크에서 통신 자체의 사실이 위치 정보를 유출할 수 있으므로, 위치 프라이버시를 확보하려면 통신 패턴에 대한 고려가 필요하다.
본 연구는 디지털 포렌식에서 LLM을 활용할 때, 공격자가 통제하는 증거를 통해 추론 레이어에 대한 안티포렌식 공격이 발생함을 밝히고 공격의 분류 체계를 제시한다. 연구진은 공격자가 심증적 도구, 인간 조사관, 모델이 증거를 다르게 인식하는 지점을 이용하여 세 가지 공격 시나리오를 시연했다.
시사점 LLM을 디지털 포렌식에 적용할 경우, 공격자가 의도적으로 조작한 증거를 통해 모델의 추론 과정에 영향을 주는 새로운 공격 벡터가 존재하므로 이에 대한 방어적 관점이 필요하다.
본 연구는 정책 평가와 실행 승인 사이의 격차를 탐구하며, 독립적인 의무, 정확한 바인딩, 유형화된 승인 결과를 위한 BCEAC라는 거버넌스 상대적 계약을 도입했다. 이 아키텍처는 거버넌스 해결, 정책 평가, 독립적 승인 검증, 실행 중재를 분리한다.
시사점 정책 결정과 실행 승인 판단 사이에 무엇이 확립되어야 하는지에 대한 명시적이고 반증 가능한 프레임워크를 제공한다.
본 연구는 가상 머신(VM) 난독화된 코드의 높은 수준의 프로그래밍 의미론을 복구하기 위해 VMSpec이라는 새로운 디컴파일러 기반 접근 방식을 제안했다. 이 프로토타입은 Tigress 및 Code Virtualizer 난독화로 난독화된 147개 프로그램에 대해 실행 가능하며, 원본 코드의 디컴파일과 유사한 출력을 생성했다.
시사점 VM 난독화된 코드의 높은 수준의 의미론을 복구하는 데 디컴파일러 기반 접근 방식을 적용할 수 있음을 보여준다.
본 연구는 입력에 따라 동적으로 실행 경로가 달라지는 MoE LLM의 견고성 인증을 위해, 입력 유도 라우팅 동역학을 명시적으로 고려하는 CertMoE 프레임워크를 제안했다. 이 계층적 인증 절차는 기존 방법의 인증 실패율을 30% 이상에서 0으로 줄이는 결과를 보였다.
시사점 MoE LLM의 견고성을 인증할 때는 동적 라우팅을 고려하는 접근 방식이 기존 방법보다 훨씬 더 신뢰할 수 있는 인증을 제공한다.
연구진은 자체 및 공개된 13개 취약점 발견 도구를 분석하여, 모델 실행 전후의 엔지니어링 선택으로 인해 취약점이 누락되는 13가지 지점을 분류 체계화하였다. 이 연구는 이러한 누락 현상을 이해하고 도구를 개선하며, 공격자가 취약점을 숨기는 데 이를 악용할 수 있음을 보여준다.
시사점 LLM 기반 취약점 발견 도구를 구축할 때는 엔지니어링적 선택으로 인한 데이터 누락 지점을 인지하고 이를 해결하는 것이 중요하다.
본 연구는 아키텍처 위협 모델링과 운영 지식 기반 간의 격차를 해소하기 위해 MASAR라는 세 가지 계층의 형식적 프레임워크를 제시하였다. 이 프레임워크를 5G IMS 아키텍처에 적용하여 SIP 시그널링을 통한 미디어 결제 우회 및 Diameter Cx 인터페이스를 통한 정보 노출 공격 시나리오를 분석하였다.
시사점 MASAR는 통신 시스템의 네트워크 상태를 고려하여 아키텍처적 위협을 특정 프로토콜 동작과 연결하는 방법을 제공한다.
연구진은 기존의 분산형 다중 권한 속성 기반 암호 구성에 대해 공격을 성공적으로 수행했으며, 이 결함은 LSSS 행렬 정규화 불변성을 잘못 확장한 데서 비롯됨을 밝혀냈다. 연구진은 좌표별 마스크를 독립적인 완전 선형 공유로 대체하여 수정된 스킴을 제안하고, 이를 통해 정적 보안을 증명하였다.
시사점 기존의 분산형 다중 권한 속성 기반 암호 구성은 특정 조건 하에서 평문 복구 공격에 취약하므로, 보안 강화를 위한 수정이 필요하다.
연구진은 결제 승인과 같은 중요한 행동을 수행하는 AI 모니터들의 실패 가능성을 측정했으며, 열두 개의 소규모 오픈 가중치 모니터와 세 개의 폐쇄형 최신 모델을 대상으로 실험을 진행했다. 새로운 데이터에 대해 출처 수를 세는 규칙은 올바른 결제를 0.9% 차단했고, 최적의 카운팅 규칙은 7.4%를 차단했다.
시사점 모니터의 입력을 다양화하고, 모니터를 강화하며, 투표 수가 아닌 출처 수를 세는 것이 중요하다.
연구진은 정규 시그니처 복호화(RSD) 문제에 대한 정교한 하이브리드 대수 공격을 통해, 기존에 사용되던 많은 매개변수 설정이 예상보다 훨씬 쉽게 해결될 수 있음을 보였다. 이 공격은 특정 응용 분야에서 128비트 목표보다 낮은 공격 비용을 가지며, PCG 벤치마크에서 이전 공격 비용을 최대 29.77 및 25.91 비트 향상시켰다.
시사점 기존에 사용되던 RSD 기반 응용 분야의 매개변수 설정들은 그 난이도가 과대평가되었을 가능성이 있으므로 보안 강도를 재검토해야 한다.
본 연구는 어셈블리 언어 모델(ALM)에서 숫자형 피연산자의 정체성을 보존하기 위해, 코드, 데이터, 스택 컨텍스트를 구조적 측면 기술자로 인코딩하는 NumAnchor를 제안하였다. 이 방법은 다양한 ALM 계열에서 최대 35.0%의 Recall@1 및 31.7%의 MRR 향상을 달성하며, 점프 및 콜 타겟 정렬에서 98.7%의 계층적 위치 정확도를 보였다.
시사점 ALM을 이용한 바이너리 분석 시, 숫자형 피연산자의 구조적 정보를 보존하는 입력 표현 기법이 모델 성능 향상에 기여함을 시사한다.
본 연구는 다중 에이전트 시스템(MAS)을 대상으로 하는 강화학습 기반의 레드팀 공격 프레임워크인 ReMAS를 제안한다. 이 프레임워크는 공격 LLM을 미세 조정하여 시스템 프롬프트 추출에 효과적인 적대적 프롬프트를 생성하며, 기존 공격 대비 성공률을 향상시켰다.
시사점 다중 에이전트 시스템은 적응형 블랙박스 공격에 취약하며, 이에 대한 강력한 방어책 마련이 중요하다.
본 연구는 K-12 학교 생태계 전반에 걸친 6가지 차원으로 구성된 AI 보안 리터러시(AISL) 프레임워크를 제안하고, 이를 실제 AI 모델 기반의 브라우저 플랫폼으로 구현하였다. 설문 조사 결과, 교사 중 34.5%만이 학교 AI 정책을 가지고 있었으며, 기술적 견고성 평가는 공격과 훈련된 모델에 따라 달라짐을 확인하였다.
시사점 AI 기술이 교육 현장에 도입됨에 따라, 교육 생태계 전반에 걸친 AI 보안 리터러시 역량 확보가 필요하다.
본 연구는 대화형 LLM 서비스의 영속적 메모리 기능을 악용하여 세션 간 공격 전파가 가능한 메모리 주입(memory injection)이라는 새로운 위협 모델을 제시하였다. 이 모델을 통해 ChatGPT Instant 5.3, Claude Sonnet 4.6, Gemini 3 Flash 등 주요 서비스들이 영속적으로 허위 정보를 유포하거나 유해 콘텐츠를 생성하도록 조작될 수 있음을 입증하였다.
시사점 상용 LLM 서비스의 영속적 메모리 기능은 공격자가 세션을 넘어 지속적으로 시스템을 침해할 수 있는 새로운 공격 경로를 제공하므로 이에 대한 방어 메커니즘 구현이 시급하다.
연구진은 오픈소스 하네스를 사용하여 24가지 모델-러너 구성을 실제 코드베이스에 적용하여 취약점 발견 과정을 연구하였다. 네 가지 모델을 사용한 실험에서, 최소 프롬프트에서 CodeQL 기반 콜 그래프를 갖춘 엔지니어링된 프롬프트로 전환 시, 소규모 및 중급 모델의 가중치 부여된 수율이 20-86% 향상되었다.
시사점 LLM 기반 취약점 발견 시, 모델, 프롬프트, 컨텍스트를 작업에 맞게 매칭하고 여러 구성을 결합하는 것이 광범위한 커버리지를 위해 중요하다.
연구진은 npm과 PyPI 생태계의 악성 패키지를 포함한 대규모 데이터셋을 구축하고, 빌드 시 소스 코드를 직접 사용하는 전략을 검토했다. 그 결과, 소스 출처 확인 여부에 따라 악성코드 방지 성공률은 87.7%에서 99.9% 사이였으며, 양호한 패키지 중에는 출처를 명시하지 않은 경우도 있었다.
시사점 소프트웨어 빌드 시 패키지 레지스트리 의존도를 줄이고 소스에서 직접 빌드하는 것이 악성코드 공격 표면을 줄이는 데 효과적이다.
본 문서는 PHP의 두 가지 원격 코드 실행(RCE) 취약점인 CVE-2026-109618과 CVE-2026-109619를 분석하고, 공격 벡터를 설명한다. 이 취약점들은 메모리 관리 오류를 통해 공격자가 임의 코드를 실행할 수 있게 하며, Palo Alto Networks의 관측에 따르면 2260만 개 이상의 노출된 인스턴스가 확인되었다.
시사점 PHP 사용자는 해당 취약점들에 대한 보안 권고를 검토하고 즉시 패치하여 노출 위험을 평가해야 한다.
PHP 코어의 세션 업로드 진행 메커니즘과 multipart/form-data MIME 타입 처리에서 사용 후 해제 및 메모리 손상 취약점이 발견되었다. 이 취약점들은 인증 없이도 공격자가 임의 코드를 실행할 수 있게 하며, PHP 5, 6, 7, 8 버전에 영향을 미친다.
시사점 공개적으로 접근 가능한 PHP 웹 서버를 운영하는 관리자는 패치가 나올 때까지 업로드 진행 기능을 비활성화하거나 multipart 요청을 차단하는 조치를 취해야 한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.