연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
LLM 에이전트에서 테넌트 식별자를 모델 컨텍스트 프로토콜(MCP) 도구 스키마에서 제거하고 검증된 자격 증명으로 범위를 바인딩하는 구조적 방어 기법을 제안한다. 373회 실험에서 테넌트 매개변수를 제거하면 도구 시그니처가 범위 밖 요청을 표현할 수 없었고, 57배의 지연 비율이 측정되었다.
시사점 LLM 에이전트에서 테넌트 격리를 강화하기 위해 인증된 자격 증명과 실행 가능한 인터페이스를 의존하는 구조적 방어를 적용해야 한다.
PIMENTO는 자연어, 질의, 프라이버시 정책을 관계형 데이터베이스에 매핑하여 CI와 DP 보장을 동시에 제공하는 프레임워크이다. 새로운 벤치마크에서 PIMENTO는 75.3%의 경우 최적의 질의를 선택하고, 올바른 정책 기반에서 누수를 0으로 유지한다.
시사점 이 연구는 자연어 분석에서 CI와 DP를 결합한 공식적인 프라이버시 보장을 제공하는 첫 번째 프레임워크로, 실무에서 텍스트 데이터 분석 시 프라이버시 보호를 강화할 수 있다.
Trinqet은 보안 다자간 계산(MPC)을 활용해 분산된 그래프에서 프라이빗하게 삼각형 및 사각형 수를 계산하는 시스템이다. 평가에서 기존 기준 대비 최대 10^5 배 빠른 실행 속도를 보였다.
시사점 Trinqet은 분산된 민감한 그래프 데이터를 보호하면서도 효율적인 삼각형 및 사각형 계산을 가능하게 하여, 보안 그래프 분석에 기여할 수 있다.
LLM 에이전트가 다중 소스에서 입력을 수집할 때 발생하는 세그먼트 수준 중독 공격을 탐지하고 정위하는 내부 상태 기반 프레임워크 ActProbe를 제안한다. ActProbe는 0.01의 거짓 긍정률, 0.05의 거짓 부정률, 0.94의 정위 재현률, 0.90의 정위 F1 점수를 달성한다.
시사점 ActProbe는 LLM 에이전트의 입력 중독을 효과적으로 탐지하고 정위하여, 실제 시스템에서의 보안 강화에 기여할 수 있다.
ViTeGate는 시각-언어 검색 증강 생성(VLRAG) 시스템에 대한 지식 오염 공격 기법으로, 시각적 트리거와 텍스트 트리거를 조합해 공격을 선택적으로 활성화한다. InfoSeek 데이터셋에서 공격 성공률 0.98과 정상 응답 정확도 0.93을 달성했다.
시사점 이 연구는 VLRAG 시스템의 보안 취약점을 드러내며, 시각-언어 트리gger를 활용한 정밀한 공격 활성화 기법을 제시한다.
블록체인 시스템에서 51% 공격을 방어하기 위해 조기 해시파워 모니터링과 체크포인트 기반 완화를 결합한 두 단계 방어 기법을 제안한다. 시뮬레이션 결과, 45% 경고 기준으로 평균 10.531분의 경고 시간을 제공하고, 체크포인트 깊이 N=6에서 63.68%의 재조직 시도가 거부되며, 평균 재조직 깊이는 7.948에서 1.634 블록으로 감소했다.
시사점 블록체인 운영자는 해시파워 집중도를 모니터링하고 체크포인트를 설정함으로써 51% 공격의 잠재적 영향을 줄일 수 있다.
RAG 시스템에서 멤버십 추론 공격을 위해 컨텍스트 유도 정보 이득을 기반으로 한 CIG-MIA 기법을 제안한다. Natural Questions 데이터셋에서 회색 상자 설정에서 AUC 0.99, 검은 상자 설정에서 AUC 0.93을 달성한다.
시사점 RAG 시스템의 보안 취약점을 드러내며, 외부 지식베이스를 사용하는 시스템의 정보 누출 가능성을 실무적으로 고려해야 한다.
LLM 에이전트가 다양한 작업을 수행할 때 권한을 동적으로 제어하는 새로운 방법을 제안한다. 평가 결과 의도된 작업을 방해하지 않고 위반을 차단하는 것을 보인다.
시사점 LLM 에이전트를 사용하는 시스템에서는 작업 의도에 따라 권한을 동적으로 제어하는 방식을 도입해야 한다.
APT 공격자가 윈도우 유틸리티를 악용하는 LOTL 공격을 탐지하기 위해 BERT 기반 의미 인코딩, 문자 수준 CNN, 명령 간 어텐션, 오토인코더 기반 이상 점수를 통합한 SENTINEL 아키텍처를 제안한다. 평형 잡힌 벤치마크에서 SENTINEL은 기록된 국가 주도 공격 명령에 대해 92.0% 정확도, 변형된 버전에는 91.2%를 달성했다.
시사점 SENTINEL은 기존 방법보다 LOTL APT 공격 탐지 성능을 크게 향상시켜, 국가 주도 공격에 대한 방어 전략을 개선할 수 있다.
Arbitrum 네트워크에서 고주파 스왑(HFS) 현상의 대규모 측정을 수행하고, 18개월간의 데이터를 기반으로 477명의 HFS 스왑러가 약 3,000만 건의 스왑을 통해 10^11 달러의 거래량을 기록했다는 점을 밝혔다.
시사점 이 연구는 레이어2 네트워크에서 발생하는 고주파 거래 현상을 실증적으로 규명하여, 분산 거래소의 시장 미시구조 연구에 기초를 제공한다.
기존의 신경망 추출 공격은 네트워크 아키텍처를 알고 있는 것을 전제로 했으나, 본 연구는 아키텍처를 알지 못하는 상황에서도 파라미터를 추출할 수 있는 기법을 제안한다. 추출 과정에서 아키텍처 정보를 추론하는 방법을 제시하고, 이를 통해 다양한 ReLU 신경망에 대한 공격을 구현하였다.
시사점 이 연구는 신경망 보호를 위한 방어 전략에 새로운 고려 요소를 제공한다.
의료 이미징 모델에서 백도어 감지를 위해 스펙트럼 서명 분석과 활성화 클러스터링을 결합한 방법을 제안하고, 이를 평가하는 실험을 수행했다. 의료 벤치마크에서 결합 감지기는 모든 비제로 중독률에서 AUROC 0.99 이상을 달성했다.
시사점 의료 이미징 모델의 백도어 감지에 스펙트럼 서명과 활성화 클러스터링을 결합하는 방법이 효과적임을 보여주어, 관련 분야 실무자들이 이를 적용할 수 있다.
클라우드 네이티브 및 미크로서비스 기반 시스템에서 전통적인 암호체계가 양자 컴퓨팅 위협에 노출되어 있다. 본 연구는 기존 코드 변경 없이 포스트 퀀텀 암호(PQC)를 투명하게 도입할 수 있는 PG-PQMES 프레임워크를 제안한다.
시사점 이 연구는 기존 시스템에 최소한의 영향을 주면서 PQC로의 전환을 가능하게 하여, 기업의 보안 전략 수립에 기여할 수 있다.
DNSSEC는 RRset을 인증하지만 단말 인증이나 채널 보안을 제공하지 않는다. Enc53은 DNS 암호화를 2단계로 나누어, 초기 쿼리에서 DNSSEC-anchored TLS 인증을 수행하고, 이후 1-RTT AEAD 암호화 UDP 쿼리를 통해 효율적인 권한 DNS 암호화를 구현한다. Enc53의 정착 상태 교환 비용은 약 570 바이트이며, 이는 일반 UDP 쿼리의 약 3배이다.
시사점 Enc53은 권한 DNS 암호화를 효율적으로 구현하여, DNSSEC와 결합하여 양자 저항성을 제공함으로써 DNS 보안을 강화할 수 있다.
기존의 제로지식 증명(ZKP) 기반 eKYC 프레임워크와 W3C 2021 BitString 기반 신분 증명 상태 메커니즘의 문제점을 분석하고, 멀티파티 계산(MPC)을 기반으로 투명하고 비용 효율적인 신분 인증 프레임워크를 제안한다. ZSTD 압축을 통해 신분 증명 데이터를 76바이트로 줄여 저장 및 대역폭 비용을 절감하고, SHA3 해싱과 Falcon 양자 저항 서명을 결합하여 양자 공격에 대한 내성을 보장한다.
시사점 이 연구는 대규모 신분 인증 시스템에서 비용 효율적이고 투명한 솔루션을 제공하며, 양자 저항성을 갖춘 신뢰할 수 있는 인증 프레임워크를 구축할 수 있다.
PixCrypt은 CKKS, BFV, BGV 암호 체계에서 캐시 검색과 계수 수준 연산을 활용하여 세부 암호화를 가속화하는 메커니즘을 제안한다. IND-CPA 보안을 유지하면서 암호화 속도를 최대 35배 향상시킨다.
시사점 PixCrypt은 FHE 기반의 프라이버시 보호 분석을 실용적으로 만들 수 있는 성능 향상 기법이다.
차분 프라이버시(mDP) 메커니즘의 확장을 위한 새로운 그래프 기반 프레임워크를 제안한다. 제안된 방법은 확장 정확성의 세 가지 요구사항을 정의하고, 이 조건 하에서 전역 메커니즘이 정의되어 $ε$-mDP를 만족함을 보인다.
시사점 이 연구는 대규모 또는 세분화된 도메인에서 차분 프라이버시를 구현할 때 효율적인 확장 방법을 제공한다.
모델 컨텍스트 프로토콜(MCP) 생태계의 보안 취약점을 조사하고, 21,643개 서버를 대상으로 무인증 네트워크 노출 등 8가지 위협 카탈로그를 기반으로 분석했다. 9.57%의 서버가 무인증 노출되었고, 51.1%의 다중 버전 서버가 버전 간 광고 정보를 변경하는 '침묵적 드리프트'를 보였다.
시사점 MCP 생태계의 서버 등록 정보가 실제 동작과 일치하지 않는 경우가 많아, 실무에서는 등록 정보를 신뢰하지 말고 클라이언트 측 핀닝과 스캐너 우선순위 설정을 고려해야 한다.
연구팀은 22개의 최첨단 대규모 언어 모델(LLM)을 대상으로 13개의 특수 설계된 스마트 계약(9개의 기만 벡터, 4개의 제어)을 사용하여 6가지 프롬프트 전략을 통해 8,528개의 분석 가능한 실행을 수행했습니다. 적대적 기만은 안정적인 캠ouflage 기법을 통해 대부분의 모델에서 탐지가 어려웠으며, 모델은 기만된 프레임워크를 올바르게 설명하면서도 안전하다고 판단하는 경우가 있었습니다.
시사점 LLM 기반 스마트 계약 분석은 단일 실행 및 원시 바이트코드만 사용할 경우 신뢰할 수 없으며, 소스 코드 경계 확인과 도구 증강 워크플로우가 필요합니다.
AI 에이전트 기술(agent skills)에서 프롬프트 인젝션 취약점을 탐지하고 패치하는 새로운 프레임워크인 SkillSecurer를 제안한다. SkillSecurer는 100% 인젝션 탐지율을 달성했으며, 17% 이상의 기술에서 잠재적 취약점을 발견했다.
시사점 AI 에이전트 기술을 사용하는 실무자는 SkillSecurer를 통해 프롬프트 인젝션 공격을 효과적으로 탐지하고 방어할 수 있다.
LLM 에이전트의 정량화 과정에서 발생하는 보안 취약점을 분석하고, AGENTQ라는 새로운 공격 기법을 제안한다. AGENTQ는 정량화된 모델에서 최대 100%의 공격 성공률을 달성하면서 정상 기능을 유지한다.
시사점 LLM 에이전트를 정량화하여 배포하기 전에 정량화에 따른 보안 평가를 표준 절차로 추가해야 한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.