연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
연구진은 페어드 리플레이 테스트베드를 사용하여 광범위한 권한, 범위 지정된 JWT, 그리고 정책 에이전트(OPA) 조건 하에서 LLM 에이전트의 도구 실행을 테스트했다. 그 결과, 광범위한 권한 하에서는 악성 실행이 8.9%에서 37.8%까지 발생한 반면, 범위 지정된 조건에서는 모든 경우에서 실행이 기록되지 않았다.
시사점 작업 권한을 부여하는 것은 프롬프트 인젝션을 막는 것이 아니라, 부여된 작업 범위 내에서 공격의 결과를 격리하는 데 효과적이다.
연구진은 제한된 측정 자원 하에서 신뢰성 있는 결정을 내리기 위해 적응형 샷 가변 양자 회로(AS-VQC) 정책을 도입하여 양자 이상 추론을 수행했다. 이 정책은 평균적으로 129.2~276.9 샷을 사용하여 균일 1024-샷 기준 대비 각각 87.4%, 73.0%, 87.2%의 샷을 절약했으며, 분석적 추론과의 불일치율은 0.771% 이하를 달성했다.
시사점 양자 측정을 추론 자원으로 취급하고 경계 민감한 TI 보안 결정에 집중함으로써, 제한된 양의 양자 측정으로도 신뢰성 있는 보안 분석이 가능하다.
본 연구는 검증이 완료되지 않은 콘텐츠가 검색 증강 생성(RAG) 벡터 저장소에 유입될 때 발생하는 시간적 공격 표면을 제어하기 위해 가시성 프로토콜을 제안했다. 이 프로토콜은 검증 대기열 상황에서 마감 기한을 설정함으로써 비동기적 승인 대비 오염된 검색 결과를 중앙값 34개에서 7개로 줄이는 것을 확인했다.
시사점 지속적으로 콘텐츠를 주입하는 RAG 시스템에서는 검증 단계를 거치면서도 콘텐츠의 노출 시점을 제어하는 프로토콜이 필요하다.
본 연구는 IoT 네트워크의 스트리밍 환경에서 레이블 플립 및 노이즈 주입 공격에 대한 적대적 훈련(AT) 방어의 효능을 평가하였다. 가장 강력한 오염률(PR = 1.0)에서 AT-SRP는 레이블 플립 공격에 대해 F1 점수 0.904를 달성했고, AT-LB는 노이즈 주입 공격에 대해 F1 점수 0.933을 달성하였다.
시사점 스트리밍 환경에서 ML 모델을 사용할 경우, 데이터 오염 공격에 대한 방어 전략의 효능을 검증할 필요가 있다.
본 연구는 $f$-발산으로부터 보안을 정의하는 다중 비트 텍스트 워터마킹 프레임워크를 도입했으며, 코딩 기반 기법을 통해 주어진 발산 예산 내에서 다음 토큰 분포를 최적으로 편향시킨다. 이 접근 방식은 기존 대비 낮은 워터마크 탐지 가능성을 달성하면서도 경쟁적인 메시지 복구 성능을 유지한다.
시사점 이 연구는 다양한 언어 모델과 페이로드 영역에 걸쳐 보안 다중 비트 워터마킹에 대한 통일된 관점을 제공한다.
연구진은 실제 인물 정보를 기반으로 합성한 822개의 익명화 인터뷰 기록을 사용하여, 웹 검색 기능을 갖춘 LLM의 재식별 위험을 평가했습니다. 공격 성공률은 대상이 검색 결과에 나타날 경우 88% 이상이었으며, 공격 시나리오에 따라 각 구성 요소가 재식별에 기여하는 바를 분석했습니다.
시사점 LLM이 웹 검색 도구를 사용할 경우, 익명화된 정보라도 재식별 공격에 취약하며, 공격 경로 추적을 통해 익명화 방어에 대한 통찰을 얻을 수 있다.
본 연구는 이질적인 속성을 가진 사용자 기록에 대해, 속성 그룹화와 이질적 교란 설계를 결합한 DepHDP 프레임워크를 제안한다. 이 프레임워크는 세 가지 사례 연구에서 균일한 기준 대비 향상된 프라이버시-유틸리티 트레이드오프를 달성했으며, 전체 기록에 대한 최적화보다 낮은 계산 비용을 보였다.
시사점 다양한 속성을 가진 데이터를 다룰 때, 모든 속성에 단일한 프라이버시 보호 기법을 적용하는 대신 속성별 맞춤형 접근 방식을 고려해야 한다.
연구진은 공격자가 대화 기록을 기반으로 이미지 생성에 은닉된 워터마크(PLW)를 삽입하여 개인정보를 유출하는 새로운 공격을 소개하였다. 이 공격은 테스트된 모든 대화 분리 상황에서 우울증과 같은 민감 속성을 100.0%의 TPR로 탐지하면서도 오탐률은 1%로 유지하였다.
시사점 통합 멀티모달 모델을 사용할 때, 로컬 환경에 배포된 모델이라도 대화 기록을 통해 이미지 생성 과정에서 개인정보가 유출될 수 있으므로 이에 대한 경계를 늦추지 말아야 한다.
본 연구는 대규모 네트워크 트래픽 데이터에 대한 침입 탐지 시스템(IDS)의 수동적이고 반복적인 데이터 전처리 과정을 자동화하기 위해 AutoDP-LLM이라는 프레임워크를 제안했다. 이 프레임워크는 LLM을 활용하여 실행 가능한 데이터 전처리 파이프라인을 생성하고 검증하며, UNSW-NB15 및 NSL-KDD 벤치마크 데이터셋에서 경쟁적인 탐지 성능을 달성했다.
시사점 LLM을 활용하여 IDS의 데이터 전처리 파이프라인 구축 및 최적화에 필요한 수작업과 계산 오버헤드를 줄일 수 있다.
본 연구는 희소 머클 멤버십, 비멤버십 및 업데이트에 대한 GKR의 건전성 경계를 Isabelle/HOL에서 기계적으로 검증하였다. 연구는 컴파일러의 정확성 검증과 GKR 어셈블리 모델을 하나의 증명 보조 도구 내에서 결합하는 것을 기여하였다.
시사점 이 연구는 컴파일러의 정확성 검증과 GKR 어셈블리 모델을 통합하여 구현 및 암호학적 의무에 대한 명시적인 설명을 제공한다.
본 연구는 문법 제약 디코딩과 확률 인지 워터마킹을 통합한 Grammar-Guided Code Watermarking with Green Temperature (GTCW)를 제안하였다. GTCW는 다섯 가지 모델과 다섯 가지 벤치마크에서 평균 AUROC 73.61%를 달성하며, 이는 가장 강력한 기준선(baseline)의 67.83% 대비 향상된 수치이다.
시사점 코드 생성 모델의 워터마킹 시, 문법적 제약을 유지하면서도 워터마크 신호를 강화하는 기법을 적용할 수 있다.
본 연구는 능동적 개인 에이전트(proactive agents) 환경에서 제공자가 사용자 맥락 접근 없이도 에이전트를 특정 목표로 유도하는 공격 벡터를 분석했다. 이 공격은 세 가지 실패 모드를 통해 실행되며, 테스트된 모든 환경에서 최대 77.4 퍼센트포인트의 목표 승인 증가를 가져왔다.
시사점 사용자에게 서비스를 제공하는 에이전트의 기능이 사용자-에이전트 관계 외부의 목표를 위해 전용될 수 있으므로 신뢰 경계를 재정의해야 한다.
본 연구는 쉘 구문을 파싱하지 않고 실행 행위(동사, 피연산자 등)를 기반으로 ALLOW/ASK/DENY를 결정하는 정책 게이트웨이를 분석했다. 50개의 변형 공격 중 92.0%를 성공적으로 분류했으며, 이는 게이트웨이가 누적 상태를 읽지 않고도 판정이 가능함을 보여준다.
시사점 실행 행위만을 기반으로 판단하는 정책 게이트웨이는 높은 정확도를 보이나, 그 판정의 경계와 한계를 이해하는 것이 중요하다.
연구진은 장기 실행 에이전트가 외부 콘텐츠를 소비하고 도구를 호출하는 과정에서 발생하는 단계적 프롬프트 인젝션 공격을 자동화된 파이프라인으로 분석했습니다. 제안된 Path-Aligned Attribution (PAA) 감사기는 Claude Sonnet 5를 대상으로 86%의 차단 재현율(Block recall)을 달성하며 6-8%의 오차 차단율(FBR)을 보였습니다.
시사점 장기 실행 에이전트의 각 중요한 행동 전에 입력 스크리닝과 실행 평가를 통해 공격을 탐지하고 차단하는 경계 감사 메커니즘이 필요하다.
연구진은 LLM 에이전트를 사용하여 동적 분석 도구와 협력하고 런타임 피드백으로부터 취약점 유발 실험을 구성하는 VulValidate 프레임워크를 개발했다. 이 프레임워크를 통해 기존 데이터셋의 35,849개 레이블 중 20,510개(57.2%)가 정확함을 확인하고, 수정된 레이블로 재학습 시 5개 검출기 모두의 F1 점수가 향상됨을 보였다.
시사점 취약점 탐지 연구에서 사용되는 레이블의 품질을 검증하고 개선하는 것이 중요하다.
본 연구는 LLM 게이트웨이가 공유 리소스를 사용하는 환경에서 테넌트의 요청 실패가 다른 테넌트의 접근을 제한하는 취약점을 발견했다. 공격 시나리오를 통해 방어 기법을 설계했으며, 실험 결과 테넌트 격리 범위가 넓어질수록 피해 테넌트의 폴백(fallback) 비율이 감소함을 보였다.
시사점 LLM 게이트웨이의 테넌트 격리는 요청 수락뿐만 아니라 공유 배포 가용성을 관리하는 실패 처리까지 포괄해야 한다.
본 연구는 허가형 블록체인 네트워크 간의 안전한 상호 작용을 위해 InterAcct라는 종단 간 접근 제어 프레임워크를 제안했다. 이 프레임워크는 낮은 추가 오버헤드로 크로스체인 요청-응답 상호 작용에 종단 간 접근 제어를 적용할 수 있음을 실험적으로 보여주었다.
시사점 블록체인 네트워크가 상호 연결될 때, 각 네트워크의 접근 제어 정책 차이를 관리하는 통합 프레임워크가 필요하다.
연구진은 Raspberry Pi 및 Jetson Orin Nano를 사용하여 상용 ARM 플랫폼 기반의 5G 분산 유닛(DU)을 구축하고, 이를 통해 실제 무선 환경에서의 성능을 검증했습니다. Jetson은 x86 분할-DU 이더넷 다운링크 처리량의 88.4%를 유지했으며, 5G/WireGuard는 각 호스트의 유선 다운링크 속도의 76.4-77.1%를 유지했습니다.
시사점 본 연구는 제한된 자원으로도 공중 기반 통신 인프라를 구축하고 비상 통신 기능을 구현할 수 있음을 보여준다.
연구진은 레이어별 선형 프로브(layerwise linear probes)를 사용하여 악성 계약을 구별하는 LLM의 후보 레이어를 식별하고, 이를 바탕으로 악성 계약 판별 단위(MCDU)를 추출하는 ContractLens 프레임워크를 제안했다. 이 프레임워크는 평가된 모든 사전 학습 모델에서 기존 방법보다 높은 평균 탐지 정확도를 달성했다.
시사점 LLM의 내부 표현을 활용하여 악성 스마트 계약을 탐지하는 새로운 접근 방식을 제공한다.
연구진은 Jev를 애플리케이션 의사결정 계층으로 사용하며 프롬프트 인젝션, 공급망 공격(supply-chain attack), 멤버십 추론 공격 등을 통해 보안 및 개인정보 침해 가능성을 체계적으로 조사했다. 그 결과, Jev가 이러한 보안 및 개인정보 위협에 취약하며, 그 의사결정 능력이 유익하거나 악의적인 용도로 사용될 수 있음을 발견했다.
시사점 Jev와 같은 LLM을 의사결정 계층으로 사용할 경우, 입력 조작 및 정보 추출 공격에 취약하므로 보안 검토가 필수적이다.
연구진은 클라이언트가 한 번의 프롬프트만 보내고 서버에서 모든 추론 루프를 암호화된 상태로 실행하는 AR-HE를 구축했다. 최적화를 통해 GPT-2 small 토큰 생성에 소요되는 시간을 기존 대비 크게 단축시켰다.
시사점 동형 암호를 이용한 LLM 추론 시 서버 측에서 루프를 유지하고 부트스트랩을 최적화하면 클라이언트의 개입 없이도 효율적인 추론이 가능하다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.