연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
LLM 생성 텍스트에 사용자 식별 메시지를 삽입하여 내용 출처를 추적하는 다중 비트 워터마킹 기법을 제안하고, 페이로드 확산을 통해 페이로드 용량을 향상시키며, 소프트 결정 오류 수정 코드를 통해 추출 정확도를 개선하고, 무편향 다중 계층 재가중을 통해 텍스트 품질을 유지한다. 200 토큰에서 32비트 메시지의 일치율은 89.8%로 BiMark의 20.8%에 비해 훨씬 높으며, 10% 치환 공격에서도 86.0%를 달성한다.
시사점 LLM 워터마킹 기법의 성능을 향상시켜 내용 출처 추적의 신뢰성을 높일 수 있다.
지속적 AI 에이전트가 반성, 검색, 통합을 통해 자기 서술 상태를 구성할 때 비신뢰할 수 있는 입력이 지속 상태에 포함될 수 있는 문제를 해결하기 위해 타입 기반 증명(typed provenance)과 진술 가이드라인(assertion guardrails)을 제안한다. 24개의 수작업 준수 사례에서 19개의 비안전 기회 중 하나도 무자격으로 통과시키지 않았으며, 모든 지원되는 제어를 보존했다.
시사점 AI 에이전트의 지속 상태 관리 시 보안성을 확보하기 위해 타입 기반 증명과 진술 가이드라인을 도입할 필요가 있다.
신뢰할 수 있는 실행 환경(TEE)에서 정보 흐름 보안을 강제하는 새로운 방법을 제안한다. SPLITR을 구현하여 OpenSSL과 같은 실제 애플리케이션에서 성능 평가를 수행하였다.
시사점 이 연구는 LLVM 기반 애플리케이션에서 수동 enclave 분할의 필요성을 줄이고 보안성을 향상시킬 수 있는 실용적 접근법을 제시한다.
LLM 에이전트의 스킬 선택 과정에서 암묵적 조작 공격(ISM)을 제안하고, 세 단계 전략을 통해 타겟 스킬 선택률을 15.2%에서 63.5%까지 높였다. ISM은 명시적 지시 없이도 인간 심사자에 의해 차단당하는 비율이 2.9%에 불과하다.
시사점 LLM 에이전트의 스킬 선택 과정에서 암묵적 조작 공격이 효과적임을 보여주어, 보안 설계 시 이러한 공격 방식을 고려해야 한다.
WiFi RF 지문 인식(RFF)의 장치 인증 문제를 해결하기 위해 OpenMax 프레임워크를 개선한 C$^2$T-OpenMax 방법을 제안한다. 공개 WiFi CSI 데이터셋에서 테스트한 결과, 8개 위치 그룹 중 7개에서 가장 높은 오픈세트 정확도를 달성했으며, AUROC 0.0887, OSCR 0.0856 증가 등 기존 기법 대비 성능 향상이 입증된다.
시사점 이 연구는 WiFi 장치 인증 시 환경 변화에 대한 일반화 능력을 향상시키는 새로운 RFF 기법을 제시하여, 무선 네트워크 보안 분야에서 실용적 적용 가능성을 제시한다.
연방 학습에서 클라이언트 간 모델 업데이트의 민감 정보 유출을 방지하기 위해 다중 비밀 키 동형 암호화를 기반으로 한 프라이빗 평균 집계 프로토콜을 제안한다. 기존 대비 암호문 확장과 온라인 비용을 대폭 줄이며, 동형 집계 성능을 유지한다.
시사점 이 연구는 연방 학습 환경에서 보안성을 유지하면서도 계산 효율성을 향상시킬 수 있는 새로운 암호화 기법을 제시하여, 분산 학습 시스템의 실용화에 기여할 수 있다.
Poisson subsampling의 독립성에 기반한 프라이버시 증폭 메커니즘을 분석하고, 음의 상관관계가 이 메커니즘을 얼마나 확장할 수 있는지 이론적으로 규명했다. 음의 상관관계가 있는 경우, 정수 R\'enyi 순서 $\alpha\ge2$에서 독립적인 경우와 동일한 R\'enyi 발산을 보인다.
시사점 이 연구는 실무에서 구조화된 참여 방식을 사용할 때 프라이버시 증폭 계산의 한계와 대안을 제공하여, 미분 프라이버시 시스템 설계에 중요한 지침을 준다.
자율 에이전트가 조직 간 데이터베이스와 클라우드 서비스를 변경하는 도구 동작을 실행할 때 발생하는 보상 가능한 부작용을 정산하기 위한 스마트 계약 프로토콜인 Recourse를 설계하고 평가했다. Recourse는 허가된 동작을 범위, 복구, 증거, 지급금, 보증금과 결합하여 보상되지 않은 피해를 줄이는 데 기여한다.
시사점 이 연구는 자율 에이전트가 조직 간에 실행하는 도구 동작의 부작용을 스마트 계약으로 정산하는 새로운 프로토콜을 제안하여, 보상되지 않은 피해를 감소시키는 데 기여한다.
에이전트 플라이트 레코더(Agent Flight Recorder)는 장기적 툴 사용 에이전트의 모든 동작을 구조화된 이벤트로 기록하고, 해시 체인과 머클 배치를 통해 탬퍼 증거를 제공하는 시스템이다. 시스템은 48 마이크로초 평균 이벤트 지연과 512바이트당 이벤트, L2 앵커링 비용 $2.30/10만 이벤트를 기록했으며, 100% 탐지율과 0% 오류를 보였다.
시사점 이 시스템은 장기적 툴 사용 에이전트의 보안 감사 및 탬퍼 증거를 제공하여, 조직 간 분쟁 해결과 제3자 검증을 용이하게 한다.
이 연구는 뇌파 신호를 바이오메트릭 인증 시스템으로 사용하는 데 있어 적대적 공격에 대한 취약성을 분석한다. 6개 공개 데이터셋을 사용한 실험에서 기록 조건에 따라 취약성이 크게 달라지는 것을 보였다.
시사점 이 연구는 뇌파 기반 인증 시스템의 보안 설계 시 적대적 공격에 대한 고려가 필요함을 시사한다.
LLM 에이전트의 지속 메모리가 권한 상태를 잘못 기록해 권한을 조작하는 '내생적 권한 세탁' 현상을 분석하고, 이를 측정하는 EAL-Bench 벤치마크를 제안한다. 50.2%의 비인가 요청에 대해 거짓 권한이 생성되고, 이는 98.6%의 경우 실행에 이르는 것으로 나타났다.
시사점 LLM 에이전트의 메모리 관리가 권한 정책의 핵심 요소임을 보여주어, 메모리의 정확성 보장을 위한 설계가 필요하다.
이 연구는 소프트웨어 취약점 탐지를 위해 행동 트리(Behavior Tree, BT)를 사용하는 새로운 접근법을 제안한다. Java 소스 코드를 AST로 변환한 후 BT로 전환하는 전처리 단계를 제안하고, 460개의 Java 샘플에서 원본 코드, AST, BT의 탐지 성능을 비교한 결과, BT는 짧은 코드 샘플에서 재현율을 향상시키고 긴 코드에서는 전체 성능을 개선하는 것으로 나타났다.
시사점 이 연구는 라이트급 LLM을 사용한 취약점 탐지에서 행동 트리(Behavior Tree)가 효과적임을 보여주어, 제한된 자원 환경에서의 실용성을 높일 수 있다.
완전 동형 암호화(FHE) 기반 언어 모델 추론의 성능 저하 문제를 해결하기 위해, 비선형성 근사 반복 횟수를 학습 가능한 파라미터로 변환하는 훈련 방법을 제안한다. HEAT를 사용하면 GPT-2 해독 작업에서 반복 횟수를 3.1배, 부트스트랩을 1.6배, 종단 간 지연을 1.4배 감소시키며, 기준선 대비 해독 일치도를 개선한다.
시사점 이 연구는 FHE 기반 언어 모델 추론의 효율성을 향상시켜, 암호화된 데이터 처리 환경에서 실용성을 높이는 데 기여할 수 있다.
이 연구는 텍스트-음성(TTS) 모델에 대한 멤버십 추론 공격(MIA) 프레임워크를 제안한다. TTS 모델의 멀티레벨 음성 특성과 시간적 변이성을 고려한 대표성 공학과 쿼리 생성 기법을 통해, 세 가지 최신 TTS 모델에서 멤버십 정보를 0.80~1.0의 AUC로 추론할 수 있음을 보인다.
시사점 이 연구는 TTS 모델이 개인 음성 데이터를 통해 학습되었을 때의 개인정보 유출 위험성을 입증하여, 보다 강력한 프라이버시 보호 기법의 필요성을 강조한다.
AI 에이전트가 MCP와 A2A 프로토콜을 동시에 사용할 때 정보 유출 경향을 측정했다. 4개 모델에서 PUBLIC 라벨이 유출률을 평균 0.8 증가시켰다.
시사점 AI 에이전트 시스템에서 공개 라벨이 정보 유출을 유도할 수 있으므로, 보안 정책에 반영해야 한다.
AI 코딩 에이전트가 협업할 때 기밀 정보를 보호하기 위해 Skill-as-API라는 새로운 프로토콜을 제안한다. 이 프로토콜은 기술의 본문을 전달하지 않고 이름, 설명, 입력/출력 스키마만 공개하며, 1.8-2.9초의 대륙 간 재접속 지연 시간을 보인다.
시사점 AI 에이전트 협업 시 기밀 정보 유출을 방지할 수 있는 프로토콜을 개발하여 실무에서 적용할 수 있다.
보안 팀과 연구자들이 위협 보고서에서 지식 그래프 추출 도구를 선택할 때 발표된 triple-F1 점수에 의존하지만, 이 점수는 예측된 트리플이 금색 주석과 어떻게 매칭되는지에 따라 달라진다. 12개 시스템 중 5개만이 발표된 매칭 규칙을 재구현할 수 있었고, 10개 시스템 출력을 공유 문서에서 8개 프로토콜로 다시 점수화하면 45개 쌍 중 11개의 순위가 뒤바뀐다.
시사점 이 연구는 보안 팀이 위협 보고서에서 추출 도구를 선택할 때 점수 재산정과 매칭 규칙의 영향을 고려해야 함을 시사한다.
PCS는 농업 분야에서 농부의 데이터와 신원을 보호하면서 모델 유틸리티를 유지하도록 설계된 보안 머신러닝 시스템이다. 뉴욕과 캘리포니아에서 6개월과 10개월간 각각 농업 모니터링 및 예측 작업을 평가하여 DSC 0.71, R² 정확도 0.84를 달성했으며, 단일 사이트 모델 정확도를 각각 22.4%와 9.1% 개선했다.
시사점 PCS는 농업 분야에서 데이터 프라이버시를 보장하면서 모델 성능을 향상시키는 시스템으로, 농업 기술의 채택을 촉진할 수 있다.
에이전트 AI 시스템이 민감한 데이터를 추론 시간에 처리할 때 발생하는 개인정보 유출 위험을 분석하고, 기존 방어 기법을 무력화하는 새로운 컨텍스트 추론 공격 기법을 제시한다. 공격 성공률(ASR) 100% 및 AUROC 92.5 등 높은 정량적 성능을 보인다.
시사점 에이전트 AI 시스템을 사용하는 기업은 컨텍스트 추론 공격에 대한 보안 대책을 강화해야 한다.
Check Point Research는 2025년 중반부터 브라질 기관을 대상으로 지속적인 공격 캠페인을 추적했다. 중국어 사용 사이버 범죄 그룹이 Earth Berberoka와 연결되어 있으며, 이 그룹은 아시아의 도박 사이트를 표적으로 한 적이 있다. 공격자는 희생자 시스템에 커스텀 다운로더, 여러 백도어 등을 배포한다.
시사점 이 보고서는 브라질 정부 기관의 사이버 보안 취약성을 드러내며, 중국어 사용 사이버 범죄 그룹의 전략적 공격 활동을 주의 깊게 모니터링할 필요가 있다.
Unit 42는 랜섬웨어 공격에서 인간 공격자가 최첨단 AI를 활용해 기업 네트워크를 자동화된 방식으로 침해한 사례를 분석했다. 공격자는 50개 이상의 MITRE ATT&CK 기술을 10시간 미만으로 집약적으로 수행했으며, 80페이지에 달하는 보안 평가 보고서를 남겼다.
시사점 AI 에이전트를 활용한 공격은 기존 방어 전략을 빠르게 무력화할 수 있어, 실무자는 AI 기반의 자동화된 공격 패턴을 감지하고 대응할 수 있는 방안을 마련해야 한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.