연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
이더리움 블록체인에서 주소 오염(Address Poisoning) 사기를 분석하고, 자금 조달 메커니즘과 사기 서명 패턴, 토르노 캐시를 통한 자금 세탁을 조사하여 5가지 사기 서명 패밀리를 제안했다. 토르노 캐시를 사용한 APT 자금 조달과 세탁의 첫 조사이다.
시사점 이더리움 사용자는 주소 오염 사기의 자금 흐름을 주의 깊게 모니터링해야 하며, 제안된 사기 서명 패턴을 활용한 주소 클러스터링이 사기 탐지에 도움이 될 수 있다.
에이전트 통합 소프트웨어(AIS)에서 인간 작업과 에이전트 동작이 공존하는 보안 문제를 분석하고, 보안 정책이 전체 시스템 수준에서 적용되어야 한다고 주장한다. 보안 분석을 위한 4가지 범주와 연구 기회를 제시한다.
시사점 AIS 보안을 평가할 때는 인간 작업과 에이전트 동작을 모두 고려해야 하며, 보안 정책이 전체 시스템에 걸쳐 효과적으로 적용되어야 한다는 점을 실무에 반영해야 한다.
LLM의 추론 시 개인정보 보호를 위해 의미와 구조를 분리하는 새로운 방안을 제시한다. CROSS-MAP을 통해 재구성 성공률을 감소시키며 기존 기법보다 우수한 성능을 보인다.
시사점 CROSS-MAP은 LLM을 활용한 민감한 작업에서 개인정보 보호를 강화할 수 있는 방안이다.
본 연구는 IoT 네트워크 침입 탐지를 위한 LLM을 활용한 AutoML 프레임워크를 제안한다. 제안된 프레임워크는 데이터셋 프로파일을 기반으로 AutoML 정책을 생성하여 침입 탐지 성능을 향상시키며, 10번의 시도로 기존 AutoML보다 높은 F1-score를 달성하고 63.7%와 49.9%의 최적화 시간 감소를 보였다.
시사점 이 연구는 IoT 네트워크 보안에서 AutoML의 효율성을 향상시키는 새로운 접근법을 제시하여, 실무에서 보다 빠르고 효과적인 침입 탐지 시스템 개발에 기여할 수 있다.
생산 웹 애플리케이션에서 런타임 시 Azure AD 클라이언트 자격 증명과 APIM 구독 키가 노출되는 문제를 분석하고, 정적 분석 도구의 한계를 보여준다. 194개의 비밀 자격 증명을 기준으로 86.1%의 탐지율을 기록했으며, 13.9%는 수동 분석에서만 발견되었다.
시사점 이 연구는 정적 분석만으로는 런타임 시 비밀 정보 노출을 완전히 탐지할 수 없음을 보여주며, 런타임 탐지 방법을 도입할 필요성을 강조한다.
신경망 모델 보안을 위한 듀얼-락킹 기법을 제안하고, 키 기반 인덱스 순열과 PIN 기반 워터마킹을 결합한 방법을 제시한다. 실험 결과, 정확도는 10% 이하로 감소했으며, 올바른 키로 복원 시 성능이 완전히 회복된다.
시사점 이 기법은 AI 모델의 보호, 복원, 소유권 검증을 동시에 제공하여 모델 보안을 강화할 수 있다.
다양한 조직 경계를 넘나드는 에이전트 시스템에서 신뢰를 평가하기 위한 Trustworthiness as a Service(TaaS) 개념을 제안하고, 신뢰 증거를 구조화하는 방법을 제시한다. 신뢰 증거 봉투(trust-evidence envelope)를 통해 작업 범위 내 권한, 정책, 실행 결정, 기원, 유효성, 공개, 상태, 도전, 복구를 포함한 불변 워크플로우 매니페스트를 정의한다.
시사점 이 연구는 조직 간 신뢰를 구조화하고 독립적으로 검증할 수 있는 프레임워크를 제시하여, 분산 환경에서의 신뢰 관리를 위한 실용적 가이드를 제공한다.
다중 에이전트 시스템에서 프롬프트 인젝션 공격의 새로운 위협 메커니즘을 분석하고, 메시지 서명, 입력/출력 정화, 권한 제한, 이상 탐지 등 4가지 방어 기법을 제안한다. 6개 에이전트 시스템에서 14가지 공격 벡터를 실험한 결과, 방어 적용 후 인젝션 성공률이 31.2%에서 4.2%로 감소했다.
시사점 다중 에이전트 시스템에서 프롬프트 인젝션 방어를 위해 메시지 인증, 경계 정화, 권한 분리, 통신 패턴 이상 탐지를 적용할 수 있다.
LLM 에이전트의 메모리 오염 방어 기법을 평가하는 측정 환경을 구축하고, 무해한 트래픽에서의 정확도 감소와 토큰 오버헤드를 분석했다. 재정렬 방어는 정확도를 4.4포인트 낮추고 33.6%의 정당한 메모리 격리 비율을 보였다.
시사점 LLM 에이전트 보안 방어는 무해한 상황에서도 성능 저하를 유발하므로, 방어 기법 선택 시 정상 트래픽 영향을 반드시 고려해야 한다.
LLM 에이전트가 보안 작업에서 효과적으로 작동하도록 하기 위해 SelfOp라는 새로운 최적화 알고리즘을 제안한다. SelfOp는 200개 미만의 학습 예시로 GPT-5.4-mini의 성능을 17점 향상시키고, GPT-5.4 기준선을 6점 초과하는 성능을 보였다.
시사점 SelfOp를 사용하면 보안 작업에서 LLM 에이전트의 성능을 제한된 학습 데이터로 향상시킬 수 있다.
모바일 에이전트의 보안 정책 위반 여부를 판단하는 MATE 시스템을 제안한다. 합성된 14만 개 이상의 경로로 학습한 MATE는 MATEBench 벤치마크에서 95% 이상 정확도를 달성했다.
시사점 이 시스템은 모바일 에이전트의 보안 정책 준수 여부를 실시간으로 감사할 수 있는 실용적인 방법을 제공한다.
오프라인 강화학습에서 데이터 삭제 요청이 보안 위험을 유발할 수 있음을 보인다. UBA-ORL 공격은 삭제 요청 후에 백도어가 활성화되는 메커니즘을 제시하며, 실험에서 이 공격이 설정에 따라 제어 가능함을 보인다.
시사점 데이터 삭제 요청이 보안 위험을 유발할 수 있으므로, 오프라인 강화학습 플랫폼에서 사전/사후 감사 메커니즘을 개발해야 한다.
MCP 인터페이스의 인증 및 권한 부여 문제를 분석하고, 기업 제로트러스트 요구사항을 충족하는 확장 기능을 제안한다. 기존 SDK의 단점을 보완하여 권한별 도구 가시성 제어와 메타데이터 엔드포인트 등을 구현해 21.1%에서 0%로 금지 도구 노출률을 감소시켰다.
시사점 이 연구는 기업이 MCP를 사용하는 LLM 에이전트의 보안을 강화하기 위해 제로트러스트 인증 및 권한 부여 확장을 도입할 필요가 있음을 시사한다.
LLM 에이전트에서 조건부로 작동하는 새로운 프롬프트 인젝션 기법인 폭발적 프롬프트를 제시하고, 이를 탐지하는 방어 기법을 제안한다. 폭발적 프롬프트는 기존 방어 기법을 우회하는 데 성공했으며, 탐지기는 재학습 후 공격 성공률을 34.3%에서 7.5-8.1%로 줄였다.
시사점 LLM 에이전트에서 조건부 프롬프트 인젝션을 탐지하기 위해 폭발적 프롬프트 데이터로 학습한 탐지기를 사용해야 한다.
AI 에이전트가 SMB에서 널리 사용되면서 새로운 보안 위협이 증가하고 있다. ESET의 분석에 따르면 2026년 3~5월 사이 약 90만 개의 AI 에이전트 스킬 중 25,000개 이상이 의심스럽고 3,000개 이상이 악성으로 판명되었다. 또한, AI 모델의 홀로라션과 프롬프트 인젝션 공격이 SMB를 위협하고 있다.
시사점 SMB는 AI 에이전트 도입 시 공급망 관리와 프롬프트 인젝션 방어를 강화해야 하며, 전통적 공격 벡터에 대한 대비도 필요하다.
AI 에이전트의 결제 승인을 평가하는 벤치마크인 APort Vault를 제안하고, 14개 모델과 5개 정책 설정에서 4,371개의 공격을 재현한 실험 결과를 보고한다. 225,964개 평가를 완료했으며, Level 4에서 62.6%의 프롬프트가 모든 모델에서 요청을 유발했다.
시사점 이 연구는 AI 에이전트의 결제 승인 보안을 평가하는 표준 벤치마크를 제공하여, 다양한 모델과 정책 설정에서의 보안 성능을 비교할 수 있다.
딥러닝 모델의 하드-라벨 설정에서 모델 추출 공격을 위한 새로운 부호 복구 알고리즘을 제안한다. MNIST와 Fashion-MNIST 데이터셋에서 훈련된 모델에 대해 98% 이상의 라벨 일치율을 달성한다.
시사점 이 연구는 실제 블랙박스 환경에서 딥러닝 모델의 파라미터를 추출하는 데 기여할 수 있다.
대규모 언어 모델에서 추론 효율성과 출력 출처 추적 문제를 해결하기 위해 포아송 과정 기반의 새로운 다중 초안 추측 샘플링 알고리즘을 제안한다. 제안된 알고리즘은 추측 수용률을 저하시키지 않고 무편향 워터마크를 삽입할 수 있으며, 샘플링 효율성과 워터마크 강도를 동시에 유지한다.
시사점 이 연구는 대규모 언어 모델의 출력을 효과적으로 추적하고 보호하기 위한 새로운 방법을 제시하여, AI 생성물의 탐지 및 보안 강화에 기여할 수 있다.
LLM에 대한 제한 해제 공격 방어 기법을 단계별로 조합하는 방법을 제안하고, 일관된 위협 모델 하에서 방어 조합의 효과를 평가한다. 19개 공격과 15개 방어 기법을 대상으로 하여, 단일 방어보다 조합 방어가 안전성과 유틸리티 저하를 동시에 개선하는 것을 보인다.
시사점 LLM 보안을 위해 단계별 방어 조합 전략을 채택하고, 일관된 평가 기준을 적용할 필요가 있다.
LEFSA라는 확률적 프레임워크를 제안하여, 운영 보안 텔레메트리 데이터를 기반으로 기계 수준의 사이버 손실 사건 확률을 추정하고 계층적 인프라 수준으로 집계한다. XGBoost 모델을 사용한 평가에서 ROC 곡선 하부 면적 0.90의 예측 성능을 보였다.
시사점 이 연구는 운영 데이터를 기반으로 사이버 위험을 정량화하는 새로운 프레임워크를 제시하여, 기업의 데이터 기반 위험 관리 전략 수립에 기여할 수 있다.
TERMon은 에지 AI 가속기에서 모델의 런타임 실패를 탐지하기 위해 하드웨어 네이티브 테르너리 런타임 모니터를 제안한다. TERMon은 클래스 조건부 신뢰 행동을 하드웨어 효율적인 테르너리 패턴으로 표현하여, 온도계 인코딩된 지문과 병렬로 일치시킴으로써 이들을 탐지한다.
시사점 TERMon은 에지 AI 환경에서 모델의 신뢰성을 실시간으로 모니터링할 수 있는 새로운 하드웨어 기반 방안을 제공한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.