연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
TRUST LONGSYNTH는 차분 프라이버시와 공정성을 보장하는 환자 수준의 합성 데이터 생성 모델로, 경계 제한 통계량, zCDP 기반 가우시안 릴리스, 조건부 해석적 확산, 블록 대각 시간 공분산 등을 결합하였다. epsilon=12, delta=1e-5에서 AUPRC 0.342, Brier score 0.088, 예기되는 교정 오류 0.082, 상관 오류 0.222, 자기상관 오류 0.317, 멤버십 공격 AUROC 0.499를 달성하였다.
시사점 차분 프라이버시와 공정성 검토를 통한 환자 수준의 합성 건강 기록 생성 기법이 제안되어, 보건의료 데이터 공유 시 사생활 보호와 공정성 확보에 활용될 수 있다.
Kaspersky는 중동 제조업체에서 PAYLOAD 랜섬웨어가 Active Directory의 GPO를 악용해 랜섬노트를 배포하고 데스크탑 화면과 로그온 배너를 조작한 사례를 분석했다. 공격자는 GPO를 통해 모든 도메인 가입 Windows 워크스테이션에서 로컬 관리자 계정을 비활성화했으며, 파일 암호화 없이 운영 방해를 유발했다.
시사점 이 사례는 GPO를 악용한 랜섬웨어 공격이 기존 탐지 도구를 우회할 수 있음을 보여주며, Active Directory 보안 강화와 GPO 모니터링의 필요성을 강조한다.
AWS는 노출된 IAM 자격 증명을 자동으로 격리하는 AWSCompromisedKeyQuarantine 관리 정책을 통해 보안 위험을 완화한다. 2020년 8월 11일에 생성된 이 정책은 2021년 4월 21일 V2, 2024년 8월 21일 V3로 업데이트되며, 공격에 대한 보호를 강화한다.
시사점 AWSCompromisedKeyQuarantine 정책을 통해 실시간으로 노출된 자격 증명을 격리하고, 보안 팀이 빠르게 대응할 수 있는 모니터링 전략을 채택해야 한다.
AI 에이전트가 SMB에서 널리 사용되면서 새로운 보안 위협이 증가하고 있다. ESET의 분석에 따르면 2026년 3~5월 사이 약 90만 개의 AI 에이전트 스킬 중 25,000개 이상이 의심스럽고 3,000개 이상이 악성으로 판명되었다. 또한, AI 모델의 홀로라션과 프롬프트 인젝션 공격이 SMB를 위협하고 있다.
시사점 SMB는 AI 에이전트 도입 시 공급망 관리와 프롬프트 인젝션 방어를 강화해야 하며, 전통적 공격 벡터에 대한 대비도 필요하다.
AI 에이전트의 결제 승인을 평가하는 벤치마크인 APort Vault를 제안하고, 14개 모델과 5개 정책 설정에서 4,371개의 공격을 재현한 실험 결과를 보고한다. 225,964개 평가를 완료했으며, Level 4에서 62.6%의 프롬프트가 모든 모델에서 요청을 유발했다.
시사점 이 연구는 AI 에이전트의 결제 승인 보안을 평가하는 표준 벤치마크를 제공하여, 다양한 모델과 정책 설정에서의 보안 성능을 비교할 수 있다.
이 연구는 슈퍼싱귤러 타원곡선의 종결 문제를 해결하기 위한 새로운 알고리즘을 제안한다. 제안된 알고리즘은 기존의 가정 없이 시간과 메모리 복잡도 $p^{1/3+o(1)}$로 문제를 해결한다.
시사점 이 연구는 암호 알고리즘 설계에 영향을 줄 수 있으며, 슈퍼싱귤러 타원곡선 기반 암호 시스템의 보안성을 재평가할 필요가 있다.
이 논문은 시간 경과에 따른 정보 유출을 제어하기 위해 'Provisional Reachability'라는 새로운 보안 기법을 제안한다. 이 기법은 교차점을 일정 기간 동안 보류시키고, 일정 확률로 검토하여 문제가 발견되면 해당 창을 회수함으로써 정보 유출을 제한한다. 100%의 실행에서 0.9mu*에서 정보가 수집되고, 2mu*에서는 0%가 수집되는 것을 보여준다.
시사점 이 연구는 정보 유출을 제어하기 위한 새로운 보안 기법을 제안하여, 실무에서 정보 유출 방지를 위한 새로운 접근법을 제공한다.
딥러닝 모델의 하드-라벨 설정에서 모델 추출 공격을 위한 새로운 부호 복구 알고리즘을 제안한다. MNIST와 Fashion-MNIST 데이터셋에서 훈련된 모델에 대해 98% 이상의 라벨 일치율을 달성한다.
시사점 이 연구는 실제 블랙박스 환경에서 딥러닝 모델의 파라미터를 추출하는 데 기여할 수 있다.
기존 무선 장치 지문 기법의 한계를 극복하기 위해 공간과 주파수 영역의 극성 반응을 결합한 SFPF를 제안한다. 실험 결과, SFPF는 PF 대비 정규화 거리, Fisher 점수, 클래스 간/내 비율을 각각 17.7%, 45.8%, 11.3% 개선했으며, 이상 장치 F1 점수 87.3-90.4%, AUROC 85.4-95.5%를 달성했다.
시사점 무선 장치 이상 탐지 시스템 설계 시 공간-주파수 극성 정보를 결합한 SFPF 기법을 고려해야 한다.
대규모 언어 모델에서 추론 효율성과 출력 출처 추적 문제를 해결하기 위해 포아송 과정 기반의 새로운 다중 초안 추측 샘플링 알고리즘을 제안한다. 제안된 알고리즘은 추측 수용률을 저하시키지 않고 무편향 워터마크를 삽입할 수 있으며, 샘플링 효율성과 워터마크 강도를 동시에 유지한다.
시사점 이 연구는 대규모 언어 모델의 출력을 효과적으로 추적하고 보호하기 위한 새로운 방법을 제시하여, AI 생성물의 탐지 및 보안 강화에 기여할 수 있다.
LLM에 대한 제한 해제 공격 방어 기법을 단계별로 조합하는 방법을 제안하고, 일관된 위협 모델 하에서 방어 조합의 효과를 평가한다. 19개 공격과 15개 방어 기법을 대상으로 하여, 단일 방어보다 조합 방어가 안전성과 유틸리티 저하를 동시에 개선하는 것을 보인다.
시사점 LLM 보안을 위해 단계별 방어 조합 전략을 채택하고, 일관된 평가 기준을 적용할 필요가 있다.
데이터 소유자가 신뢰 실행 환경(TEE)을 통해 데이터 풀을 결합하고, 제3자 분석가에게 특정 계산 권한을 부여하는 아키텍처를 제안한다. 디지털 권리 토큰(DRT)을 통해 코드 실행 권한을 제어하고, 실행 결과를 제공하지만 원본 데이터는 보호한다.
시사점 데이터 소유자는 TEE와 DRT를 활용해 데이터 공유 시 제어권을 유지할 수 있으며, 이는 데이터 프라이버시 관리에 새로운 접근을 제공한다.
LEFSA라는 확률적 프레임워크를 제안하여, 운영 보안 텔레메트리 데이터를 기반으로 기계 수준의 사이버 손실 사건 확률을 추정하고 계층적 인프라 수준으로 집계한다. XGBoost 모델을 사용한 평가에서 ROC 곡선 하부 면적 0.90의 예측 성능을 보였다.
시사점 이 연구는 운영 데이터를 기반으로 사이버 위험을 정량화하는 새로운 프레임워크를 제시하여, 기업의 데이터 기반 위험 관리 전략 수립에 기여할 수 있다.
TERMon은 에지 AI 가속기에서 모델의 런타임 실패를 탐지하기 위해 하드웨어 네이티브 테르너리 런타임 모니터를 제안한다. TERMon은 클래스 조건부 신뢰 행동을 하드웨어 효율적인 테르너리 패턴으로 표현하여, 온도계 인코딩된 지문과 병렬로 일치시킴으로써 이들을 탐지한다.
시사점 TERMon은 에지 AI 환경에서 모델의 신뢰성을 실시간으로 모니터링할 수 있는 새로운 하드웨어 기반 방안을 제공한다.
LLM 에이전트에서 프라이버시 유출을 평가하기 위해 기존 구성요소별 접근 대신 채널 인식 프레임워크 CIPL을 제안한다. 다양한 타겟과 라이브 에이전트 사례를 통해 기존 메모리 라벨만으로 복구 가능성 판단이 어렵다는 것을 보인다.
시사점 CIPL 프레임워크를 통해 LLM 에이전트의 프라이버시 유출 평가가 채널 기반 접근으로 개선될 수 있다.
RAG 시스템에 대한 분산 공격 기법인 마이크로 협력 오염(Micro-Collaborative Poisoning)을 제안하고, 다양한 RAG 구성에서 실험적으로 평가하였다. 실험 결과에 따르면 이 공격은 단일 악성 패스에 의존하지 않고, 여러 문서에서 약한 적대적 신호가 누적되어 발생하며, 이는 단일 문서 검사로는 감지가 어려운 것으로 나타났다.
시사점 RAG 시스템의 보안 설계 시 단일 문서 검사에만 의존하는 방식은 한계가 있으며, 다중 데이터베이스의 다양성과 강력한 검색기를 고려해야 한다.
맥북의 내장 IMU 센서를 통해 키스트로크를 추론하고 사용자 행동을 분석하는 새로운 부채널 공격 기법 BRUTUS를 제안한다. BRUTUS는 키 복원 정확도 89.1%에서 97.5%를 달성하며, 언어 모델을 활용해 특정 문장을 100% 정확도로 재구성할 수 있다.
시사점 맥북 사용자는 내장 IMU 센서에 대한 접근 권한을 엄격히 관리해야 하며, 부채널 공격에 취약할 수 있는 하드웨어 설계를 점검해야 한다.
비밀 공유 시스템에서 라틴 정사각형의 autoparatopism 그룹 궤도를 이용해 비밀 복원 시 누락 정보 문제를 해결한다. 6차 이하 라틴 정사각형의 autoparatopism 기반 critical set 최소/최대 크기를 구했다.
시사점 이 연구는 라틴 정사각형 기반 비밀 공유 시스템의 설계에서 비밀 복원 시 발생하는 문제를 해결하는 이론적 접근을 제시한다.
공개 가중치 언어 모델의 어댑터에서 숨겨진 채널을 구조적으로 제거하고 이를 증명하는 방어 기법 ServeGuard를 제안한다. 0.5B 모델에서 선량한 어댑션에 대해 거의 무료로 모니터링 예산은 구조적이다.
시사점 이 연구는 공개 가중치 언어 모델의 어댑터에서 숨겨진 채널을 제거하고 이를 검증할 수 있는 새로운 방어 기법을 제시하여, 공급망 보안을 강화할 수 있다.
동형 암호화(HE) 기반의 대형 언어 모델(LLM) 추론에서 탈옥 공격에 취약한 보안 문제를 발견하고, 암호화된 데이터 상에서 가드레일 메커니즘을 평가하는 HE-Guardrail 프레임워크를 제안한다. HE-Guardrail은 Llama Guard, JBShield, GradSafe 세 가지 대표적인 가드레일을 구현하여, 암호화 도메인에서 원문 가드레일의 결정을 정확히 재현함을 보인다.
시사점 암호화된 LLM 추론 시스템에서 탈옥 공격을 방어하기 위해 암호화 데이터 상에서 가드레일을 실행하는 HE-Guardrail을 적용할 수 있다.
랜섬웨어가 파일 작업을 분산시키는 방식을 감지하기 위해, 파일 이벤트 기반 그래프를 생성해 유사 행동을 클러스터링하는 DEFEAT 프레임워크를 제안한다. 9780만 개의 파일 I/O 이벤트를 기반으로 99.2% 정확도를 달성했으며, 기존 방법 대비 6.57~7.56% 높은 성능을 보였다.
시사점 랜섬웨어 분석 시 파일 간 관계를 그래프로 재구성해 조기 감지가 가능하다는 점을 실증했다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.