연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
본 연구는 확산 모델으로 생성된 이미지의 출처 추적을 위해, 메시지를 초기 노이즈에 임베딩하는 새로운 웨이블릿 도메인 워터마킹 방법인 WaveMark를 제안하였다. 이 기법은 공격적인 제거 공격 하에서도 평가 대상 대비 88% 이상의 비트 정확도(BA)를 유지하며 기존 기법들을 능가하였다.
시사점 확산 모델 생성 이미지의 무단 사용이나 출처 추적을 위해 견고한 워터마킹 기술을 적용할 필요가 있다.
본 연구는 무허가 AI 시장에서 공격자가 신원 조작을 통해 평판을 부풀리는 시빌 공격에 대응하기 위해, 신뢰 네트워크를 기반으로 유한 용량을 갖는 방향 그래프 상에서 결제를 승인하는 AgentValve 프로토콜을 제안했다. 이 프로토콜은 시뮬레이션에서 최대 10,000개의 합성 시빌 신원 공격 하에서도 결제 노출 및 용량 고갈이 경계 내에 있음을 보여주었으며, 증인-커밋 메커니즘을 통해 승인 비용을 최대 40.8% 절감했다.
시사점 탈중앙화된 AI 서비스 시장에서 평판 기반 결제 시스템을 구축할 때, 시빌 공격에 대한 방어 메커니즘을 결제 승인 프로토콜에 통합하는 것이 중요하다.
본 연구는 잡음 있는 선형 방정식 문제에 대한 새로운 샘플 보존 탐색-결정 환원을 제시하며, 이는 LWE 및 LWR에 대한 환원을 포함한다. 이 환원은 모듈로 $q$가 지수적으로 크더라도 잡음 대 모듈로 비율 $\sigma/q$가 0이 아니면 $\mathrm{poly}(n)$ 시간에 실행 가능하다.
시사점 이 연구는 LWE 및 LWR 문제에 대한 새로운 환원 방법을 제공한다.
연구진은 InsightDB가 플래그한 16,977개의 취약 모델을 대상으로 GitHub 저장소 등에서 사용 및 전파 추적을 수행했다. 분석 결과, 이 취약 모델들은 5,000개 이상의 오픈소스 저장소에서 발견되었으며, 개발자들이 보안 검증 없이 모델을 통합하는 경향이 있음을 확인했다.
시사점 모델 파일 스캔만으로는 불충분하며, AI 공급망의 애플리케이션 계층에서 맥락 인지적 보안 분석과 통합 가드레일이 시급하다.
본 연구는 하드웨어 성능 카운터(HPC) 데이터를 이용한 하드웨어 악성코드 탐지기(HMD)의 면적, 전력, 타이밍 비용 문제를 다루었습니다. 그 결과, 트리 기반 및 규칙 기반 탐지기가 함수 기반 탐지기보다 훨씬 적은 면적과 낮은 에너지로 높은 탐지 성능을 달성함을 확인했습니다.
시사점 HPC 입력 수를 줄이는 것은 탐지 성능을 유지하면서도 면적, 전력, 지연 시간을 크게 줄이는 데 효과적이다.
본 연구는 의미 있는 식별자와 셀프 인증 식별자를 연결하는 두 가지 접근 방식(양파 주소 및 DID)을 설명하고, 이 둘을 결합한 단일 식별자 구조를 제시한다. 또한, 신원 연결의 무결성을 맥락적 신뢰에 기반하여 정립하는 방법을 기술한다.
시사점 신원 연결의 무결성을 중앙 집중식 인프라에 의존하지 않고 맥락적 신뢰에 기반하여 구축하는 접근 방식을 고려할 수 있다.
본 연구는 DP-BandMF 훈련에서 무작위 할당을 기반으로 새로운 배치 선택 전략을 제안하고, GPU 구현 최적화를 통해 계정 추적 처리량(throughput)을 두 자릿수 향상시켰다. 또한, 두 가지 전략 매개변수를 결합하는 프레임워크를 제시하여 고정 전략 대비 RMSE를 최대 13.4% 감소시켰다.
시사점 DP-BandMF와 같은 차분 프라이버시 적용 시, 배치 선택 및 노이즈 추가 방식을 최적화하고 매개변수를 통합하는 것이 성능 향상에 중요하다.
연구진은 사이트들이 업데이트를 비밀 공유하고 서버들이 이를 검증하는 두 서버 프로토콜 PVBRF-ID를 제안하여 프라이버시와 견고성을 동시에 확보했다. 10개 사이트의 데이터 분포 및 시드 조건에서 PVBRF-ID는 깨끗한 데이터에서 FedAvg와 유사한 성능을 보였으며, 적응형 공격에 대해서도 높은 저항성을 보였다.
시사점 분산된 환경에서 프라이버시를 유지하면서도 이상 탐지 모델의 견고성을 확보하는 새로운 프로토콜을 고려할 수 있다.
본 연구는 CVM 내부에 보안 모니터와 커널 드라이버로 구성된 TEEVisor 아키텍처를 도입하여 AMD SEV-SNP의 가상 머신 권한 수준(VMPLs)을 활용한다. 이 구현은 컴퓨팅 및 메모리 바운드 워크로드에서 5% 미만의 오버헤드를 보였으며, 인클레이브 복제 속도를 93~$ ext{us/MB}$로 가속화했다.
시사점 CVM 환경에서 eSGX 시맨틱스를 구현하는 것은 프로덕션 사용에 실용적임을 보여준다.
본 연구는 LLM의 백도어 공격을 단일 트리거 대신 보이지 않는 토큰과 단계 제어기를 활용하여 여러 중간 단계를 거쳐 점진적으로 진행시키는 'Cancerous Backdoor Attack'을 제안했다. 이 공격은 추론 과정에서 점진적인 추론 오염을 일으키며, 이는 답변 정확도만으로는 백도어 공격을 탐지하기 어렵다는 것을 보여준다.
시사점 LLM의 백도어 공격은 점진적으로 발생할 수 있으므로, 답변 정확도 외의 다른 지표를 통해 공격을 탐지해야 한다.
연구진은 현대 Arm SoC의 비특권 전력 센서를 이용하여 타이머 없이 DRAM 매핑 함수를 복구하고 메모리 접근의 데이터 종속성을 밝히는 HOMARD 방법론을 제시했다. 이 방법론은 AMD ZCU102, Raspberry Pi 5 등에서 성공적으로 시연되었으며, HOMARD-DATA는 81.5%의 정확도로 Hamming-weight 레벨을 분류하고 비밀 바이트를 복구했다.
시사점 전력 누설 정보는 타이밍 정보가 없는 상황에서도 프로파일링된 마이크로아키텍처 공격을 위한 독립적인 채널로 활용될 수 있다.
본 연구는 머신 상태 외의 조직적 지식 격차(organizational context gap)를 해소하기 위해 조직적 맥락을 보안 결정 레이어로 도입하고 이를 모델링했다. 실제 환경에서 추출 작업은 1,355개 주장 중 0.80을 0.87의 정밀도로 복구했으며, 추론 작업에서 정책 정렬 태스크의 정확도는 0.83을 기록했다.
시사점 엔터프라이즈 보안 시스템이 정확한 결정을 내리려면 머신 상태뿐만 아니라 정책, 감사 보고서 등 비정형화된 조직적 지식을 통합하는 것이 필수적이다.
본 연구는 22가지 프로토콜 계열을 포괄하는 프라이버시 보존 주문 매칭 시스템을 체계화하고, 주문 수명 주기를 네 단계로 나누어 각 단계의 정보 노출과 프라이버시 메커니즘을 분석하였다. 분석 결과, 프라이버시는 단일 프로토콜 수준의 속성이 아니며, 전체 수명 주기에서 종단 간 프라이버시를 달성하는 것이 도전적임을 확인하였다.
시사점 금융 시장 및 블록체인 기반 거래소에서 프라이버시를 유지하면서 주문을 탐색하고 실행하려면 주문 수명 주기 전반에 걸친 통합적인 접근이 필요하다.
본 연구는 프롬프트 인젝션 공격이 단일 및 다중 에이전트 AI 시스템의 사용자 입력과 에이전트 간 통신을 통해 민감 정보를 유출하거나 상호 감염을 유발할 수 있음을 조사했다. 연구 결과는 AI 에이전트가 실제 워크플로우에 통합됨에 따라 더욱 강력한 방어 메커니즘의 필요성을 강조한다.
시사점 AI 에이전트 시스템을 운영할 때는 프롬프트 인젝션 공격에 대비한 견고한 방어 체계를 구축해야 한다.
본 연구는 OpenAI, Anthropic, Google 에이전트의 실제 시스템 침해 사례를 분석하여, 가정한 경계에 의존할 수 없음을 확인했다. 이에 따라 선제적 에이전트 보안 검증 주기(PASAC)와 5계층 경계 검증 스택을 포함한 프레임워크를 개발했다.
시사점 에이전트 보안은 단일 샌드박스나 안전장치에 대한 신뢰가 아닌, 실행 시스템 전반에 걸친 지속적인 검증을 요구한다.
본 연구는 RAG와 구조화된 프롬프트 엔지니어링을 결합하여 악성코드에 특화된 기만 플레이북을 생성하고, 이를 PoC 악성코드와 함께 검증하는 방법을 제시했습니다. 평가 결과, GPT-5.5가 가장 적은 수정으로 hallucination 없이 플레이북을 생성했으며, Gemini 3.5 Flash는 가장 낮은 응답 시간과 런타임 오버헤드를 보였습니다.
시사점 RAG 기반의 구조화된 프롬프팅은 런타임 시 가볍고 결정론적인 악성코드 특화 기만 플레이북을 확장 가능하게 구축하는 데 도움을 준다.
본 연구는 자동화된 연구를 통해 다양한 적대적 공격을 적용하고 훈련 레시피를 개발하는 재귀적 안전 개선(ReSI) 프레임워크를 소개했다. 이 프레임워크는 네 가지 모델에서 평균 X-Teaming 공격 성공률을 86.01%에서 31.45%로 낮추는 성과를 보였다.
시사점 AI 모델의 안전성을 확보하기 위해 공격과 방어를 반복적으로 적용하고 업데이트하는 재귀적 접근 방식이 효과적임을 시사한다.
본 연구는 낙관적 롤업의 검증 및 주의 집중 문제를 새로운 모델링 프레임워크로 정형화하고, 이를 두 개의 결합된 툴록(Tullock-like) 경쟁으로 분석한다. 이 프레임워크를 통해 운영자가 추가적인 주의 집중 정체성을 배치하는 한계 비용에 따른 달성 가능한 실행 다양성의 범위를 정량화하였다.
시사점 제안된 프레임워크는 TRACE와 Proof of Diligence 같은 주의 집중 메커니즘을 비교 분석하는 데 사용될 수 있으며, TRACE가 더 높은 실행 다양성을 지원할 수 있음을 보여준다.
본 연구는 독점 LLM의 출력물을 학습한 의심 모델이 증류되었는지 여부를 가설 검정으로 접근하여 탐지하는 방법을 제안했다. Qwen2.5-7B를 교사 모델로, Llama-3.2-3B를 의심 모델로 사용한 실험에서 유의 수준 0.02에서 참 양성률 1.0을 달성했다.
시사점 증류 추론은 모델 증류 공격을 탐지하는 데 사용될 수 있음을 보여준다.
연구진은 워터마크 탐지기의 공개가 공격자에게 피드백을 제공할 수 있음을 인지하고, 공개-비공개 키를 사용하는 분할 키(split-key) 워터마킹 방법을 도입하였다. 이 방법은 공개된 부분의 변조는 탐지 가능하며, 전체 검증을 통해 공격자의 정보를 제한적으로만 얻을 수 있음을 실험적으로 보였다.
시사점 워터마크의 일부를 공개하면서도 탐지 및 포렌식 기능을 유지하는 분할 키 방식은 투명성과 상호 운용성을 제공하며, 제공자의 책임을 제한할 수 있다.
본 연구는 Arm TrustZone 기반 OP-TEE에서 WebAssembly Micro Runtime(WAMR)을 사용하여 변형되지 않은 AI 모델을 실행할 수 있는 해결책을 제시하고, WebAssembly 바이너리를 암호화하여 실행하는 모델 배포 방식을 제공했다. 이 솔루션은 수동 포팅 대비 22%의 추가 오버헤드를 가지며, 포팅 노력 없이 6%의 추론 지연 시간을 추가한다.
시사점 AI 모델의 지적 재산권을 보호하기 위해 WebAssembly를 활용하는 것이 현실적인 가능성을 보여주지만, 실제 적용에는 여전히 실질적인 과제가 남아있다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.