연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
Kubernetes 오퍼레이터의 과도한 권한 부여 취약점을 분석하고 이를 해결하기 위해 LLM 기반 분석 엔진인 OperTraitor를 제안한다. 실제 사례를 통해 과도한 권한이 보안 위협이 될 수 있음을 보인다.
시사점 Kubernetes 오퍼레이터의 RBAC 설정을 점검하고 OperTraitor를 활용해 과도한 권한을 제한함으로써 보안 태세를 강화할 수 있다.
OT/ICS 환경에서 Modbus TCP와 IEC-104 프로토콜을 활용한 트랩피트인 StallGrid를 제안하고, 24일간 운영한 결과 6,709개 세션과 약 2,000시간의 연결 시간을 기록했다. 87-97%의 지연 시간이 악성 IP에 의해 차지되었으며, 짧은 지연(1.5초)이 더 많은 참여를 유도했다.
시사점 이 연구는 패치가 어려운 OT/ICS 환경에서 트랩피트를 활용한 저비용 보완 방어 전략의 실용성을 입증한다.
LLM 에이전트의 비인가 디스틸레이션을 방어하기 위해 보조 행동을 삽입하는 워터마킹 프레임워크를 제안한다. 24개 디스틸된 모델을 48개 정상 모델에서 0개의 오류로 감지했다.
시사점 이 연구는 LLM 에이전트의 비인가 복제를 효과적으로 추적할 수 있는 워터마킹 기법을 제시하여, 모델 보호 및 지적 재산권 관리에 기여할 수 있다.
도구 사용 언어 모델 에이전트의 공격과 방어를 부분 관찰 상태 제어로 모델링하고, DART와 SAGE라는 공격 및 방어 기법을 제안한다. DART는 18.8~35.9%포인트, SAGE는 48.0%에서 4.0%로 공격 성공률을 감소시켰다.
시사점 도구 사용 에이전트의 보안을 강화하기 위해 상태 기반 방어 전략을 채택할 필요가 있다.
대규모 언어 모델(LLM)의 해로운 프롬프트에 대한 안전한 응답을 보장하기 위해, 기존 activation steering 기법을 다중 해로운 카테고리에 확장한 CAM-Steer를 제안한다. 실험 결과, 3가지 LLM 백본과 7가지 해로운 카테고리에서 평균 방어 성공률이 기존 방법을 초과했다.
시사점 CAM-Steer는 단일 프롬프트 내 다중 해로운 카테고리를 동시에 처리할 수 있어, LLM 배포 시 안전성 강화에 즉시 활용할 수 있다.
LLM 기반 에이전트에서 간접 프롬프트 인젝션 공격을 방어하기 위해 CoDeL이라는 새로운 방어 기법을 제안한다. CoDeL은 공격 분포를 학습 중에 재구성하면서 에이전트를 강화하는 방식으로, 기존 방어 기법보다 공격 성공률을 88.5% 감소시켰다.
시사점 CoDeL은 LLM 기반 에이전트의 간접 프롬트 인젝션 공격에 대한 방어를 실질적으로 향상시켜, AI 보안 분야의 실무 적용이 기대된다.
문제 공간 회피 공격을 통해 9가지 최신 회피 공격을 8개 윈도우즈 악성코드 탐지기에 대규모로 평가하여, 탐지기의 취약점이 모델 표현 방식과 공격 유형에 따라 달라짐을 보였다. 99%의 적대적 예제는 두 가지 보완적 공격으로 설명된다.
시사점 악성코드 탐지 시스템의 강건성을 평가할 때 공격 유형과 모델 표현 방식을 함께 고려해야 하며, 적대적 강화 방식의 효과는 공격과 모델에 따라 크게 달라진다.
LLM 에이전트가 취약점을 재현하는 능력을 평가하는 새로운 벤치마크인 ReproBench를 제안한다. 30개 실제 IoT 펌웨어 취약점을 대상으로 실험한 결과, 45.3%는 취약점 시뮬레이션에 의존하고 5.3%만 실제 취약점을 성공적으로 재현했다.
시사점 LLM 에이전트의 취약점 재현 능력은 여전히 제한적이지만, ReproBench를 통해 연구 개선 방향을 도출할 수 있다.
대규모 언어 모델(LLM)에서 특정 지식을 제거하기 위해 기존 선호 최적화(PO) 기반 언러닝 방법의 한계를 보완한 RADNPO를 제안한다. TOFU와 MUSE 실험에서 RADNPO가 기존 기준보다 지식 제거 품질과 모델 유용성의 균형을 더 잘 달성하는 것을 보인다.
시사점 이 연구는 LLM에서 민감한 정보를 효과적으로 제거하는 새로운 방법을 제시하여, 보안 및 프라이버시 관점에서 실무에 활용될 수 있다.
LLM 에이전트가 권한 있는 구조적 행동을 할 때의 무결성을 보장하기 위해 새로운 방어 기법을 제안한다. 70,966개의 제재 지정과 450개의 소프트웨어 공급망 원본 데이터를 기반으로 실험을 수행하여 기존 방어 기법보다 우수한 성능을 보인다.
시사점 이 연구는 LLM 에이전트가 권한 있는 구조적 행동을 할 때의 무결성을 보장하는 새로운 방어 기법을 제시하여, AI 보안 분야에서 실용적인 적용 가능성을 제시한다.
전력망의 장기 정전 계획에 시나리오 기반의 다중 해상도 부하 예측을 적용하여 기존 정점 기반 방법과 비교했다. SARIMA, Prophet, Gradient Boosting, Random Forest 모델을 사용한 일일, 주간, 월간 예측 결과는 정전 수용성을 향상시켰다.
시사점 이 연구는 전력망 현대화 프로젝트의 지연를 줄이기 위해 정밀한 부하 예측을 장기 정전 계획에 통합할 필요성을 보여준다.
LLM 에이전트의 소유권을 검증하기 위해 손실 없이 견고한 워터마킹 메커니즘을 제안한다. 정상 작업에는 영향을 주지 않고 소유권 정보를 신뢰성 있게 복구할 수 있다.
시사점 LLM 에이전트의 소유권을 보호하기 위해 워터마킹 기술을 적용할 수 있다.
화면 공유 AI 어시스턴트에서 사용자가 관찰, 보관, 공개할 콘텐츠에 대한 실시간 제어가 부족한 문제를 해결하기 위해 PerceptFence라는 콘텐츠 중개 아키텍처를 제안한다. PerceptFence는 968개의 OCR 인식된 민감 정보 중 889개(91.8%)를 중화시켰으며, 95% 신뢰구간 0.899-0.934를 보였다.
시사점 PerceptFence는 화면 공유 AI 어시스턴트에서 민감 정보 노출을 방지하는 구조적 접근법을 제공하여, 실무에서 보다 안전한 화면 공유 기능 구현에 활용될 수 있다.
이 연구는 기존 오디오 워터마크 제거 공격의 한계를 극복하기 위해 쿼리 없는 블랙박스 공격 기법인 DeMark를 제안한다. DeMark는 평균 0.92와 0.96의 공격 성공률을 달성하면서도 품질을 유지하는 것을 확인했다.
시사점 이 연구는 기존 오디오 워터마크 시스템의 실용적 취약점을 드러내며, 쿼리 없는 적대적 제거에 대응하는 더 견고한 워터마크 설계가 필요하다는 시사점을 제시한다.
신뢰도 기반 에지-클라우드 추론 시스템에서 가용성 공격인 GateDrain을 제시하고, Bounded Escalation이라는 방어 기법을 제안한다. 공격은 신뢰도 조작을 통해 클라우드 요청을 증가시켜 대기 시간을 악화시키며, 방어 기법은 요청 제한과 우선순위를 통해 이 공격을 완화한다.
시사점 이 연구는 신뢰도 기반 에지-클라우드 추론 시스템의 보안 취약점을 드러내고, 실무에서 해당 공격을 방어하기 위한 정책적 접근을 제시한다.
감시 조정(SFT) 과정에서 악의적인 사용자가 소수의 데이터 샘플을 오염시켜 다른 사용자의 기밀 정보를 추출할 수 있음을 보여준다. 50개의 오염된 예시로 Qwen2.5-14B 모델의 추출률이 3.71배, Llama-3.1-8B 모델은 3.08배 증가했다.
시사점 감시 조정 데이터 수집 과정에서 사용자 기여 데이터의 프라이버시 위험을 주의 깊게 평가해야 한다.
객체 감지 시스템에서 지연 공격을 분석하고, NMS-free 아키텍처의 보안 취약점을 드러내는 TrackFlood 기법을 제안한다. NVIDIA Jetson AGX Orin에서 평가한 결과, 감지기 지연은 거의 일정하지만 추적기 지연은 크게 증가하였다.
시사점 실시간 시스템 설계 시 추적기의 지연에 대한 보안 고려가 필요하다.
A2A-ForensicTrace는 런타임 관찰을 타입화된 기록으로 변환하고 프로토콜 관련 관계를 파생시켜 보안 관련 A2A 실행의 위변조를 확인하는 오프라인 검증 레이어를 제안한다. 240개 실행을 통해 모든 조건 실행이 예상된 경계 내 결과를 반환했으며, 평균 인메모리 지연 시간은 1.61ms였다.
시사점 이 연구는 A2A 실행의 오프라인 검증을 위한 새로운 방법을 제시하여 보안 조사 프로세스를 개선할 수 있다.
A2A-CaseVerify는 조직 간 A2A 워크플로우의 증거 경로를 확인하기 위해 Merkle 루트를 사용하는 오프라인 검증기를 제안한다. 테스트 결과, 정상적인 번들을 수용하고 13개의 변이를 거부하며 각각의 진단 코드를 반환하였다.
시사점 이 연구는 A2A 워크플로우에서 증거 경로의 무결성을 보장하는 방법을 제시하여, 조직 간 협업 시 보안성을 강화할 수 있다.
기존 멤버십 추론(MI)이 웹 규모 데이터셋의 유사 중복으로 인해 정확한 레코드 판단을 실패하는 문제를 실증했다. CC-News 데이터셋에서 99.70%의 가족 존재 레코드가 1.00%의 오류율로 멤버로 잘못 판별된다.
시사점 실무에서는 멤버십 추론 결과를 해석할 때 유사 중복 데이터의 영향을 반드시 고려해야 한다.
LLM 프로바이더가 사용자의 프롬프트를 기반으로 사용자를 재식별할 수 있는지 실증적으로 조사했다. PromptAnonBench라는 새로운 벤치마크를 제안하고, 텍스트 기반 방어가 적용된 경우에도 50-75%의 사용자가 재식별될 수 있음을 보였다.
시사점 LLM 사용 시 프롬프트 익명화만으로는 충분하지 않으며, 추가적인 텍스트 프라이버시 방어가 필요하다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.