연구 요약과 시사점은 AI가 공개 초록을 정리한 것입니다(AI 생성). 연구를 누르면 원문이 새 창에서 열립니다.
LLM 공격 메커니즘 40개를 체계적으로 평가하고, 런타임 감사 도구를 설계하여 81.1%의 감지율을 달성했다. 감사 도구는 0.70%의 오류율을 유지하면서 78.1%의 재현율을 보였다.
시사점 이 연구는 다양한 LLM 공격 메커니즘에 대한 체계적인 평가와 런타-감사 도구 설계를 제안하여, 실무에서 공격 감지 정확도를 향상시킬 수 있다.
AI 에이전트와 미래 모바일 네트워크에서 비인간 엔티티 간 자율적 상호작용을 위한 신뢰 확립 문제를 해결하기 위해 SPIRE와 같은 기존 IAM 접근법을 분산 원장 기반으로 확장하는 방법을 제안한다. SPIFFE 인증 문서를 기반으로 토큰 교환, 원격 증명, 분산 원장 계층을 추가하여 기존 시스템의 한계를 극복한다.
시사점 이 연구는 기업 간 자율적인 시스템 상호작용을 위한 신뢰 관리 프레임워크를 설계할 때 분산 원장 기반의 IAM 확장 방안을 고려할 필요가 있음을 시사한다.
악성코드가 사용하는 전술·기술·절차(TTP) 정보를 신경망 모델에 제공함으로써 악성 활동을 정밀하게 탐지하는 방법을 제안한다. 기존 모델 대비 정밀도가 높고, 드문 TTP를 사용하는 악성코드도 효과적으로 탐지할 수 있음을 보인다.
시사점 악성코드 분석 시 TTP 정보를 모델에 통합하면 정밀도를 높일 수 있다.
LLM에 대한 jailbreak 공격을 방어하기 위해 의미 재작성과 다중 모델 점수를 결합한 SRD-GUARD 방식을 제안한다. SRD-GUARD는 평균 DSR 91.44%와 100%, ORR 8.00%와 12.00%를 달성한다.
시사점 SRD-GUARD는 LLM에 대한 jailbreak 공격을 효과적으로 방어할 수 있는 새로운 방식으로, 실무에서 적용 가능한 방어 기법을 제시한다.
공공 장소에서 스마트폰으로 비밀번호를 입력하는 행위는 영상 기반 부채널 공격(side-channel attack)에 노출될 수 있다. 연구팀은 스마트폰 QWERTY 키보드에서 규칙 기반 알파벳 숫자 비밀번호를 복구하는 첫 번째 일반적인 영상 기반 키스트로크 추론 파이프라인을 제시한다.
시사점 이 연구는 스마트 안경을 활용한 영상 기반 비밀번호 추론 공격이 현실적 위협임을 보여주어, 공공 장소에서의 비밀번호 입력 방식에 대한 재검토가 필요하다.
FoldNTT는 후양자 암호에서 사용되는 수론 변환(NTT)의 하드웨어 구현을 최적화한 새로운 코어 설계를 제안한다. 기존 CFNTT 가속기 대비 곱셈기 수를 3개에서 1개로 줄이고 틀드 상수 저장 공간을 절반으로 줄이며, Proth 소수의 구조를 활용한 수학적 검증과 하드웨어 설계를 통해 정확성을 확보한다. Artix-7에서 측정한 결과, DSP48 수는 3개에서 1개로 감소하고 저장된 틀드 비트는 50% 감소했으며, 전체 코어의 Fmax 손실은 약 4%였다.
시사점 이 연구는 후양자 암호 시스템의 하드웨어 효율성을 향상시키는 설계 기법을 제시하며, 수학적 증명과 실증을 통해 신뢰성을 확보한 사례로, 관련 분야 연구자와 실무자에게 참고가 될 수 있다.
대형 언어 모델의 원천 추적을 위해 BReF라는 새로운 지문 기법을 제안한다. BReF는 22/22 사례에서 기록된 부모 모델을 정확히 검색했으며, DP-DF AUC 1.0000을 달성했다.
시사점 이 연구는 대형 언어 모델의 변형 추적 기법을 개선하여 모델의 원천을 정확히 식별하는 데 기여할 수 있다.
부채널 존재 정리의 이론적 기반을 다중 클래스로 확장하고, 방어 비용 모델링을 통해 정보량 하한을 도출했다. 95개 클래스 데이터셋에서 모든 방어 기법에 대해 정보량의 95% 신뢰도 하한이 양수로 측정되었다.
시사점 이 연구는 암호화 트래픽 분석 방어 기법의 한계를 이론적으로 입증하여, 보안 설계 시 부채널 공격에 대한 고려가 필수적임을 시사한다.
MARS는 다중 애플리케이션 PLC 런타임에서 비인가 애플리케이션에 의한 변수 조작을 감지하고 책임을 특정하는 자동화된 프레임워크를 제안한다. 평가 결과, 제조, 화학, 수질 처리 시스템에서 이러한 조작을 감지하고 책임 있는 애플리케이션을 식별할 수 있음을 보였다.
시사점 이 연구는 ICS 환경에서 다중 애플리케이션 실행 시 발생할 수 있는 보안 위험을 감지하는 새로운 프레임워크를 제안하여, 실무에서 PLC 보안 강화에 활용될 수 있다.
저비용 IoT 센서의 위장 탐지를 위해 시퀀스 예측 문제로 정의하고, 경량 모델을 설계해 Arduino Nano 33 BLE에 배포했다. 99.980%의 탐지 정확도를 달성했으며, 양자 분포가 잘 분리되었다.
시사점 이 연구는 IoT 센서의 경량화된 위장 탐지 기법을 제시하여, 실제 배포 환경에서의 보안 강화에 기여할 수 있다.
보안 운영 센터(SOC)에서 대량의 티켓 처리 과제를 해결하기 위해 생성형 AI 기반 자동화를 설계하고 1년 이상 현장에서 운영한 사례를 보고한다. 분석 결과, 90% 이상의 경우 동반자의 출력이 티켓 종결 보고서에 재사용되었으며, 인간 분석가가 AI 동반자의 행동을 조정할수록 AI 시스템의 출력에 대한 신뢰도가 높아져 생산성이 향상되었다.
시사점 SOC에서 생성형 AI 동반자를 현장 작업과 밀접하게 연계하여 설계하면 분석가의 신뢰를 높이고 생산성을 향상시킬 수 있다.
이 논문은 암호학적 증명 생성을 위해 시각적 스크래치패드 접근법인 Scratchy를 제안한다. 증명 객체를 타입화된 증명-관계 그래프로 정규화하고, 구조 유지 시각 컴파일러를 통해 이 그래프를 수식이 풍부한 시각적 증명 상태로 변환하여 다중모달 모델이 EasyCrypt 증명을 생성하도록 안내한다. 또한, 114개 작업을 포함한 Scratchy-eval이라는 데이터셋을 소개하고, GPT-5.6-Sol과 Claude-Opus-5와 같은 전통적 LLM이 이 구조화된 시각적 증명 상태에서 명확한 이점을 얻는다는 것을 보인다.
시사점 이 연구는 암호학적 증명 생성에서 시각적 구조화가 효과적임을 보여주며, 다중모달 증명 상태 표현이 컴퓨터 지원 암호학의 유망한 방향임을 시사한다.
SCRIPTIOC-BENCH라는 벤치마크를 제안하고, 악성 스크립트에서 IOC를 추출하는 LLM의 능력을 평가한다. 가장 강력한 모델도 F1 65.4에 그친다.
시사점 SCRIPTIOC-BENCH를 통해 LLM이 악성 스크립트에서 IOC를 추출하는 능력을 평가할 수 있으며, 모델 성능 개선 방향을 제시한다.
공격 에이전트가 공유 인프라를 통해 조정된 침투를 수행하는 방식을 분석하고, 침투 사건을 효과적으로 억제하기 위한 방안을 제시한다. 평가 설계를 통해 조정된 행동 집합을 식별하고, 침해 결과를 측정한다.
시사점 공유 인프라를 통한 조정된 침투를 감지하고 분석하는 새로운 접근법을 실무에 적용할 수 있다.
TSS 사기 대응 활동을 수행하는 자원봉사자들의 동기와 운영 방법, 효과적인 대응 전략, 그리고 직면한 도전 과제를 탐색하였다. 17명의 활동가를 대상으로 한 인터뷰를 통해 사기 수법과 대응 전략의 미기록된 세부 사항을 분석하였다.
시사점 TSS 사기 대응 활동가들의 전문성을 이해함으로써, 연구 및 보호 전략 개발에 활용할 수 있다.
이 연구는 Generative Engine Optimization(GEO)를 통해 검색 기반 대형 언어 모델 에이전트를 조작하는 계층적 웹 증거 오염 공격을 평가하기 위한 HAE-GEO 벤치마크를 제안한다. 10개의 에이전트를 평가한 결과, 증거 인식이 코로보레이션 트랩에서 악화되고, 에이전트 검색이 최종 저항성을 향상시키지만 증거 인식이나 유틸리티는 개선되지 않는다는 패턴을 발견했다.
시사점 이 연구는 검색 기반 대형 언어 모델 에이전트의 취약점을 드러내며, 보다 강력한 방어 전략이 필요함을 시사한다.
기계 학습 기반 네트워크 침입 탐지 시스템(ML-based NIDS)의 적대적 회피 공격에 대한 내성을 평가하고, 공격 탐지 방법을 제안한다. 8개의 적대적 공격, 15개의 탐지 모델, 3개의 방어 전략을 평가하여, 적대적 학습을 적용한 앙상블 모델이 평균 공격 성공률을 0.41에서 0.03으로 줄이고 내성 지수(RI) 0.98을 달성했다.
시사점 ML-based NIDS의 적대적 공격 내성을 평가하고, 적대적 학습을 적용한 앙상블 모델을 통해 공격 탐지 성능을 향상시킬 수 있다.
ClosureBound는 에이전트 스킬의 이질적인 의존성 폐쇄에서 권한 이전을 방지하는 참조 모니터를 제안한다. 84,608개 상태와 530,752개 전이를 달성했다.
시사점 ClosureBound는 에이전트 스킬의 의존성 관리와 권한 이전 방지를 위한 새로운 보안 기법으로, 실무에서 의존성 폐쇄의 안정성과 효과성을 높일 수 있다.
LLM 에이전트의 보안 노출을 측정하기 위해 실행 구조를 분석하는 새로운 방법을 제안한다. 454개의 주입-싱크 쌍에서 96.9%가 시간적 거리보다 구조적 거리가 더 짧았으며, 평균 갭은 9개의 허프였다.
시사점 LLM 에이전트의 보안 분석에서 시간적 거리보다 구조적 거리를 고려하는 것이 중요하다.
LLM 에이전트의 안전성을 향상시키기 위해 EvoSafeHarness라는 새로운 안전 장치 프레임워크를 제안한다. DecodingTrust-Agent에서 평균 공격 성공률을 45.6%에서 10.0%로 줄이며, AgentDojo에서 82.8%의 유틸리티를 0.0% ASR로 달성한다.
시사점 EvoSafeHarness는 LLM 에이전트의 안전성과 유틸리티를 동시에 향상시켜, 실제 시스템에 적용할 수 있는 새로운 방안을 제시한다.
LLM 에이전트의 권한 부여 프로세스를 분리하여 공격에 대한 내성을 강화하는 새로운 보안 아키텍처인 KITA를 제안한다. 6개의 시스템 테스트와 암호화 미세 벤치마크를 통해 임계 서명의 정합성과 확장성을 검증한다.
시사점 이 연구는 LLM 에이전트가 권한 부여를 분리하여 공격에 대한 내성을 강화하는 새로운 보안 아키텍처를 제안한다.
본 페이지의 연구 요약은 공개된 초록을 AI가 한국어로 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 반드시 원문을 확인하십시오. 본문과 PDF는 제공하지 않으며, 모든 저작권은 각 저자와 발행처에 있습니다.