AI 모델 jailbreak 공격 분석과 해결 방안
정보보호
AI 모델은 특정 문구로 쉽게 조작될 수 있는 jailbreak 공격에 취약하다. 이는 AI가 단순히 패턴을 학습한 것이지 진정한 이해를 하지 못하기 때문이다. 해결 방안으로는 입력 및 출력 모두를 검토하는 별도의 컨트롤러 모듈 도입이 필요하다.
(새 창에서 원문 열기)NEWS
뉴스·소식
오늘의 브리핑
기사 요약은 AI가 원문을 정리한 것입니다(AI 생성). 기사를 누르면 원문이 새 창에서 열립니다.
기사 목록
AI 에이전트란? 일반 AI와의 차이점
정보보호AI 에이전트는 단순히 질문에 답변하는 일반 AI와 달리, 주어진 목표를 달성하기 위해 자체적으로 여러 단계의 작업을 수행하는 시스템입니다. 이 기사는 AI 에이전트와 일반 AI의 차이점과 실제 활용 사례를 설명합니다.
(새 창에서 원문 열기)WordPress 백도어, 파일·데이터베이스·공유 메모리를 활용해 스스로 복구
정보보호보안 연구자들이 WordPress 사이트에 배포된 백도어가 파일, 데이터베이스, 공유 메모리를 통해 스스로 복구하는 기술적 특성을 밝혀냈다. 이 백도어는 여러 지속성 메커니즘을 사용해 사이트 재감염 없이 페이로드를 유지한다.
(새 창에서 원문 열기)경찰, 16세 소년이 운영한 KillSec 랜섬웨어 조직 해체
정보보호국제 경찰 작전 'Operation KillSwitch'를 통해 KillSec 랜섬웨어 조직의 데이터 유출 사이트와 서버를 압수하고 3명을 체포했다. 16세 소년이 조직의 주요 운영자로 지목되었다. 조사 결과 약 1,000건의 공격 중 500건이 성공했으며, AI를 활용한 랜섬웨어 인프라 구축이 밝혀졌다.
(새 창에서 원문 열기)프랑스 2027년 대선: 가짜 뉴스 대응, 정보 감시자들의 전략 채택해야
정보보호프랑스 2027년 대선을 앞두고 가짜 뉴스가 확산되고 있으며, 정보 감시자들의 전략을 통해 정보와 조작을 구별할 수 있다. 후보자와 유권자들이 가짜 뉴스를 식별하기 위한 세 가지 전략이 제시되었다.
(새 창에서 원문 열기)사이버보안 투자 회수율(ROI) 계산, AI 시대에 복잡해진다
정보보호사이버보안 분야에서 투자 회수율(ROI)을 계산하는 것은 DSI와 RSSI에게 복잡한 과제로 남아 있다. 특히 AI의 발전으로 인해 새로운 위협이 증가하면서, 보안 투자에 대한 정당성을 입증하는 것이 어려워지고 있다. 기업은 공격의 직접적 비용뿐만 아니라 간접 비용, 규제 위반에 따른 과징금, 브랜드 이미지 손실 등을 고려해야 하며, 이러한 요소들을 정확히 측정하는 것이 쉽지 않다.
(새 창에서 원문 열기)미국 정보기관, 중국 스파이가 학술 연구를 활용했을 가능성 경고
정보보호미국 정보기관은 중국 스파이가 학술 연구를 통해 정보를 유출할 수 있다는 경고를 발령했다.
(새 창에서 원문 열기)CISO가 'r3@lg00dp@$$w0rd'라고 생각했지만 패치를 잊었다
정보보호CISO가 강력한 암호를 사용했지만, 시스템의 취약점을 패치하지 않아 보안 사고가 발생했다.
(새 창에서 원문 열기)악성 프로그램이 AI 채팅 기록에서 사용자 정보를 유출
정보보호악성 프로그램이 AI 채팅 기록에서 사용자의 직업, 관심사, 문서 등을 유출하고, 이를 기반으로 사용자 프로필을 생성해 새로운 공격을 준비하고 있다. 사용자와 기업은 세션 종료, 토큰 отзыв, 계정 변경 등의 조치를 권고받고 있다.
(새 창에서 원문 열기)Microsoft Exchange Web Services, 액세스 중단 직전 단계 진입
정보보호Microsoft는 Exchange Web Services의 액세스를 중단하기 위한 마지막 단계에 들어갔으며, 현재 SharePoint 온프레미스가 제로데이 공격을 받고 있는 것으로 나타났다.
(새 창에서 원문 열기)Palantir의 Tom Watson, MP에게 정확성 강조하며 선택적 데이터 인용
정보보호Palantir의 Tom Watson이 MP에게 정확성의 중요성을 강조하며 선택적으로 데이터를 인용하는 사례를 제시했다.
(새 창에서 원문 열기)영국 학교, 사이버 인시던트 대응 능력 향상
정보보호영국의 학교들이 사이버 인시던트 대응 능력을 향상시키고 있는 것으로 나타났습니다. 보안 관련 이슈와 동향, 취약점 패치 실패, 랜섬웨어 10년 기념, DEF CON 프로젝트 등 다양한 보안 주제가 다루어졌습니다.
(새 창에서 원문 열기)CPS 보안 워크숍에서 SBOM 관리 및 공급망 보안 대응 전략 제시
정보보호소프트웨어 공급망 공격이 확대되면서 기업은 단순 취약점 점검에서 벗어나 SBOM을 관리·공유하는 체계로 전환해야 한다는 지적이 나왔다. 스패로우 여구용 본부장은 공급망 보안의 핵심을 예방, 가시성, 신속한 탐지·대응으로 정리하며, SBOM 생성·검증과 신뢰성 검증 체계 구축의 중요성을 강조했다.
(새 창에서 원문 열기)덴마크 경찰이 러시아와 연관된 플랫폼 사용
정보보호Oxygen Forensics의 소프트웨어가 러시 Mensa와 연관되어 미국과 덴마크 경찰에 의해 사용된 것으로 드러났습니다. 미국 법무부는 회사의 대표를 체포했으며, 덴마크 경찰은 해당 소프트웨어를 NC3 특수부대에서 사용한 것으로 확인했습니다.
(새 창에서 원문 열기)OpenAI, Moonshot AI와 연관된 추론 정보 유출 공격 방지
정보보호OpenAI는 Moonshot AI와 연관된 인공지능 모델의 보호된 추론 정보를 불법적으로 추출하려는 공격을 식별하고 방지했다. 공격자는 모델 상호작용을 조작하여 보호된 추론 정보를 대규모로 유출하려 했으며, OpenAI는 추가적인 대응 조치를 마련했다.
(새 창에서 원문 열기)GPS 교란이 전력시스템에 미치는 영향과 대응기술 연구
정보보호한국전력 전력연구원은 GPS 스푸핑 공격이 전력설비에 미치는 영향을 분석하고, 이를 탐지·완화하기 위한 기술과 GPS 의존도를 낮추는 네트워크 기반 시각동기 체계를 연구하고 있다. 연구결과에 따르면 GPS 시간 오차는 전력계통의 위상 측정 오류로 이어질 수 있으며, 이는 보호계전 시스템의 오동작을 유발할 수 있다.
(새 창에서 원문 열기)Sopra Steria, Capita의 Whitehall 아웃소싱 계약에 대한 법적 도전 확대
정보보호Sopra Steria가 Capita의 Whitehall 아웃소싱 계약에 대해 법적 도전을 확대하고 있다. 이 외에도 보안 관련 다양한 소식들이 포함되어 있다.
(새 창에서 원문 열기)해커가 300만 명 이상의 국방부 인사 기록을 유출
정보보호미국 국방부의 인사관리 시스템이 해커의 공격을 받아 300만 명 이상의 군인 및 관련 인사의 민감한 정보가 유출되었다. DMDC는 취약점 발견 직후 개인정보 보호 및 사이버보안 대응 조치를 즉시 시행하고 있으며, 피해자들에게 12개월간의 무료 신용 모니터링 서비스를 제공하고 있다.
(새 창에서 원문 열기)한국, AI 개발 속도 조절과 통제·복원력 강화 필요
정보보호한국은 AI 개발 속도를 늦추기보다 통제·복원력·검증을 강화해야 한다는 제안이 나왔다. 이원태 위원장은 AI 안전 표준의 설계자로 나서야 한다고 강조했으며, AI의 자율적 성장 속도에 맞춰 검증과 확산 권한의 속도를 조절해야 한다고 말했다.
(새 창에서 원문 열기)AI 기반 Android 악성코드 Rat Hat 발견
정보보호보안업체 Zimperium은 새로운 Android 악성코드 Rat Hat을 발견했다. 이 악성코드는 생성형 AI를 기반으로 주요 결정을 내리는 특징이 있으며, 특히 은행 및 암호화폐 앱에서 민감한 데이터를 훔치는 '오버레이' 기법을 사용한다.
(새 창에서 원문 열기)이중희 교수, 피지컬 AI 시대 ICS 보안 체계 변화 필요 강조
정보보호고려대학교 이중희 교수는 피지컬 AI 시대에 맞춰 산업제어시스템(ICS) 보안 체계가 AI 판단과 실제 행동 검증·통제 방향으로 전환해야 한다고 강조했다. 기존 ICS 보안은 네트워크·제어기 보호 중심이었으나, AI 기반 제어에서는 AI의 판단 결과가 물리적 피해로 이어질 수 있어 보안 접근 방식이 달라져야 한다고 지적했다.
(새 창에서 원문 열기)
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.