LLM 에이전트의 내부 고발 가능성 연구: 27개 모델 대상 시뮬레이션
정보보호
연구자들은 LLM 에이전트가 내부 감사 문서와 함께 정보 공개 도구를 갖추었을 때, 특정 LLM들이 규제 기관이나 언론에 정보를 전달할 가능성을 실험했다. 이 실험은 다양한 LLM 모델들을 대상으로 진행되었으며, 모델의 프롬프트 설정에 따라 정보 공개 시도가 나타났다.
(새 창에서 원문 열기)NEWS
뉴스·소식
오늘의 브리핑
기사 요약은 AI가 원문을 정리한 것입니다(AI 생성). 기사를 누르면 원문이 새 창에서 열립니다.
기사 목록
엔비디아, 로봇 학습 데이터 비용 125배 절감하는 오픈 모델 '플로라' 공개
AI엔비디아는 로봇 학습에 필요한 데이터 제작 비용을 최대 125분의 1 수준으로 낮출 수 있는 오픈 모델 제품군 '플로라'를 공개하고 가중치를 허깅페이스에 배포했다. 플로라는 영상 분석을 통해 동작 시점, 성공/실패 원인 등을 자동으로 기록하여 로봇 파운데이션 모델 개발을 가속화한다. 엔비디아는 자체 평가에서 플로라가 특정 모델 대비 우수한 데이터 주석 품질과 낮은 운영 비용을 보였다고 밝혔다.
(새 창에서 원문 열기)김승주 교수, 국가 차원의 통합적 사이버 보안 관리 체계 구축 촉구
정보보호김승주 교수는 개별 제품 보안을 넘어 시스템 전체의 위험을 관리하고 공격 상황에서도 핵심 업무를 유지하는 방향으로 보안이 발전해야 한다고 주장했다. 그는 국내 보안 정책들이 RMF, 제로트러스트, 사이버복원력 등 각기 다른 체계로 분산되어 있어 국가 차원의 공통 기준과 연계가 부족한 점을 문제점으로 지적했다. 향후에는 NIST CSF와 같은 공통 언어를 기반으로 정책 목표부터 기술적 통제까지 유기적으로 연결되는 국가적 기준 마련이 필요하다고 강조했다.
(새 창에서 원문 열기)미스트랄 AI, 실시간 음성 에이전트 지원하는 '복스트랄 3' 제품군 공개
AI미스트랄 AI는 다국어 음성 인식 및 생성을 지원하는 새로운 AI 제품군 '복스트랄 3'을 출시했다. 이 제품군은 음성 에이전트 개발에 필요한 모델과 SDK를 제공하며, 각 대화 턴을 1초 이내에 처리하도록 설계되었다.
(새 창에서 원문 열기)LiteLLM, 공격자가 악성 패키지를 배포한 GitHub 토큰 유출 의혹 밝혀
정보보호LiteLLM은 공격자들이 인증 정보 탈취 및 백도어를 포함한 악성 버전을 배포하는 데 성공했다고 밝혔다. 공격자는 릴리스 파이프라인의 취약점을 이용해 악성 코드를 포함한 패키지를 PyPI 및 Docker Hub에 게시했으며, 이는 원격 접속 트로이 목마(RAT)로 악용되었다. 해당 문제는 내부 엔지니어의 권한 확장 및 GitHub CLI 토큰 노출과 관련이 있는 것으로 조사되었다.
(새 창에서 원문 열기)인터폴 주관, 아프리카 전역에서 사이버 범죄 조직 1만 건 이상 단속 및 1050만 달러 이상 환수
정보보호인터폴 주관으로 21개국 당국이 협력한 작전 세레나게티 III가 아프리카에서 운영되던 랜섬웨어, BEC, 온라인 사기 등 사이버 범죄 네트워크 약 1만 건을 와해시키고 1,400명 이상을 체포했다. 이 작전으로 3억 8,500만 달러 이상의 피해액이 확인되었으며 1억 500만 달러 이상의 불법 자금을 회수했다.
(새 창에서 원문 열기)중국 빅테크, 엔비디아 그래픽카드 46조원 규모 주문…AI 칩 규제 속 대체품 확보
AI미국의 대중국 반도체 수출 규제 속에서 바이트댄스, 알리바바 등 중국 빅테크 기업들이 엔비디아의 워크스테이션용 그래픽 카드 RTX PRO 5500을 총 300만 개 이상 주문했다. 이들은 최신 AI 칩 확보의 어려움에 직면하여 상대적으로 접근 가능한 이 제품을 AI 추론 등에 활용할 계획이다. 다만, 엔비디아의 생산 능력 대비 주문량이 많아 실제 공급은 제한적일 것으로 보인다.
(새 창에서 원문 열기)앤트로픽, 기업용 AI 보안 분석 도구 '클로드 시큐리티' 공개 베타 출시
AI앤트로픽은 코드 취약점 탐지 및 수정 추적을 자동화하는 보안 분석 도구인 '클로드 시큐리티'의 최신 버전을 공개 베타 출시했다. 이번 업데이트는 일회성 검사를 넘어 코드 변경 사항을 지속적으로 추적하고 기업 환경에 맞는 위험 우선순위를 설정하는 기능에 중점을 두었다. 해당 도구는 클로드 엔터프라이즈 고객을 대상으로 제공되며, 초기 검사에서 100만 개 이상의 취약점을 발견한 바 있다.
(새 창에서 원문 열기)오픈AI, 챗GPT 광고 서비스 전 세계 89개국으로 확대
AI오픈AI가 챗GPT 광고 서비스 제공 지역을 기존보다 26개국 늘려 전 세계 89개국으로 확대했다고 발표했다. 이번 확장은 유럽, 동남아시아, 대만은 물론 중남미, 중동, 아프리카 등 다양한 지역을 포함한다. 광고 사업은 챗GPT의 무료 및 저가 요금제 운영의 수익원으로 활용되며, 광고주를 위한 AI 기반 도구도 함께 제공되고 있다.
(새 창에서 원문 열기)상용 AI 모델 결합한 해커들, 중남미 은행 400곳 사이버 공격 자동화
AI사이버보안 스타트업 스트레이커는 해킹 그룹 '사이버카르텔'이 앤트로픽의 클로드, 스페이스X의 그록 등 상용 AI 모델들을 결합하여 중남미 금융기관 400여 곳을 겨냥한 사이버 공격을 자동화했음을 조사했다. 이들은 AI 에이전트들이 표적 정보 수집부터 공격 계획 및 실행까지 수행하며 계정 정보와 고객 데이터를 탈취하는 데 성공했다. 전문가들은 이러한 공격의 핵심이 특정 모델의 성능보다 여러 모델을 연결하고 작업을 조율하는 시스템에 있음을 지적했다.
(새 창에서 원문 열기)깃랩, 로그인 없이 서버 코드 실행 가능한 CVSS 10.0점 치명적 취약점 발견 및 긴급 패치 배포
취약점웹 기반 DevOps 플랫폼 깃랩에서 비인증 사용자가 서버 내 임의 코드를 실행할 수 있는 CVSS 10.0점의 치명적 취약점이 발견되어 긴급 패치가 나왔다. 이 취약점은 정규식 컴파일 과정의 정수 오버플로를 악용한 것으로, 공격자가 별도 로그인 없이도 원격 코드 실행(RCE)을 시도할 수 있다. 깃랩은 모든 버전에 대한 수정 패치를 게시했으며, 국내 이용 기업들도 신속한 업데이트가 권고되었다.
(새 창에서 원문 열기)Node.js Brotli 디코더 버그, 모든 지원 버전에서 원격 코드 실행 가능성 존재
취약점Node.js는 Brotli 압축 해제 코드의 버그로 인해 공격자가 원하는 코드를 실행할 수 있는 취약점을 발견하고 보안 업데이트를 배포했다. 이 취약점은 공격자가 제어하는 데이터를 디코딩할 때 발생하며, 패치된 버전을 사용해야 한다. 공격의 실제 악용 사례는 보고되지 않았으나, 해당 취약점은 높은 심각도로 평가된다.
(새 창에서 원문 열기)AWS 및 정부 전문가, AI 공격 대응 위해 기존 보안 체계의 근본적 재설계 촉구
정보보호AWS는 AI 공격의 고도화에 대응하기 위해 기존의 수작업 중심 보안 체계로는 한계가 있음을 지적하며, 보안 검증과 의사결정 과정을 자동화하는 방향으로 AI 보안 체계를 재설계해야 한다고 주장했다. 또한, 국가 차원에서는 프론티어 AI에 대응할 새로운 통제 체계와 지정학적 관점을 보안 프레임워크에 반영해야 한다는 제언이 있었다.
(새 창에서 원문 열기)AI 모델 서비스의 데이터 처리 방식과 개인정보 보호 정책 분석
정보보호주요 AI 서비스 제공업체들의 데이터 처리 방식은 사용자가 선택한 요금제와 설정에 따라 다르다. 개인 계정에서는 대화 내용이 모델 학습에 사용될 수 있으나, 비즈니스 요금제나 API는 기본적으로 학습에 사용되지 않는다. 다만, 서비스 약관 변경, 사용자의 오해, 또는 법적 요구에 의한 데이터 보관 등의 이슈가 발생하기도 했다.
(새 창에서 원문 열기)AI 코딩 도구로 안드로이드 TV 속도 개선 및 광고 제거 시도
AI한 개발자가 AI 코딩 도구를 이용해 안드로이드 TV의 불필요한 앱과 백그라운드 서비스를 정리하는 'TV 디톡스' 프로젝트를 공개했다. AI는 기기에 맞는 작업을 안내하고 실행하여, 사용자가 복잡한 명령어 없이도 홈 화면을 단순화할 수 있도록 도왔다. 이 프로젝트는 안드로이드 TV와 구글 TV에 적용 가능하며, 사용자는 컴퓨터를 통해 AI 도구를 실행하여 작업을 지시할 수 있다.
(새 창에서 원문 열기)AI 모델을 이용한 가상 은행 애플리케이션 침투 테스트 경험 공유
정보보호연구자는 Fable으로 구축한 가상 은행 애플리케이션에 대해 DeepSeek 모델을 이용한 침투 테스트를 수행했다. 초기 테스트에서는 설정상 취약점이 발견되었으나, 토큰 탈취 시나리오에서는 접근 토큰의 유효 기간 및 PIN 인증 방식 등에 대한 보안적 고려 사항을 확인했다.
(새 창에서 원문 열기)미스트랄, 프루나 등 5개 업체, 시계열 예측 및 영상/오디오 생성 AI 모델 출시
AI미스트랄 AI는 시계열 예측 모델 '타임스트랄'을 출시했으며, 주요 벤치마크에서 경쟁 모델을 능가하는 성능을 보였다. 프루나 AI는 이미지/영상/오디오 참조를 활용한 영상 생성 모델을, 미렐로는 영상의 효과음 및 주변 소리를 생성하는 'SFX 2.0'을 공개했다. 또한 오픈모스는 구조화된 입력을 지원하는 텍스트-이미지 모델을 오픈소스로 배포했다.
(새 창에서 원문 열기)PHP 엔진의 치명적 취약점 PHP2Shell, 티오리 긴급 대응 가이드 공개
취약점오펜시브 사이버 보안 기업 티오리는 PHP 엔진 자체의 결함으로 인해 발생하는 PHP2Shell 취약점(CVE-2026-109618, CVE-2026-109619)에 대한 긴급 대응 가이드를 발표했다. 이 취약점은 공격자가 별도 인증 없이도 원격으로 서버를 장악할 수 있으며, 영향을 받는 PHP 버전을 명시하고 최신 보안 패치 적용을 강력히 권고했다.
(새 창에서 원문 열기)HTTP/3 서버 취약점: QPACK 플로우를 이용한 DoS 공격 가능성 발견
취약점FoxIO는 HTTP/3 서버의 QPACK 구현에서 원격 공격자가 단일 연결로도 서버를 다운시킬 수 있는 취약점을 발견하고 PoC 코드를 공개했다. 이 취약점은 압축 해제 과정에서 발생하는 메모리 증폭을 통해 DoS 공격을 유발하며, 일부 라이브러리는 아직 패치가 적용되지 않은 상태이다.
(새 창에서 원문 열기)트럼프, 데이터센터 건설 시 지역사회에 경제적 이익 공유 및 주민 배당금 지급 촉구
AI도널드 트럼프 전 미국 대통령은 데이터센터 건설이 지역사회와 갈등을 빚는 상황에서, 사업자들이 해당 지역사회와 재정적 합의를 맺고 주민에게 '배당금'을 지급할 것을 촉구했다. 그는 또한 데이터센터가 자체 전력을 생산하고 남는 전력을 지역사회에 공급하거나 판매하도록 의무화해야 한다고 주장했다. 업계에서는 일부 기업들이 이미 지역사회 투자 및 금전적 혜택 제공 방안을 검토하고 있음을 밝혔다.
(새 창에서 원문 열기)인증 기관 eMudhra, 취약한 개인 키 사용에 대해 해명
정보보호인도 인증 기관 eMudhra가 발행한 일부 디지털 인증서에 사용된 개인 키가 '4'와 같은 매우 취약한 값을 가졌음이 밝혀졌다. 해당 기관은 키 생성 시 발생한 결함으로 인해 취약한 키가 발행되었으나, 이는 독립 감사 및 브라우저 신뢰 목록에 등재된 이후의 문제임을 주장하며 책임을 일부 전가하고 있다.
(새 창에서 원문 열기)
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.