AI 모델의 사기 동조 가능성 실험 및 다단계 방어 시스템의 필요성 제기
연구자는 로컬 AI 모델을 이용해 사기꾼과의 대화에 동조하게 만들 수 있음을 실험했다. 이러한 상황을 막기 위해 모델 자체에 의존하기보다, 사용자의 의도를 검증하는 엄격한 규칙과 승인 단계를 결합한 다단계 방어 시스템이 효과적임을 시연했다.
(새 창에서 원문 열기)기사 요약은 AI가 원문을 정리한 것입니다(AI 생성). 기사를 누르면 원문이 새 창에서 열립니다.
연구자는 로컬 AI 모델을 이용해 사기꾼과의 대화에 동조하게 만들 수 있음을 실험했다. 이러한 상황을 막기 위해 모델 자체에 의존하기보다, 사용자의 의도를 검증하는 엄격한 규칙과 승인 단계를 결합한 다단계 방어 시스템이 효과적임을 시연했다.
(새 창에서 원문 열기)신생 랜섬웨어 조직 '논'이 공격 자동화에 AI를 활용하며 한국 기업을 포함한 국내외를 공격했다. 이들은 공격 도구 개발 및 디버깅에 AI를 사용했으며, 데이터 탈취 후 협박 및 다크웹 유출까지 시도했다. 보고서는 이러한 공격에 대응하기 위해 계정 보안, 침해 탐지 등 전반적인 보안 체계 강화를 주문했다.
(새 창에서 원문 열기)보안 스타트업 네뷰섹은 안드로이드용 텔레그램에서 음성 통화를 수신하는 것만으로 공격자가 코드를 실행시킬 수 있는 결함을 공개했다. 이 결함은 2022년 3월부터 9월까지 배포된 버전에서 존재했으며, 9월 말 배포된 12.10.4 버전에서 수정되었다. 현재까지 실제 공격 성공 여부나 피해 범위는 확인되지 않았다.
(새 창에서 원문 열기)워드프레스의 업데이트 과정에서 발생하는 경쟁 상태 취약점을 통해 공격자가 서버에 임의 코드를 실행할 수 있는 원격코드실행 취약점이 발견되어 보안 업데이트가 배포되었다. 취약점 공개 이후 24시간 동안 약 6만 3천 건의 공격 시도가 보고되었으며, 운영자는 최신 버전으로의 업그레이드 및 임시 디렉터리 접근 여부를 점검해야 한다.
(새 창에서 원문 열기)머니투데이는 9월 25일 발생한 외부 불법 접근 시도로 인해 개인정보가 유출되었음을 공지했다. 후속 점검 결과, '프리미엄 경제 칼럼 뉴스레터' 및 'the300정책아카데미 신청 데이터' 관련 정보 등 총 1367건의 개인정보가 유출된 것으로 확인되었다. 해당 유출에는 회원 및 결제 정보는 포함되지 않았으며, 현재는 추가적인 보안 점검 및 모니터링을 진행 중이다.
(새 창에서 원문 열기)글로벌 항공 예약 시스템 공급업체인 아마데우스의 시스템이 해킹당하면서 일본항공 승객 약 9만 2천 명의 예약 정보가 유출된 사실이 확인되었다. 국내 대한항공과 아시아나항공 역시 동일 공급업체의 침해 사고 통보를 받았으며, 이는 외부 IT 시스템 의존성에 따른 보안 위험을 보여준다.
(새 창에서 원문 열기)글로벌 예측시장 플랫폼 폴리마켓이 외부 서비스 공급업체의 웹사이트 모니터링 프로그램이 공격자에 의해 변조되는 바람에 이용자 가상자산이 탈취되는 사고를 겪었다. 폴리마켓은 이 사고로 인해 발생한 피해에 대해 총 390만 달러를 이용자에게 보상할 것이라고 발표했다. 이번 사고는 외부 스크립트의 무결성 검증 부재가 공격 경로로 악용된 사례로 분석되었다.
(새 창에서 원문 열기)AI 모델 공유 플랫폼 허깅페이스에서 가상자산 채굴 악성코드와 백도어가 포함된 AI 모델이 유포된 것이 확인되었다. 공격자는 정상 모델로 위장하여 악성 코드를 심었고, 이는 공개 AI 모델을 활용하는 과정에서 내부 서버가 감염될 수 있음을 시사한다. 국내 AI 개발 및 연구기관은 외부 모델 도입 시 코드 검증 및 원격 코드 실행 제한 등의 보안 조치를 취해야 한다.
(새 창에서 원문 열기)세계 최대 가상자산 거래소 바이낸스가 핫월렛 침해를 통해 약 63억 달러 상당의 가상자산을 탈취당했다. 블록체인 분석 기업은 공격 배후로 북한 연계 해커 조직의 가능성을 제기했으며, 이는 거래소의 지갑 거래 승인 시스템 침해를 통해 이루어진 것으로 추정된다. 이 사고는 국내 가상자산 거래소들도 운영 환경 및 승인 절차 전반에 걸친 보안 점검이 필요함을 시사한다.
(새 창에서 원문 열기)Plex Media Server의 네 가지 결함(CVE-2026-96652, -96654, -96655, -96656)을 조합한 공격이 실제로 시도되었으며, 공격자는 이를 통해 서버에 암호화폐 채굴기와 리눅스 백도어를 설치하는 데 성공했다. 이 결함들은 공개된 지 하루 만에 공격에 사용되었으며, 플렉스 측은 해당 취약점들을 포함한 버그를 최신 버전에서 수정했다고 밝혔다.
엔비디아가 영국 클라우드 기업 엔스케일의 데이터센터 건설 자금 확보를 위해 수십억 달러 규모의 신용 보증 제공을 논의 중이다. 엔스케일은 앤트로픽과 450억 달러 규모의 컴퓨팅 자원 임대 계약을 체결했으며, 엔비디아의 지원은 GPU 공급을 넘어 인프라 투자에 따른 금융 위험까지 분담하는 것이다.
(새 창에서 원문 열기)앤트로픽은 일부 이용자들이 사용량 제한에 대해 오해한 것에 대해 사과하며, '맥스 5x'를 '맥스'로, '맥스 20x'를 '울트라'로 요금제 명칭을 변경했다. 또한, 울트라 요금제 인증 가입자의 5시간 단위 사용량 제한을 폐지하여 주간 한도 내에서 보다 원활한 사용을 지원하게 되었다.
(새 창에서 원문 열기)엔비디아는 서부 버지니아에 위치한 Nscale의 Anthropic 데이터 센터에 대한 수십억 달러 규모의 부채 금융 보증을 논의 중이다. 이 제안은 Nscale이 건설 대금 지급 불이행 시 엔비디아가 대리하여 시설을 인수하고 새로운 구매자를 찾는 것을 포함한다. 이 프로젝트는 엔비디아의 차세대 Vera Rubin 칩을 사용할 예정이며, 양사는 추가적인 거래도 논의 중이다.
(새 창에서 원문 열기)더존비즈온의 백업서버 침해 사고로 인해 아산충무병원 및 천안충무병원의 거래처 정보와 계좌 정보가 유출되었을 가능성이 제기되었다. 사고는 외부 회계프로그램 제공업체의 백업 서비스에서 발생했으며, 현재까지 환자 진료 정보 유출 여부는 확인되지 않았다. 해당 의료기관은 2차 피해 방지를 위해 거래처에 주의를 당부하고 있다.
(새 창에서 원문 열기)클라우드 플랫폼 레일웨이에서 고객 환경 변수에 접근한 외부 공격자의 흔적이 발견되었으며, 일부 정보가 복호화되어 유출되었을 가능성이 제기되었다. 공격자들은 이 취약점을 이용하여 AI 추론 서비스 업체를 겨냥한 연쇄 공격을 시도했으며, 이는 클라우드 인증 정보 관리의 중요성을 부각시킨다.
(새 창에서 원문 열기)복지포인트 쇼핑몰 현대이지웰이 회원정보 조회 API에 대한 외부 비정상적 접근을 통해 해킹 피해를 입었다. 이름, 생년월일, 휴대폰 번호 등 회원 정보가 유출되었으며, 현대이지웰은 관계기관에 신고하고 사고 조사를 진행 중이다.
(새 창에서 원문 열기)구글은 AI 검색을 도입하며 검색 시장 점유율을 유지했으나, AI 검색의 낮은 광고 수익성과 급증하는 인프라 투자 비용으로 인해 시가총액이 감소하는 등 사업적 도전에 직면했다. AI 모드 도입을 통해 이용자 경험을 우선시하며 수익화 방안을 모색 중이며, 이는 외부 웹사이트 트래픽에도 영향을 미치고 있다.
(새 창에서 원문 열기)미국 빅테크 기업들의 AI 인프라 투자에 대한 불안감이 커지면서 기술주가 급락세를 보였다. 아마존과 인텔 등 주요 기업들의 실적 발표에서 막대한 투자 비용 대비 수익 증가 속도가 따라가지 못한다는 평가가 나오면서 투자 심리가 위축되었다. 이로 인해 나스닥 지수를 포함한 관련 시장에서 약 2조 달러 규모의 시가총액이 사라지는 등 AI 투자 거품에 대한 경고음이 나오고 있다.
(새 창에서 원문 열기)딥러닝 기반 초해상도 기술로 CCTV 영상의 화질 개선은 가능하나, AI가 추정하여 정보를 만들어낼 수 있어 원본 검증이 필수적이다. 또한, 스마트폰 잠금 해제나 IP 추적 역시 하드웨어 암호화, 법적 절차 등 현실적 장벽이 존재하며, 각 추적 과정에는 상당한 시간과 복합적인 기술적 접근이 필요하다.
(새 창에서 원문 열기)애플은 iOS 27.3을 통해 애플 인텔리전스의 일부 기능을 중국 시장에 선보일 계획이다. 이 기능에는 알림 요약, 실시간 번역, 텍스트 편집 도구 등이 포함되며, 중국 시장에 맞는 자체 LLM도 훈련되었다.
(새 창에서 원문 열기)인텔이 4분기 실적 전망을 낮추면서 주가가 약 28% 급락했고, 이는 정부가 보유한 지분의 가치를 120억 달러 감소시켰다. 인텔은 PC 판매 부진이 메모리 가격과 AI 산업의 영향 때문이라고 언급했으며, 데이터 센터 사업은 전년 동기 대비 78% 성장했다.
(새 창에서 원문 열기)본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.