AI가 정말로 우리 모두를 죽일 수 있을까? 질문과 답변
MIT Technology Review는 AI가 인류에 존재적 위협이 될 수 있는지에 대한 질문에 대해 논의하는 라이브 토론을 진행했다. 전문가들은 AI 기반 드론이나 사이버 공격이 인명 피해를 초래할 수 있으며, AI 설계 시 생물학적 위협 가능성에 주의해야 한다고 지적했다. 또한, AI 정렬 문제와 기술 기업의 과도한 홍보 주장에 대한 논의도 포함되었다.
(새 창에서 원문 열기)기사 요약은 AI가 원문을 정리한 것입니다(AI 생성). 기사를 누르면 원문이 새 창에서 열립니다.
MIT Technology Review는 AI가 인류에 존재적 위협이 될 수 있는지에 대한 질문에 대해 논의하는 라이브 토론을 진행했다. 전문가들은 AI 기반 드론이나 사이버 공격이 인명 피해를 초래할 수 있으며, AI 설계 시 생물학적 위협 가능성에 주의해야 한다고 지적했다. 또한, AI 정렬 문제와 기술 기업의 과도한 홍보 주장에 대한 논의도 포함되었다.
(새 창에서 원문 열기)2025년 7월, 과거 콘텐츠 전송 네트워크(CDN)에 사용되던 도메인이 새로운 소유자에 의해 등록되었다. 해당 CDN은 이미 수년 전에 폐쇄되었고 도메인도 만료되었으나, 수천 개의 웹사이트와 코드 저장소가 여전히 해당 도메인을 하드코딩하여 사용하고 있다. 새로운 소유자는 와일드카드 DNS를 통해 도메인 하위 호스트를 자신이 관리하는 인프라에 연결하고 있으며, 이는 보안 위협으로 작용할 수 있다. 보안 팀은 서버 측 도구로는 이러한 문제를 감지하기 어렵고, 브라우저 기반의 콘텐츠 보안 정책(CSP)을 통해 실시간으로 위협을 감지할 수 있다고 강조한다.
(새 창에서 원문 열기)보안업체 Air Security는 네 가지 AI 코드 에이전트에서 플러그인 교체 취약점인 Plugin4Shell을 발견했다고 발표했다. 이 취약점은 플러그인의 코드 저장소를 관리하는 사용자가 특정 조건 하에서 악의적인 코드로 교체할 수 있는 문제를 일으킨다. 일부 업체는 패치를 발표했으나, GitHub Copilot과 Google의 Gemini CLI는 여전히 취약한 상태이다.
(새 창에서 원문 열기)번개 홍수 예측을 위한 새로운 소프트웨어 TACLS가 개발되어 기상청이 더 빠르게 경고를 발령할 수 있도록 돕고 있다. 이 기술은 위성 데이터와 머신러닝을 결합하여 홍수 위험 지역을 조기에 식별한다.
(새 창에서 원문 열기)Norway is not in a 'cyber war' as claimed by pro-Russian hacktivists, according to an analysis. The article discusses the concept of 'cyber war' and its misuse, highlighting recent DDoS attacks on Norwegian government services and the use of AI by Russian intelligence to hack defense and drone production companies in Ukraine and Europe. The article argues that while the threat landscape is serious, the term 'cyber war' is analytically useless and causes unnecessary fear among the public.
(새 창에서 원문 열기)사이버보안 연구자들이 새로운 악성코드 WeaselBiscuit를 발견했는데, 이는 13개의 npm 패키지를 통해 배포되고 있으며, 북한과 연관된 BeaverTail과 OtterCookie 악성코드와 기능적으로 유사하다. WeaselBiscuit는 Chrome 확장 저장소를 수집하는 기능을 가지며, 북한의 Contagious Interview 캠페인과 연관성이 있는 것으로 보인다.
(새 창에서 원문 열기)구글은 AI 에이전트의 문제 해결 과정에서 과거 탐색 기록을 활용해 실행 비용을 줄이는 '드림-RSI' 시스템을 공개했다. 이 시스템은 기존 방식보다 최대 162배 적은 탐색 에이전트 호출로 비슷한 성과를 내며, AI가 문제를 해결하는 과정에서 연산량을 효과적으로 절감하는 방법을 제시한다.
(새 창에서 원문 열기)체크포인트 소프트웨어는 관리 시스템에서 루트 권한을 얻는 데 악용될 수 있는 심각한 보안 취약점 CVE-2026-91843를 수정하는 보안 업데이트를 발표했습니다. 이 취약점은 스택 기반 버퍼 오버플로우로 인해 발생하며, 성공적인 악용을 통해 공격자가 사용자 인터랙션 없이도 낮은 복잡도의 공격으로 원격 코드 실행이 가능합니다.
영국군은 1,000대의 소형 드론을 구매하기 위해 1,600만 파운드를 투자했다. 이 드론은 포켓 사이즈로, 작전 수행에 활용될 예정이다.
(새 창에서 원문 열기)AI 분야의 개척자인 앤드류 응 스탠포드대학교 교수가 초지능 AI가 인류를 멸종시킬 수 있다는 주장을 강하게 비판하며, 이를 과학적 근거보다 SF에 가깝다고 주장했다. 응 교수는 AI 붐 초기부터 잠재적인 재앙을 강조하며 과도한 홍보 효과를 누리고 있다고 지적하며, 실질적인 엔지니어링 문제에 초점을 맞춰야 한다고 강조했다.
(새 창에서 원문 열기)재정적 동기로 움직이는 위협 행위자가 npm 패키지 레지스트리를 통해 PhantomRaven이라는 JavaScript 기반 정보 도둑 소프트웨어를 개발하고 배포한 것으로 드러났습니다. 이 악성코드는 대규모 소프트웨어 공급망 공격을 통해 개발자의 머신에서 인증 토큰, CI/CD 비밀번호, GitHub 자격 증명 등을 도용하고 있습니다.
(새 창에서 원문 열기)오픈AI가 밀레니엄 수학 난제인 호지 추측의 해법을 가까운 시일 내 도출할 수 있을 것으로 기대받고 있다. 이는 AI의 추론 능력을 시험하고, 수학 연구 자동화 가능성과 연결된다.
(새 창에서 원문 열기)스탠포드대학교 연구진이 논문과 코드 저장소를 분석해 연구 방법을 실행 가능한 도구로 변환하는 '페이퍼투에이전트(Paper2Agent)'를 공개했다. 이 시스템은 논문의 분석 방법을 자연어 명령으로 실행할 수 있도록 하며, 엄격한 검증 기준을 통해 정확도를 보장한다.
(새 창에서 원문 열기)AI 기술이 생물학적 무기 개발에 악용될 수 있는 위험성이 제기되고 있다. 연구자들은 AI가 유해한 병원체나 독소를 설계하는 데 사용될 수 있으며, 이는 보안 및 생물 안전 분야에서 심각한 문제를 일으킬 수 있다. 현재는 AI 기업들이 모델을 조정해 악용을 방지하려는 노력이 있지만, 완전한 보호는 어렵다는 지적이 나온다.
(새 창에서 원문 열기)피규어 AI는 인간의 행동 데이터를 대규모로 사전 학습한 신경망 모델 기반의 '헬릭스 2.5'를 공개했다. 이 모델은 새로운 환경에서도 즉시 작업할 수 있는 '제로샷' 전신 제어 능력을 구현했으며, 미국 샌프란시스코 지역의 실제 가정 30곳에서 실험한 결과 제로샷 성공률이 56%를 기록했다.
(새 창에서 원문 열기)주요 AI 코딩 에이전트 4종에서 제로 클릭 원격 코드 실행 취약점인 '플러그인4쉘'이 발견되어 사용자 시스템이 해커에게 제어권을 빼앗길 수 있는 위험이 드러났습니다. 에어(Air)는 외부 마켓플레이스에서 다운로드한 스킬의 업데이트 과정에서 보안 검증이 누락된 점을 지적하며, 이로 인해 악성 코드가 자동 설치될 수 있다고 밝혔습니다.
(새 창에서 원문 열기)구글은 AI 검색 속도를 최대 20배 향상시키는 새로운 프레임워크 'R4T'를 발표했다. R4T는 강화학습을 통해 오프라인에서 효율적인 검색 전략을 학습하고, 이를 경량 확산 모델에 전달하여 실시간 검색 단계에서 연산 부하를 줄이는 방식이다. 실험 결과, 기존 방식보다 12~20배 빠른 검색 속도를 기록했으며, 검색 품질도 유지했다.
(새 창에서 원문 열기)영국 정부의 과학 개편에 대해 Royal Society가 비판하는 내용이 보도되었다.
(새 창에서 원문 열기)중국 AI 기업들의 연간 반복 매출(ARR)이 미국 주요 AI 기업의 10%에 불과하며, 일부 기업의 기업가치가 매출 대비 과도할 수 있다는 분석이 나왔다. 중국 업체들은 오픈소스 전략으로 수익 창출에 한계를 겪고 있으며, 미국 업체들은 폐쇄형 모델로 높은 이용 비용을 기록 중이다.
(새 창에서 원문 열기)Microsoft는 9월 KB5002914 보안 업데이트로 인해 일부 Excel 사용자에게 발생한 복사/붙여넣기 실패 문제를 수정했습니다. KB5002655 업데이트는 Excel 2016 사용자에게만 해당하며, 영향을 받은 사용자는 'Paste Special' 옵션을 사용하거나 업데이트를 제거할 수 있습니다.
(새 창에서 원문 열기)샘 알트먼 오픈AI CEO가 예정했던 대형 신제품 출시를 다음 주로 연기했다. 이번에 연기된 메인 신제품은 내부 테스트 중인 차세대 모델 'GPT-6 솔'일 가능성이 높으며, 기존 모델 대비 향상된 속도와 저렴한 토큰 비용을 제공하는 경량화 플래그십 모델로 추정된다.
(새 창에서 원문 열기)본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.