OpenAI 안전성 직원 사직하며 경고 발령
AI
OpenAI의 안전성 보고서를 작성하던 David Robinson이 사직하고 AI 안전성 문제를 경고하는 글을 발표했다. 그는 AI 산업의 문화가 근본적으로 깨졌으며, 핵전력 수준의 안전 장치가 필요하다고 주장한다. Robinson은 AI 기업들이 기술 발전에 대한 과도한 낙관을 버리고 철저한 계획과 중복 안전 장치를 마련해야 한다고 강조한다.
(새 창에서 원문 열기)NEWS
뉴스·소식
오늘의 브리핑
기사 요약은 AI가 원문을 정리한 것입니다(AI 생성). 기사를 누르면 원문이 새 창에서 열립니다.
기사 목록
IT 기업들이 책과 기업 이메일을 사들이는 이유
정보보호AI 개발을 위해 데이터가 필수적인 자원이 되면서 IT 기업들이 대규모 데이터 구매에 나서고 있다. Reddit, OpenAI 등이 대규모 자금을 투자해 데이터를 확보하고 있으며, 이는 정보의 가치가 급격히 상승하고 있음을 보여준다.
(새 창에서 원문 열기)월가, AI 거품 붕괴 경고
AI월스트리트가 실리콘밸리의 AI 기업들의 과도한 몸값과 인프라 투자에 대해 경고하고 나섰다. 철도 붐이나 닷컴 버블을 뛰어넘는 자금이 AI 분야에 투자되고 있으나, 이를 뒷받침할 수익성은 턱없이 부족하다는 지적이다. 앤트로픽의 IPO를 앞두고 월가의 냉각 기류가 구체화되며, 투자은행들이 기업 가치를 하향 조정해야 한다고 요구하고 있다. 전문가들은 AI 인프라 투자 규모가 역대 미국 인프라 프로젝트 중 가장 크며, 향후 수익 창출이 불투명하다는 점을 지적하고 있다.
(새 창에서 원문 열기)메타 '뮤즈' 흥행 이끈 귀여운 마스코트 마케팅 전략
AI메타는 AI에 대한 대중의 거부감을 해소하기 위해 귀여운 마스코트 '졸리'를 활용한 마케팅 전략을 펼치고 있으며, 이는 빅테크 기업들의 공통된 전략으로 보인다. 메타의 뮤즈 앱은 졸리를 통해 실물 모형 전시, 광고, 소셜 미디어 캠페인 등을 통해 흥행을 이끌고 있다.
(새 창에서 원문 열기)LLM-агент의 메모리 신뢰성 검증 방법 분석
정보보호뉴욕시가 운영하는 MyCity 챗봇이 오류로 인해 부정확한 정보를 제공한 사례를 통해, LLM-агент의 메모리 신뢰성 검증 문제를 다룬 기사이다. 기존 RAG 방식의 한계를 지적하고, MDL(Memory Decision Layer)를 통해 메모리 신뢰도를 평가하는 새로운 접근법을 제시한다.
(새 창에서 원문 열기)앤트로픽, 클로드 코드에 커스텀 확장 기능 '모드' 출시
AI앤트로픽이 클로드 코드에 사용자 맞춤형 기능을 구현할 수 있는 '모드' 기능을 출시했다. 이 기능은 개발자들이 자신의 워크플로우에 최적화된 환경을 제공하기 위해 클로드 코드의 UI와 동작 방식을 커스터마이징할 수 있도록 해준다. 몇 줄의 코드로 직접 제작하거나 클로드에게 지시해 자동 생성할 수 있으며, 플러그인 형태로 배포되어 다른 사용자와 공유할 수 있다. 보안상의 문제를 방지하기 위해 다중 안전장치를 제공한다.
(새 창에서 원문 열기)딥시크, 슈퍼 앱 형태 데스크톱 앱 '딥시크 하네스' 출시
AI딥시크가 AI를 활용한 문서 작업과 개발을 하나의 공간에서 처리할 수 있는 데스크톱 앱 '딥시크 하네스'를 출시했다. 이 앱은 채팅, 코딩, 문서 작업을 통합한 슈퍼 앱 형태로, 파일 업로드 및 분석, 코드 수정, 플러그인 기반 확장 기능 등을 제공한다.
(새 창에서 원문 열기)메타, 오픈소스 '뮤즈 가젯' 공개...AI 에이전트 하드웨어 이식 본격화
AI메타가 AI 에이전트 '뮤즈'를 하드웨어에 연결할 수 있는 오픈소스 플랫폼 '뮤즈 가젯'을 공개하고, 자체 제작한 스마트홈 연결 장치 '뮤즈 홈 링크'를 선보였다. 개발자와 기술 애호가들이 다양한 하드웨어에 뮤즈를 연결해 스마트홈 기기와 주변 장치를 제어할 수 있도록 지원한다.
(새 창에서 원문 열기)오픈AI, 문샷AI 연계 '증류' 공작 적발
정보보호오픈AI가 중국 AI 기업 문샷AI와 연계된 조직적 '증류' 공작을 적발하고 차단했다. 공격자들은 암호화된 추론 과정을 무단으로 체계적으로 활용해 다른 모델을 학습시키려 했다. 오픈AI는 추가 방어 조치를 적용하고 사기 계정을 정지했다.
(새 창에서 원문 열기)앤트로픽, '클로드 프론티어 아카데미' 출범... 1300억 투입해 FDE 1만명 양성
AI앤트로픽이 1300억원을 투자해 2027년까지 1만명의 전문 엔지니어(FDE)를 양성하는 '클로드 프론티어 아카데미'를 출범시켰다. FDE는 기업의 AI 도입을 이끌 전방 엔지니어로, AI를 실제 업무에 적용하는 역할을 수행한다. 교육 과정은 의사 양성 방식을 참고해 대면 교육과 실습, 레지던시를 포함하며, 인증을 받은 엔지니어는 기업에서 AI 구축 기준을 세우는 역할을 맡는다.
(새 창에서 원문 열기)애플, 맥OS '전체 디스크 접근' 제어 강화...AI 에이전트 무단 접근 막는다
AI애플이 맥OS의 '전체 디스크 접근' 권한에 추가적인 제어 기능을 도입해 AI 에이전트의 무단 접근을 방지한다. 사용자가 명시적인 승인을 거쳐야 광범위한 데이터 접근이 허용되도록 변경할 계획이다.
(새 창에서 원문 열기)엔비디아, 4999달러짜리 ‘DGX 스파크’ 출시...메모리 대란에 가격 낮췄다
AI엔비디아가 메모리 수급 악화로 인한 가격 상승을 완화하기 위해 4999달러짜리 64GB DGX 스파크 모델을 출시했다. 이 제품은 개발자가 데스크톱에서 대규모 AI 모델과 에이전트를 실행할 수 있도록 설계되었으며, 기존 128GB 모델과 비교해 메모리 용량이 줄었지만 가격 경쟁력을 높였다.
(새 창에서 원문 열기)EU의 200억 유로 규모 사이버 경보 시스템, 아직 테스트되지 않아
정보보호EU의 사이버 경보 시스템인 European Cybersecurity Alert System은 2025년 2월에 발효된 EU Cyber Solidarity 법에 따라 설립되었다. 그러나 20개월이 지난 현재, 시스템의 핵심 요소인 두 개의 cyberhub(Athena와 Ensoc)는 여전히 운영되지 않고 있으며, 필요한 도구가 부족한 상태이다.
(새 창에서 원문 열기)AWS, AI 데이터센터 반발 정면 돌파…지역사회에 1.4조 추가 투입
AIAWS가 데이터센터 건설 반발을 잠재우기 위해 5년간 10억달러(약 1조3500억원) 이상의 지역사회 추가 투자와 비밀유지계약 폐지를 발표했다. 투자금은 직업 훈련, 교육 지원, 수자원 보존, 에너지 효율화 사업 등에 사용될 예정이다.
(새 창에서 원문 열기)회계 업무서 AI '100%’ vs 인간 '37%'...역전 18개월 만에 '완벽' 단계로
AI최첨단 AI 모델이 월말 결산과 같은 세부 회계 업무를 100%에 가까운 정확도로 수행하는 반면, AI 없이 작업한 회계사들의 평균 정확도는 37%에 그쳤다. 연구진은 AI 성능의 급격한 향상으로 인해 벤치마킹의 패러다임이 바뀌고 있다고 지적했다.
(새 창에서 원문 열기)AI '생각의 사슬' 무력화되나…'순환 깊이' 기술이 부른 불투명성 우려
AIAI 모델의 추론 과정을 인간의 언어로 보여주는 '사고 사슬' 모니터링 체계가 흔들리고 있다. 최근 등장한 '순환 깊이' 기술은 모델 내부에서 추론을 수행해 모니터링을 무력화하고, 이로 인해 AI 안전성과 인간 통제력이 위협받고 있다는 우려가 제기되고 있다.
(새 창에서 원문 열기)Meta, Muse 기반 개인형 AI 에이전트 기기 개발 프로젝트 발표
AIMeta는 Muse 개인형 AI 에이전트를 기반으로 개발자들이 자체 하드웨어를 제작할 수 있는 Muse Gadgets 프로젝트를 발표했습니다. 이 프로젝트는 오픈소스 펌웨어와 Linux SDK를 제공하며, 사용자는 저비용 컴퓨터나 ESP32 보드를 활용해 Muse에 연결할 수 있습니다. Meta는 Muse Home Link라는 기기를 자체 제작하여 Muse 구독자들에게 무료로 제공하고 있습니다.
(새 창에서 원문 열기)패치 나오면 AI로 무기화... 구글, 월간 취약점 공개 1만건 넘었다
취약점올해 들어 월간 공개되는 취약점이 두 배로 증가했으며, 공격자들이 AI를 활용해 이를 빠르게 무기화하고 있다는 분석이 나왔다. 구글 위협 인텔리전스 그룹(GTIG)은 8월 한 달간 1만740건의 취약점이 공개되며 최고치를 기록했다고 밝혔다.
(새 창에서 원문 열기)Apple, AI 에이전트 악용 방지 위해 macOS 개인정보 보호 정책 변경
개인정보Apple은 macOS의 개인정보 보호 설정을 변경하여 제3자 앱 개발자가 메시지 기록을 악용하는 것을 막고자 한다. 이는 최근 Meta의 AI 에이전트 Muse가 사용자의 메시지 내용을 참조하는 알림을 보낸 사건 이후 발표된 조치이다.
(새 창에서 원문 열기)오픈AI, 챗GPT에 로그인과 플러그인 기능 추가
AI오픈AI는 챗GPT에 '로그인'과 '플러그인' 기능을 추가해 사용자 경험을 확장했습니다. 사용자는 챗GPT 계정으로 외부 서비스에 로그인할 수 있고, 플러그인을 통해 대화창 안에서 외부 서비스를 즉시 이용할 수 있습니다. 이는 챗GPT를 디지털 활동의 허브로 만들려는 전략의 일환입니다.
(새 창에서 원문 열기)Sean Parker, Stability AI를 음악 중심으로 재편
AINapster 공동 창립자인 Sean Parker는 Stability AI에 투자하여 음악 전문 AI 도구 개발에 나섰다. Stability AI는 Sony, Warner, Universal 등으로부터 7,600만 달러를 유치하고, AI 음악 생성 모델과 편집 소프트웨어를 출시했다.
(새 창에서 원문 열기)
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.