LLM 내부에서 '고통 축' 발견...회피 행동까지 수행
AI
대형언어모델(LLM)이 인간의 고통과 유사한 개념을 단순한 언어 패턴으로 처리하는 것을 넘어, 모델 내부에서 이를 구분해 표현하고 관련 행동을 보일 수 있다는 연구 결과가 나왔다. 연구진은 AI 모델 내부에서 '고통 방향'이라는 특정 벡터가 형성되며, 이를 조작하면 모델의 출력과 행동이 일관된 방향으로 변화한다고 밝혔다.
(새 창에서 원문 열기)NEWS
뉴스·소식
오늘의 브리핑
기사 요약은 AI가 원문을 정리한 것입니다(AI 생성). 기사를 누르면 원문이 새 창에서 열립니다.
기사 목록
앤돈랩스, AI 기업 자율 운영 플랫폼 '파이온' 공개
AIAI 안전성과 자율 에이전트를 연구하는 앤돈랩스가 AI 에이전트가 기업 업무 전반을 수행하는 자율 경영 플랫폼 '파이온'을 공개했다. 이 플랫폼은 이메일, 전화, 웹 브라우저, 금융 계좌 권한을 통해 기업 경영을 전담하며, 가상 환경과 실제 자판기, 소매점, 카페 운영을 통해 AI의 자율 운영 능력과 한계를 실험한 결과를 바탕으로 개발되었다. 앤돈랩스는 AI가 기업을 운영하는 범위와 안전성 평가를 위해 파이온을 확장 운영할 계획이다.
(새 창에서 원문 열기)오픈아트, AI 이미지·비디오 모델 평가 '아레나' 출시
AI오픈아트는 창작자들이 작업 목적에 맞는 최적의 AI 이미지와 비디오 모델을 찾을 수 있도록 용도별 벤치마크 '오픈아트 아레나'를 출시했다. 평가는 모델 이름을 공개하지 않은 상태에서 전문가와 외부 평가자들이 용도별로 결과물을 비교하는 방식으로 진행되며, 영화 제작, 광고, 영상 편집 등 분야별로 순위가 결정된다.
(새 창에서 원문 열기)스텝펀, 차세대 MoE 모델 '스텝 5 프리뷰' 공개
AI중국 스텝펀이 에이전트 작업, 코딩, 전문 지식 업무, 금융 분석에 특화된 차세대 플래그십 모델 '스텝 5 프리뷰'를 공개했다. 모델은 6000억개 매개변수와 희소 전문가 혼합(MoE) 구조를 적용해 작업 비용을 낮추고 성능을 향상시켰으며, 10월15일 정식 오픈소스 공개를 예정하고 있다.
(새 창에서 원문 열기)MS, 기업 AI 전환 지침서 '프런티어 플레이북' 공개...
AI마이크로소프트(MS)는 기업의 AI 전환 전략과 조직 재설계에 대한 지침서인 '프런티어 플레이북'을 공개했다. 이 지침서는 AI 도구를 단순히 추가하는 것이 아니라, 기업의 비즈니스 목표와 업무 프로세스 재설계를 우선시해야 한다는 점을 강조한다. MS는 내부 AI 전환 사례를 바탕으로 AI를 활용한 조직 구조 변화와 성과 측정 방식의 전환을 제시했다.
(새 창에서 원문 열기)일레븐랩스, MCP로 음성·영상 생성 도구 통합
AI일레븐랩스는 클로드와 챗GPT 등 대화형 AI 창에서 음성, 음악, 이미지, 비디오를 생성할 수 있도록 MCP 서버에 '일레븐크리에이티브'를 통합했다. 이로 인해 AI 챗봇 대화 세션에서 멀티미디어 콘텐츠 제작이 가능해졌으며, OAuth 인증 방식을 통해 연결 과정이 간소화되었다.
(새 창에서 원문 열기)2030년까지 15.7만명 부족...미국 반도체 인력난에 경고등
AI미국이 AI 반도체 공급망을 구축하기 위해 대규모 생산시설을 건설하고 있지만, 공장을 운영할 숙련 인력이 부족해 가동에 차질이 빚어질 수 있다는 우려가 커지고 있다. 보고서에 따르면 2030년까지 미국 반도체 산업의 인력 부족 규모는 최대 15만7000명에 이를 것으로 전망되며, 반도체 기업의 73%가 엔지니어 채용에 어려움을 겪고 있다.
(새 창에서 원문 열기)술레이먼 '중국 경쟁 핑계로 AI 안전 규제 미뤄선 안 돼'
AI무스타파 술레이먼 마이크로소프트 AI CEO가 AI 기술 발전 과정에서 중국과의 경쟁을 핑계로 안전장치 마련을 미뤄서는 안 된다고 강조했다. 그는 AI 개발 시 명확한 안전 기준과 규범을 마련해야 하며, 중국을 핑곗거리로 삼아 안전 노력을 소홀히 해서는 안 된다고 지적했다.
(새 창에서 원문 열기)발스 AI, 고난도 벤치마크 기술로 4000만달러 투자 유치
AI벤치마크 기술로 AI 업계의 주목을 받은 스타트업 발스 AI가 4000만달러 규모의 시리즈 A 투자를 유치했다. 회사는 앤트로픽과 오픈AI의 최신 모델로 고난도 테스트를 진행하며 글로벌 반응을 얻고 있으며, 암호 해독과 마인크래프트 테스트를 통해 AI 시스템의 장시간 과제 수행 능력을 측정하는 기술을 개발했다. 기존 투자자들과 대형 투자사들이 합류했으며, 발스는 실제 산업 현장에서 AI의 복잡한 업무 수행 능력을 평가하는 고유 체계를 구축했다. 최근 글로벌 기술 기업들이 발스의 평가 지표를 도입하며 매출이 급증했고, 차세대 벤치마크 제품군 개발을 계획 중이다.
(새 창에서 원문 열기)샤오미, AI 훈련 과정 첫 '생중계'…일주일 만에 50억 투입
AI샤오미가 차세대 플래그십 모델 '미모-V2.6'의 강화학습 사후훈련 과정을 실시간으로 생중계하며 주목받고 있다. 이는 AI 기업 중 최초로 수백만 달러가 투입되는 훈련 과정을 대시보드 형태로 대중에 노출한 사례이다. 실시간 대시보드를 통해 모델의 학습 과정과 훈련 비용 등을 투명하게 공개하고 있으며, 훈련 종료 후 핵심 기술과 방법론을 오픈소스로 공개할 예정이다.
(새 창에서 원문 열기)AI 기반 코드 생성 도구로 인한 앱 시장 변화와 문제점 분석
AIAI 기반 코드 생성 도구의 등장으로 앱 개발 장벽이 낮아져 신규 앱 출시가 급증했으나, 시장에서 성공하는 앱은 드물다. 공급 증가에 비해 수요는 정체되고 있으며, AI 기술 자체를 다루는 서비스에는 이용자가 집중되고 있다.
(새 창에서 원문 열기)중국 스마트 안경 판매량 120% 급증...가성비·AI로 시장 공략
AI중국 내수 시장에서 스마트 안경 판매량이 전년 대비 120% 급증한 것으로 나타났다. 정부 보조금 정책과 현지 기술 기업들의 가성비 전략이 결합되며, 특히 샤오미와 로키드, 화웨이 등이 AI 기능을 탑재한 제품으로 시장을 확대하고 있다.
(새 창에서 원문 열기)메리엄-웹스터 사전, ‘바이브 코딩’·‘불쾌한 골짜기’ 등 신조어 1400개 등재
AI메리엄-웹스터 사전이 AI와 기술 분야 용어인 '바이브 코딩', 'AGI', '컴퓨팅', '불쾌한 골짜기' 등을 포함한 약 1400개의 새로운 단어와 의미를 온라인 사전에 추가했다. 신조어들은 실제 사용 사례와 출처를 검토한 뒤 등재되었으며, 인터넷 문화와 일상생활에서 널리 사용되는 표현들이 포함되었다.
(새 창에서 원문 열기)트럼프 행정부, AI 개발 속도 조절에 대한 입장을 밝혀
AI트럼프 행정부가 AI 개발 속도 조절을 요구하는 기업들에게 정부의 강제 조치를 기다리지 말고 자체적으로 개발을 중단하거나 늦추라고 촉구했다. 백악관 과학기술정책실장은 AI 기업들이 안전하지 않은 기술 개발을 중단할 수 있다고 강조했으며, 정부가 일률적인 개발 중단을 요구할 필요가 없다고 밝혔다. 이는 AI 안전성에 대한 우려가 확대되는 가운데 나온 발언이다.
(새 창에서 원문 열기)GPT-6 아스트라, 108년 된 독일군 암호 해독
AIGPT-6 아스트라가 1차 세계대전 당시 독일군이 사용한 암호를 108년 만에 해독하며 기존 연구자들의 전제를 뒤집었다. AI가 단순한 계산 능력을 넘어 논리적 추론을 통해 새로운 가능성을 제시한 사례로 주목받고 있다.
(새 창에서 원문 열기)플레이태그, 영상 속 맥락 읽는 '모노' 출시
AIAI 행동분석 전문 플레이태그는 영상 속 행동을 자연어로 분석하는 AI 솔루션 '모노엑스와이지'를 출시했다. 이 솔루션은 700만 시간의 비디오 행동 데이터를 학습한 모델로, 복잡한 환경에서도 정밀한 행동 분석을 제공한다.
(새 창에서 원문 열기)AI스페라, 지방정부 AI 확산 속 보안 강조
AIAI스페라 강병탁 대표가 지방정부의 생성 AI와 바이브 코딩 활용 확대에 따라 보안 점검의 중요성을 강조했다. 공공 AI 서비스의 주요 보안 위협과 대응 방안을 소개하며, 개발 단계부터 운영 과정까지 지속적인 보안 체계 구축의 필요성을 제안했다.
(새 창에서 원문 열기)AI 산업이 진정으로 느려질 준비가 되었는가
AIAnthropic CEO Dario Amodei가 '프론티어를 느려지게 하자'는 계획을 발표하며 AI 안전성 논의를 촉구하고, Nvidia CEO Jensen Huang은 AI 규제 불필요성을 주장하며 반박했다. TechCrunch의 팟캐스트에서 이에 대한 논의가 진행되었다.
(새 창에서 원문 열기)Nvidia 제이슨 황, AI 위험성은 과장되었다고 주장
AINvidia의 Jensen Huang은 AI가 세계 종말을 가져올 가능성은 0%라고 주장하며, AI 개발을 늦추려는 경고는 과학적이지 않다고 말했다. 그는 새로운 규제가 필요하지 않다고 강조했다.
(새 창에서 원문 열기)Vocci, 반지 형태의 회의 메모 기기 출시
AIVocci는 기존의 펜던트, 핀, 신용카드 스타일의 회의 메모 기기에 이어 반지 형태의 새로운 기기를 출시했습니다. 이 기기는 AI를 활용해 회의 내용을 녹음하고 정리하는 기능을 제공하며, 8시간 동안 녹음이 가능합니다. 그러나 소프트웨어는 사용자에게 혼란을 주며, AI 기반의 인사이트가 실제 메모보다 길어지는 경우가 있습니다. 또한, 기기의 형태로 인해 녹음 사실을 숨기는 것이 가능해 개인정보 보호 문제를 일으킬 수 있습니다.
(새 창에서 원문 열기)ScrollEd, 교과서를 TikTok처럼 변신시키다
AIScrollEd는 학생들이 교과서를 열지 않아도 AI 생성 영상, 오디오, 텍스트, 인터랙티브 퀴즈로 구성된 피드를 통해 학습할 수 있는 앱을 개발했다. 이 앱은 인스타그램 릴스나 TikTok과 유사한 형태로, 스크롤을 통해 다양한 학습 콘텐츠를 제공한다. ScrollEd는 교육 기관, 기업 교육 프로그램, 개인 사용자를 대상으로 하며, 소비자 비즈니스를 TechCrunch Disrupt에서 론칭할 계획이다.
(새 창에서 원문 열기)
본 페이지의 기사 요약은 공개된 자료를 AI가 정리한 것으로, 원문과 차이가 있을 수 있습니다. 정확한 내용은 각 기사의 원문을 확인하십시오. 모든 저작권은 원 매체에 있습니다.