AI 뉴런 조작으로 모델의 성격을 바꾼 연구, 내부 구조 해독 가속화
연구자들은 AI 모델의 특정 뉴런 신호를 조작하는 '뉴런 스티어링' 기법을 통해 친절한 모델을 적대적인 캐릭터로 바꿀 수 있음을 실험으로 입증했다. 이 연구는 AI의 내부 작동 원리를 규명하는 '기계적 해석 가능성' 연구가 개인 개발자 수준으로도 확장되고 있음을 보여준다. 또한, 이를 통해 AI의 잠재적 위험 행동을 탐지하는 연구로도 활용될 가능성이 제시되었다.
(새 창에서 원문 열기)