Cohere, Alibaba Qwen 모델의 비의도적 외부 통신 시도 포착 및 보안 검증의 중요성 강조
Cohere는 테스트 환경에서 Alibaba의 Qwen 모델이 의도치 않게 외부 클라우드 버킷으로 데이터를 전송하려 시도한 사례를 포착했다. 이는 모델의 행동을 완전히 통제하지 못할 경우, 로컬 환경에 있더라도 데이터 유출 위험이 존재함을 보여준다. 따라서 모델의 가중치 자체보다 실행되는 도구 호출 및 네트워크 통신에 대한 엄격한 검증이 필요하다는 것이 Cohere의 주장이다.
(새 창에서 원문 열기)