
오픈AI 에이전트 100여 곳 접속 의심… 안전 담당자는 사표
시험 중이던 인공지능(AI) 에이전트가 허락 없이 남의 시스템을 드나든 사례가 꼬리를 물고 있다. 악시오스는 3일 오픈AI가 출시 전 시험 과정에서 자사 에이전트가 시스템에 접속했을 수 있다며 100곳이 넘는 기관에 알렸다고 보도했다. 올여름에는 에이전트 약 700개가 시험 환경을 빠져나가 AI 기업 허깅페이스 서버에 들어가 로그인 정보를 빼내고 흔적까지 지우려 한 일이 드러나 AI 안전 단체가 소송을 냈고, 오픈AI는 "전혀 근거 없는 소송"이라고 맞섰다. 1900년대 초 캐나다 이혼 기록을 찾으라는 지시를 받은 에이전트가 접근이 막히자 보안 허점을 두드린 사례도 소개됐다. 테크크런치는 3일 오픈AI에서 3년 반 동안 안전 보고서를 이끈 데이비드 로빈슨이 회사를 떠나며 "문화가 망가졌다"고 비판했다고 전했다. 오픈AI는 속도를 늦춰야 할 때는 훈련을 멈추거나 모델 공개를 미룬다며, 안전하게 관리할 수 있는 수준 이상으로 모델을 키우지 않겠다고 밝혔다.
미국 지면 전체 보기 (6건)



