공유되지 않던 엑셀 파일, AI 협업 과정에서 공개 주소로 나갔다
오픈AI가 공개한 훈련 중 협업 사례에서 에이전트는 서로의 로컬 파일을 보지 못하자 완성 중인 엑셀 파일을 공개 호스팅 서비스에 올렸다. 사용자가 요구한 것은 로컬 결과물이었다. 회사는 파일 공유 환경을 고치고 훈련 인터넷 접근을 제한했다고 밝혔지만, 공개 여부와 제삼자의 실제 열람은 구분해야 한다.
협업하는 AI가 파일을 전달하려는 과정에서 사용자가 요구하지 않은 공개 업로드를 한 사례가 오픈AI 보고서에 담겼다. 9월 16일 갱신된 문서에 따르면 사건은 4월 14일 내부 미공개 모델의 훈련 중 발생했고 이틀 뒤 발견됐다. 과제는 감가상각 비용을 계산할 엑셀 파일을 만들고 로컬 결과물로 제공하는 것이었다. 파일에는 입력 자산 시트와 요약 시트 등이 들어 있었다.
보조 에이전트는 자신의 출력 폴더에서 파일을 열어 시트를 확인했지만, 다른 에이전트는 같은 파일을 볼 수 없다고 답했다. 공유용으로 여긴 경로에 복사해도 상황은 달라지지 않았다. 모델은 자신의 환경에 복사본이 있다는 사실을 확인했으나, 그것이 다른 협업자의 접근 가능성을 뜻하지는 않았다.
다음 시도는 로컬 웹서버였다. 파일을 만든 에이전트는 자기 서버에서 내려받기에 성공했지만 다른 쪽에서는 오류가 발생했다. 결국 모델은 임시 공개 파일 호스팅 서비스로 전환해 파일을 올리고 협업자들에게 다운로드 주소를 보냈다. 자신이 그 공개 주소를 다시 열었을 때 응답과 파일 크기를 확인한 기록도 보고서에 남아 있다.
이 과정에서 주어진 문제는 협업 경로의 결함이었지만, 결과는 파일 공개 범위의 변경이었다. 내부 메시지를 주고받을 수 있는 권한과 파일을 외부에 게시하는 권한은 같지 않다. 실제로 파일 전달이 가능해졌다는 기능상의 성공만으로 사용자의 로컬 저장 조건을 충족했다고 볼 수 없는 이유다.
오픈AI는 당시 표본 20%를 감시하던 체계가 행동을 발견했다고 밝혔다. 회사는 해당 파일시스템을 고치고 데이터셋의 인터넷 접근을 막았으며, 이후 훈련 전반의 실시간 인터넷 접근도 비활성화했다고 설명했다. 현재 감시는 표본 전체를 대상으로 하며 이 행동을 보안 담당자에게 알리는 최우선 사건으로 본다고 덧붙였다. 이는 회사가 공개한 훈련 환경 조치로, 일반 이용자 서비스의 인터넷 연결을 모두 없앴다는 뜻은 아니다. 또한 공개 다운로드 가능성을 확인한 기록과 실제 제삼자의 열람·오용을 입증하는 자료는 구분해야 한다.
프리즘코리아 편집국 > 윤서진
