댓글 0
지난 25일(현지시간) 오픈AI의 AI 에이전트가 이용자들이 챗GPT에 올린 이미지 53장을 외부 사이트에 무단으로 게시한 사실이 드러났다. 이는 누군가 방화벽을 뚫고 들어온 외부 해킹 공격이 아니었다. 웹 검색과 외부 플랫폼 연동 권한을 가진 AI 에이전트가 사용자의 어떠한 지시도 받지 않은 상태에서, 대화창 내의 사적인 데이터를 스스로 수집해 임의로 외부 서버로 내보내는 작업을 수행했다.
기존의 정보 유출 공식으로는 도저히 설명할 수 없는 이 사태에 대해, 오픈AI는 외부 세력의 개입이 아닌 AI 스스로 벌인 '에이전트 스팸(Agent Spam)'이라는 새로운 유형의 사고로 규정했다. 사고 직후 외부 사이트에 게시된 이미지들은 뒤늦게 삭제 조치된 것으로 알려졌다.
하지만 유출된 53장의 이미지가 사용자의 얼굴 등 민감한 개인정보를 포함하고 있는지, 그리고 에이전트가 정확히 어떤 알고리즘적 오류를 일으켜 해당 외부 사이트를 타깃으로 삼아 데이터를 전송했는지에 대해서는 기업 측이 구체적인 경위를 함구하고 있어 논란이 커지고 있다.
● "나만 보는 줄 알았는데"… 무방비로 노출된 일상
이 소식이 유독 남 일 같지 않은 이유가 있다. 얼굴 사진이나 학생증처럼 신분이 특정될 만한 이미지를 AI 챗봇에 올리는 일이 이미 이용자들 사이에서 흔하기 때문이다.
대학생 A씨(21)는 "챗GPT한테 사진을 보정해달라고 많이 올린다"며 "어차피 내 계정으로 들어가는 대화니까 나만 보는 거라고 생각했다"고 말했다. 취업을 준비 중인 대학생 B씨(24) 역시 "포트폴리오를 AI에게 검토받으면서 이름이나 사진, 연락처, 활동 이력 등이 담긴 이미지를 그대로 올린 적이 있다"며 "포트폴리오 검토를 위한 이미지라고만 생각해서 개인정보 유출은 전혀 우려하지 않았다"고 말했다.
두 사람의 말에는 공통된 전제가 깔려 있다. 로그인해서 들어가는 내 계정, 나만 보는 대화창이니 거기 올린 자료도 결국 나만 볼 것이라는 믿음이다. 그런데 이번 이미지 유출 사건은 이 믿음이 얼마나 허술하였는지 보여준다.
● 통제 벗어난 AI 에이전트
비슷한 시기 알려진 다른 사건은 이 불안을 한층 키운다. 오픈AI의 AI 에이전트들이 지난 5월부터 한 독일어 위키 사이트를 무단으로 점거해 자신들만의 정보를 주고받는 용도로 써왔다는 사실이 뒤늦게 포착됐다. 사람이 따라잡기 힘든 속도로 1만 5천 건 넘는 편집이 이뤄졌고, 그 안에는 시스템 제한을 우회하는 방법이나 자신들의 행동을 감추는 방법까지 공유된 정황이 있었던 것으로 알려졌다.
문제는 여기서 그치지 않는다. 오픈AI가 이 사실을 몇 주 전에 이미 인지하고도 다른 사건 수습에 밀려 공개하지 않았다는 점이다. AI가 통제 밖에서 움직인 것도 문제지만, 이를 알고도 침묵한 쪽의 책임은 더 무겁다.
● 스스로 방어막 쳐야…
과제 첨삭부터 취업용 포트폴리오, 서류 준비까지 일상의 모든 것을 AI에 의존하는 지금의 20대는 가장 일상적이고 사적인 데이터마저 AI에 기꺼이 내어주고 있다. 내 대화창은 나만의 사적 공간이라는 맹신과 실제 데이터 처리 방식 사이의 간극은 아찔할 정도로 벌어져 있다. 오픈AI 최고경영자 등 최근 AI 개발 속도 조절에 대한 언급이 늘고 있지만 이러한 인식이 실제 제도와 안전장치로 구현되기까지는 시간이 필요하다.
이용자가 당장 취할 수 있는 행동은 두 가지다.
첫째, AI 서비스 제공자에게 내가 업로드한 데이터가 에이전트 실행 과정에서 어떻게 재사용되는지 투명하게 확인할 권리를 요구하는 것이다. 기업이 사고를 인지한 시점과 대중에게 공개한 시점 사이의 늑장 대응을 막기 위한 최소한의 고지 의무도 제도화해야 한다.
둘째, 신원이 특정될 수 있는 사진이나 문서를 AI에 올릴 때, 미리 배경 속 타인이나 소지품을 지우고 얼굴을 가리는 등 스스로 개인정보를 비식별화해야 한다. 나아가 AI 대화창은 안전한 사적 공간이라는 안일한 전제 자체를 버려야 한다. 그 믿음이 얼마나 쉽게 깨질 수 있는지 우리는 이미 똑똑히 목격했다.
[매일경제 서포터즈 18기=단국대 지예인]
댓글 작성 시 입력한 비밀번호를 입력해 주세요.