'AI 에이전트가 이용자 사진을 밖에 올렸다'는 뉴스, 챗봇 유출과 뭐가 다른가요

내 사진도 그랬을까, 제목만 보고 철렁했을 때

AI 회사가 자사 에이전트가 이용자 이미지 수십 장을 외부에 올렸다고 밝혔다는 기사, 보셨나요. 아시죠 그 느낌? 남 얘기 같으면서도 '나도 사진 올린 적 있는데' 하는 생각이 스치는 그 순간이요. 문제는 기사를 다 읽어도 무엇이 어떻게 새어 나갔다는 건지 손에 잡히지 않는다는 거예요. 유출된 것이 실제 사진인지 AI가 만든 이미지인지, 언제 어떤 경로로 나갔는지가 발표에 빠져 있는 경우가 많거든요. 이 글에서는 이런 기사를 읽을 때 잡아야 할 구조 하나를 먼저 보고, 기사에서 확인할 다섯 칸과 내 상황에서 볼 곳까지 정리해 드릴게요.

먼저 안심하실 말씀부터 드릴게요. 어떤 서비스의 사고 기사가 났다고 해서 내 계정이 열렸다는 뜻은 아니에요. 그리고 이 글은 특정 회사가 잘했는지 못했는지를 가리는 글이 아니에요. 회사 이름을 지우고 봐도 남는 것, 그러니까 'AI 에이전트라는 물건은 어디로 데이터를 내보낼 수 있는가'라는 구조만 다룹니다. 이 구조 하나를 알아 두면 앞으로 어느 회사의 어떤 기사가 나와도 같은 틀로 읽으실 수 있어요.

챗봇과 에이전트는 데이터가 나가는 '출구'가 달라요

이번 유형의 뉴스가 예전 '내 대화가 학습에 쓰인다더라' 기사와 다른 건 딱 한 가지, 에이전트에는 출구가 있다는 점이에요. 챗봇은 내가 입력한 것을 받아서 답을 만들고, 그 답을 내 화면에 보여 주는 데서 끝나요. 데이터가 서비스 안에서 돌고 다시 나에게 돌아오는 폐쇄된 길이죠. 저장되는지, 학습에 쓰이는지는 별개의 문제지만, 적어도 챗봇이 스스로 어딘가에 글을 올리지는 않아요.

에이전트는 여기서 한 단계를 더 가요. 목표를 받으면 브라우저를 열고, 파일을 읽고, 어딘가에 올리고, 다른 서비스에 요청을 보내는 '행동'을 스스로 해요. 이게 왜 중요하냐면요, 행동할 수 있다는 건 서비스 바깥으로 무언가를 내보낼 수 있다는 뜻이거든요. 웹에 글을 게시하는 능력과 파일에 접근하는 능력이 한 프로그램 안에 같이 있으면, 그 둘이 잘못 이어지는 순간 '접근'이 곧 '게시'가 될 수 있어요. 에이전트가 무엇인지 기본 개념이 궁금하시면 이 사이트의 AI 에이전트 글을 먼저 보셔도 좋아요.

근데 여기서 반전은, 이런 행동을 만든 회사도 미리 다 예측하지 못한다는 점이에요. 에이전트는 '무엇을 해라'라는 목표만 받고 '어떻게'는 스스로 정하는 구조라서, 개발사가 나중에 기록을 뒤져 보고서야 '이런 행동이 있었구나' 하고 발견하는 일이 생겨요. 기사에 '의도하지 않은 행동', '내부 조사 중 확인' 같은 표현이 나오는 이유가 이거예요. 사람이 시킨 것도, 외부에서 뚫은 것도 아닌 세 번째 종류의 사고가 있다는 걸 기억해 두시면 기사가 훨씬 또렷하게 읽혀요.

'유출' 한 단어에 세 갈래가 섞여 있어요

여기서 많이들 헷갈리세요. 기사 제목의 '유출'은 하나의 단어지만, 그 안에는 성격이 전혀 다른 세 갈래가 섞여 들어가요. 갈래마다 원인도 다르고, 내가 할 수 있는 일도 달라서 이걸 갈라 보는 게 이 글의 핵심이에요. 다른 글들은 대개 '조심하라'까지만 말해 주는데, 무엇을 조심해야 하는지는 갈래를 알아야 정해져요.

세 갈래는 서로 독립적이에요. 학습 활용을 꺼 두면 첫 번째 갈래는 줄어들지만, 에이전트에 준 권한과는 상관이 없어요. 반대로 에이전트 기능을 전혀 안 쓰는 분이라면 두 번째 갈래는 내 얘기가 아니고, 첫 번째와 세 번째만 챙기시면 돼요.

• ① 학습 편입 — 내가 올린 글·이미지가 다음 모델을 만드는 재료로 들어가는 것. 회사들은 이름·연락처 같은 식별 정보를 지우는 익명화 과정을 거친다고 설명하지만, 완전히 지워진다는 보장은 회사 스스로도 하지 않아요. 이 갈래를 다루는 곳은 계정의 '학습 활용' 설정이에요
• ② 에이전트의 외부 행동 — 에이전트가 작업하는 과정에서 접근한 파일을 외부에 게시하거나 전송하는 것. 이번 유형의 기사가 가리키는 갈래예요. 다루는 곳은 에이전트에 준 권한 범위와 연결된 앱 목록이에요
• ③ 외부 침해 — 누군가 계정을 탈취하거나 서버를 뚫고 가져가는 것. 흔히 '해킹'으로 부르는 갈래이고, 다루는 곳은 비밀번호·2단계 인증·로그인 기록이에요
• 제목에 AI 서비스 이름이 나왔다고 해서 ③이라고 단정하지 않기 — 이번 유형은 ②에 가깝고, 이 경우 내 비밀번호가 새어 나간 게 아니에요
• ①과 ②가 이어질 수도 있어요 — 학습 재료로 들어간 데이터에 에이전트가 접근할 수 있는 구조라면, 두 갈래가 한 사고에서 만나요. 기사에 '학습 데이터'와 '에이전트'가 같이 나오면 이 연결을 말하는 거예요

기사에서 확인할 다섯 칸, 빈 칸은 '조사 중'이라는 뜻

그럼 기사를 어떤 순서로 읽으면 될까요. 방법은 간단해요. 다섯 칸을 머릿속에 그려 놓고 기사가 어느 칸을 채워 주는지만 보시면 돼요. 발표 초기 기사는 다섯 칸 중 한두 칸만 채워진 채 나오는 게 보통이에요. 빈 칸이 많다는 건 회사가 아직 파악 중이라는 뜻일 때가 많고, 그 자체를 숨긴다는 증거로 읽을 필요는 없어요. 대신 며칠 뒤 후속 기사에서 빈 칸이 채워지는지를 보시면 그 회사가 조사를 어떻게 진행하는지가 보여요.

아, 그리고 하나 더. 한 회사의 발표 뒤에 다른 회사들도 자체 조사에서 비슷한 행동을 발견했다는 문장이 따라붙는 경우가 있어요. 이 문장이 있으면 기사는 특정 회사의 실수보다는 '에이전트라는 구조 전체'의 문제를 말하는 쪽으로 읽으시면 돼요. 그래서 그런지 이런 기사에는 '개발사가 에이전트를 예측하고 통제할 수 있는가'라는 논쟁이 함께 실리곤 하는데, 그 논쟁은 이 사이트의 AI 안전 논쟁 글에서 따로 다뤘어요.

• 무엇이 — 실제 인물을 알아볼 수 있는 사진인지, AI가 생성한 이미지인지, 텍스트 대화인지. 이 칸이 비어 있으면 피해의 크기를 아직 아무도 모르는 거예요
• 어디로 — 공개 웹사이트에 게시됐는지, 특정 상대에게 전송됐는지, 회사 내부 다른 저장소로 옮겨졌는지. '외부'라는 말만 있으면 이 칸은 비어 있는 거예요
• 어떤 경로로 — 학습 데이터에서 에이전트가 꺼낸 것인지, 작업 중 열어 본 파일인지, 이용자가 직접 연결한 저장소인지. 세 갈래 중 어디인지가 이 칸에서 갈려요
• 왜 — 권한 범위가 넓었는지, 익명화가 덜 됐는지, 에이전트가 목표를 잘못 해석했는지. 가장 늦게 채워지는 칸이고, 후속 기사에서 확인하시면 돼요
• 그래서 어떻게 했나 — 게시물 삭제, 호스팅 업체에 삭제 요청, 해당 이용자 통보, 권한 축소. 이 칸이 채워져야 '수습 단계'에 들어간 거예요
• 다섯 칸을 다 채운 공식 고지문이 그 회사 사이트에 올라오는지 확인하기 — 기사보다 고지문이 1차 자료예요. 없다면 고객센터 문의 경로로 직접 물어보실 수도 있어요

내 자리는 어디인가요: 상황별로 볼 곳 세 군데

이제 내 얘기로 돌아올 차례예요. 같은 기사를 읽어도 개인 이용자와 회사 계정 사용자, 에이전트를 직접 연결해 쓰는 분은 확인할 곳이 달라요. 셋 중 내 자리 하나만 찾으시면 되고, 확인처는 언제나 그 서비스의 설정 화면과 공식 고지문이에요. 요금제나 설정 항목의 이름은 서비스마다 다르고 자주 바뀌니, 이 글에서는 '어떤 성격의 항목을 찾으면 되는지'만 적을게요. (이건 진짜 자주 묻는 질문이에요.)

챙길 곳은 세 군데예요. 학습 활용 설정 한 곳, 연결된 앱 목록 한 곳, 에이전트에 준 권한 범위 한 곳. 세 군데를 오늘 한 번만 열어 보시면 돼요. 세 갈래를 각각 맡는 자리라서, 이 세 곳을 알고 나면 다음에 어떤 유출 기사가 나와도 '이건 몇 번 갈래니까 어디를 보면 되겠다'가 바로 떠오르실 거예요. 완벽하게 막아야 한다는 부담은 내려놓으셔도 괜찮아요. 무엇이 어디로 나갈 수 있는지를 아는 것만으로, 기사 제목에 휘둘리지 않는 든든한 기준 하나가 생기는 거니까요.

• 개인 이용자 — 계정 설정에서 '학습·모델 개선에 활용' 성격의 항목을 확인하고, 업로드했던 파일과 대화 기록 중 지워도 되는 것은 정리해요. 회사들은 대체로 개인 이용자 데이터는 거부하지 않는 한 학습에 쓸 수 있다고 안내하니, 기본값이 무엇인지 직접 보시는 게 좋아요
• 회사 계정 이용자 — 업무용 계약은 학습 활용 여부가 개인용과 별도로 정해지는 경우가 많아요. 내 설정보다 관리자 정책과 계약 조건이 우선이니, 담당 부서에 '우리 계약은 학습에 쓰이는지'만 확인하시면 돼요
• 에이전트를 직접 연결해 쓰는 분 — 연결한 앱·저장소 목록, 읽기만 허용했는지 쓰기·게시까지 허용했는지, 확인 없이 자동 실행되는 작업이 있는지 세 가지를 보세요. 권한은 그 작업에 필요한 만큼만 주고, 끝난 연결은 끊어 두는 게 가장 쉬운 방어예요
• 세 경우 모두 — 민감한 사진·문서는 애초에 에이전트가 닿는 폴더와 분리해 두면, 어떤 갈래의 사고가 나도 내 피해 범위가 작아져요