AI·보안 · 2026. 11. 13. · 4분
Fireworks AI가 뚫리자 Notion AI 대화까지 나왔다
'데이터를 보관하지 않는다'고 계약한 추론 업체에 데이터가 남아 있었습니다. Notion 워크스페이스 1% 미만의 AI 대화 기록이 노출됐습니다.
Notion은 11월 12일, 전체 워크스페이스의 1% 미만에서 Notion AI 대화 기록이 노출됐다고 밝혔습니다. 뚫린 곳은 Notion이 아니었습니다. Notion이 쓰던 오픈소스 모델 추론 플랫폼 Fireworks AI였고, Fireworks는 Notion에 "데이터를 보관하지 않는다(zero data retention)"고 계약으로 약속한 상태였습니다.
10월 6일부터
Fireworks가 처음 이상을 발견한 건 10월 6일입니다. 내부 자격 증명이 무단으로 쓰였고, 일부 고객 계정의 평가 작업 환경 변수(API 키 등)에 접근이 있었습니다. 10월 910일에 직원·사용자 API 키를 교체하고 첫 공지를 냈습니다. 10월 2324일에는 Fireworks의 연구 개발 서버를 호스팅하던 외부 클라우드 업체가 침해됐고, 그 길로 개발 서버에서 무단 작업이 실행됐습니다.
Notion은 11월 3~4일 Fireworks와의 연결을 끊고 그곳에 있던 자사 데이터를 지웠습니다. Fireworks는 11월 8일 최종 피해 데이터를 확정하고 9일 공지를 갱신했습니다. 피해 범위는 계정·청구 정보(주소, 결제 내역, 잔액 등)로 넓어졌고, 일부 계정은 비밀값, 데이터셋, 학습 중인 모델 가중치 일부까지 영향을 받았습니다. 카드 번호는 저장하지 않아 피해가 없다고 했습니다.
Fireworks는 이번 공격을 훔친 AI 사용권을 불법 중계 서비스에 되파는 LLMjacking 조직과 연결 짓고 있고, 조사는 팔로알토 네트웍스의 Unit 42가 돕고 있습니다. Fireworks 혼자 겪은 일도 아닙니다. 클라우드 보안 회사 Wiz는 10월 한 달 동안 Fireworks를 포함해 AI 개발 플랫폼 최소 9곳이 침해를 공지했다며 "Black October"라고 불렀습니다. 상당수가 원인으로 자격 증명 탈취를 꼽았습니다.
남아 있으면 안 됐던 데이터
Notion 쪽에서 새어 나간 것은 'Insights' 기능에 쓰인 AI 대화 기록입니다. 대부분은 누구 것인지 알 수 없는 형태였고, 다른 기능은 영향이 없었다고 합니다. 문제는 그 데이터가 거기 있었다는 사실 자체입니다. Notion이 조사해 보니 보관하지 않기로 한 Fireworks가, Notion이 쓰던 엔드포인트에 데이터를 남겨 두고 있었습니다.
Notion은 9일 피해 고객에게 연락했고, Fireworks로 보내던 데이터를 모두 끊고 Insights 기능을 껐습니다. 11~12일에는 대화 속에 노출된 API 키를 폐기하고, 다른 회사 키는 발급처에 알렸습니다. 고객에게는 "노출된 것으로 간주하고, Notion AI에 붙여 넣은 자격 증명은 바꾸라"고 안내했습니다.
퓨처비전도 개발에 AI 에이전트를 매일 쓰고, 그만큼 로그나 설정 파일을 AI에 붙여 넣을 일이 많습니다. 노출된 Notion 대화에 사용자가 붙여 넣은 API 키가 있었다는 대목이 남의 일 같지 않은 이유입니다. 계약서의 "보관하지 않는다"도 실제 설정과 다를 수 있다는 게 드러났으니, 약속만 믿고 있을 수는 없습니다. 우리가 지키려는 것은 이 정도입니다.
- AI 공급업체에 보내기 전에 개인정보와 비밀값을 덜어 내고, AI 대화에는 키를 붙여 넣지 않는다.
- 어떤 업체에 무엇을 보내는지 목록을 두고, 업체마다 API 키를 따로 쓴다. 하나가 뚫리면 그것만 바꾸면 된다.
- 오래 사는 키 대신 짧게 쓰고 버리는 토큰을, 사람 계정에는 2단계 인증을 쓴다.
출처
퓨처비전과 함께 만들고 싶은 것이 있다면