디스코드 ‘격자형 이미지 Child Safety 오탐 정지’ 보고

🚨 정정합니다

이전 글에서 일부 정상 이미지가 자동 탐지 과정에서 잘못 걸릴 수 있다고 설명한 부분은 맞지만, 해당 조치를 "영구" 정지처럼 표현한 부분은 정확하지 않았습니다.

디스코드 직원으로 알려진 Advaith의 설명에 따르면 이번 사례는 AI 문제가 아니라 문제가 된 해시와의 오탐(탐지 오류)였고, 문제가 된 해시를 덮어쓰기했다고 설명했습니다. 또한 관련 제한은 수동 검토 전까지 적용되는 "임시" 조치입니다.

정정 내용 참고자료

this is misinformation. this has nothing to do with AI...

yes, when we saw this yesterday we found the problematic hash...

업데이트: 26/07/06 04:16 PM

추가 공식 설명

Discord Support 공식 X 계정은 지난 주말 안전 시스템이 잘못 작동해 약 200개 계정이 정지됐고, 2026년 5월부터 지난주까지는 약 8,200개 계정이 같은 버그의 영향을 받았다고 밝혔어요.

설명에 따르면 디스코드의 시스템은 알려진 유해 콘텐츠와의 유사도 매칭으로 이미지를 플래그할 수 있으며, 이런 방식에서는 오탐이 생길 수 있어요. 원래는 Trust & Safety 팀의 검토가 끝날 때까지 업로드만 일시 중지되어야 했지만, 버그로 계정 정지가 발생했고 검토 후에도 자동으로 해제되지 않는 문제가 있었다고 설명했습니다.

따라서 소문으로 퍼진 “격자 이미지를 올리면 '영구' 정지된다”는 표현은 정확하지 않고, 공식 설명 기준으로는 영향을 받은 계정은 현재 모두 복구됐으며 재발 방지를 위한 조치가 진행 중인 상태예요.

공식 설명 참고 자료

This weekend, our safety systems incorrectly triggered and banned...

업데이트: 26/07/07 03:38 PM

📌 핵심 결론

최근 해외 커뮤니티에서 체스판, 워들, 파일 목록처럼 격자나 반복 패턴이 포함된 이미지를 보낸 뒤 계정이 Child Safety 사유로 정지됐다는 보고가 이어졌어요.

처음에는 일부 사용자들이 이를 “AI가 격자 이미지를 CSAM으로 잘못 판단한 것 아니냐”고 추정했지만, Discord 직원으로 알려진 Advaith는 X에서 “AI와 관련된 문제가 아니며, 일부 오탐(탐지 오류)가 있었고 수동 검토 전까지 임시 정지되는 것”이라고 설명했습니다. 이후 문제가 된 해시를 찾아 엎어쓰기했기 때문에 추가로 플래그될 일은 없을 것이라고도 밝혔어요.

💬 빠른 요약

이번 사례는 “격자 이미지 전체가 위험하다”기보다는, 특정 해시가 정상 이미지와 잘못 매칭된 오탐 사례로 보는 편이 더 정확해 보여요.
Advaith의 설명에 따르면 관련 정지는 영구 확정이 아니라, 수동 검토 전까지 임시로 적용되는 조치라고 합니다. 다만 이 설명은 공식 블로그나 지원 문서가 아니라 직원 개인 계정의 공개 답변이므로, 정식 사고 보고서와 같은 수준으로 보기는 어렵습니다.
현재 커뮤니티에서 퍼지는 벽돌벽, 수영장 타일, 스프레드시트, 체스판, 워들 같은 목록은 공식 금지 목록이 아닙니다. 일부 사례가 있었더라도 목록 전체가 검증된 것은 아니에요.

✅ 확인된 사실

디스코드는 CSAM 탐지를 위해 PhotoDNA 같은 해시 기반 탐지와 머신러닝 기반 탐지를 사용한다고 공식적으로 설명하고 있어요. 알려진 CSAM과 일치하는 이미지는 자동으로 감지될 수 있고, 내부 검토 후 실제 위반으로 확인되면 계정 제재로 이어질 수 있습니다.

다만 이번 격자형 이미지 사례에 대해 Advaith는 “AI와 관련 없다”고 선을 그었습니다. 또 문제가 된 것은 일부 오탐이었고, 해당 해시는 덮어쓰기되었다고 설명했어요. 이 내용이 맞다면 이번 사례는 이미지 생성 AI나 머신러닝 분류기가 격자를 잘못 학습한 문제가 아니라, 특정 해시 매칭 과정에서 생긴 오탐 문제에 더 가깝습니다.

Advaith의 X 프로필과 GitHub 프로필에는 디스코드 관련 개발자·소프트웨어 엔지니어로 표시되어 있습니다. 다만 개인 계정 발언인 만큼, 디스코드 공식 공지와는 근거 수준을 구분해서 보는 것이 낫습니다.

🧩 작동 방식과 가능한 배경

해시 기반 탐지는 이미 알려진 불법 이미지와 새로 업로드된 이미지가 일치하거나 유사한지 확인하는 방식이에요. 이 방식은 사람이 모든 이미지를 직접 보기 전에 위험 가능성이 있는 이미지를 빠르게 걸러낼 수 있다는 장점이 있지만, 잘못된 해시나 잘못된 매칭이 발생하면 정상 이미지도 오탐으로 처리될 수 있습니다.

이번 사례도 그런 흐름으로 이해하는 편이 자연스러워요. 즉, “디스코드 AI가 격자 이미지를 위험하다고 학습했다”기보다는, 특정 이미지들이 문제가 된 해시와 잘못 맞물려 감지됐고, 이후 해당 해시를 덮어쓰기했다는 설명입니다.

다만 구체적으로 어떤 이미지가 어떤 해시와 매칭됐는지, 몇 명이 영향을 받았는지, 정지된 계정이 얼마나 빠르게 복구되는지는 공개적으로 확인되지 않았습니다.

⚠️ 주의할 점

이번 일은 완전한 루머로 보기는 어렵지만, 커뮤니티에서 퍼지는 목록 전체가 검증된 것도 아닙니다. 특히 벽돌벽, 수영장 타일, 석쇠, 연어 단면처럼 넓게 확장된 목록은 공식 금지 목록이 아니라 비공식 경고문에 가까워요.

현재 설명대로라면 문제가 된 해시는 이미 덮어쓰기되어 추가 플래그 가능성은 낮아진 것으로 보입니다. 다만 이미 정지된 계정은 자동으로 즉시 복구된다는 뜻이 아니라, 수동 검토가 끝날 때까지 임시 정지 상태일 수 있어요. 따라서 이미 정지된 사용자는 항소 절차를 이용하고, 해당 사안 설명에서는 “AI가 격자 이미지를 CSAM으로 오인했다”는 표현은 정정하는 것이 좋습니다.

정리하면, 이번 사례는 “AI가 격자 이미지를 오인했다”가 아니라 특정 해시 매칭에서 발생한 오탐 문제로 보는 편이 현재 확인된 정보와 더 잘 맞습니다. 추가 플래그 가능성은 낮아진 것으로 보이지만, 공식 사고 보고서가 나온 것은 아니므로 원인과 규모는 아직 제한적으로만 확인된 상태예요.