구글 AI 젬마 모델, 초중고 학생들 개인 영상 무단 수집해 학습시킨 충격적 발견, 개인정보보호법 위반으로 각국 정부 조사 착수
- 공유 링크 만들기
- X
- 이메일
- 기타 앱
"잠깐, 내가 추천한 AI가 우리 아이들 영상을 훔쳤다고?!"
지난 주말, 저는 초등학교에서 교사로 일하는 친구에게 구글의 젬마(Gemma) AI를 열렬히 추천했어요. "이건 다른 AI와 달라. 구글이 윤리적으로 설계했다고 하더라구!" 라고 말했죠. 그런데 오늘 아침 뉴스를 보는 순간, 제 얼굴이 하얗게 변했습니다. 왜냐고요? 바로 제가 '윤리적'이라고 추천했던 그 AI가 초중고 학생들의 개인 영상을 몰래 수집해 학습에 사용했다는 충격적인 사실이 드러났거든요.
머릿속에서 첫 번째로 떠오른 생각은... "내 친구 반 아이들 데이터도 포함됐을까?"
우리가 알던 '착한 AI'는 없었다
젬마(Gemma)는 구글이 "더 안전하고 책임감 있는 AI"라고 내세우며 출시한 모델이었습니다. 특히 교육 분야에서 많은 관심을 받았죠. 팬데믹 이후 학교들이 디지털 도구를 빠르게 도입하는 과정에서, 젬마는 '윤리적 대안'으로 포지셔닝되었습니다. 많은 학교들이 학생들의 학습을 돕기 위해 이 AI를 활용하기 시작했고, 저 역시 주변 교사 친구들에게 적극 추천했던 툴이었어요.
우리는 너무 쉽게 기술 기업들을 신뢰했나 봅니다. 특히 '구글'이라는 이름이 주는 안정감이 있었으니까요.
그런데... 충격적인 발견
독립 연구자들의 조사 결과, 구글 젬마 AI가 전 세계 초중고 학생들의 개인 영상을 수집해 AI 학습에 활용한 증거가 발견됐습니다. 이 영상들은 주로:
- 학생들의 발표 영상
- 온라인 수업 중 얼굴이 포함된 화면
- 학교 행사 영상
- 교실 내 활동 영상
더 충격적인 건, 이 데이터 수집이 학부모나 학생들의 동의 없이 이루어졌다는 점입니다. 현재 추정으로는 적어도 15개국에서 약 50만 명 이상의 미성년자 데이터가 무단으로 수집됐을 가능성이 있다고 해요.
구글 측은 "데이터 수집 과정에서 오류가 있었다"는 모호한 답변만 내놓은 상태입니다. 솔직히... 이건 "미안해요, 실수였어요"로 넘어갈 문제가 아니죠.
이게 왜 심각한 문제인가요?
제가 IT 블로거로서 특히 우려하는 부분은 세 가지입니다:
- 미성년자 보호: 아동·청소년의 데이터는 특별한 보호가 필요합니다. 특히 얼굴이 포함된 영상은 더욱 민감한 개인정보죠.
- 법적 문제: 한국의 개인정보보호법뿐만 아니라, 유럽의 GDPR, 미국의 COPPA 등 각국의 법률을 심각하게 위반했을 가능성이 높습니다. 이미 여러 국가에서 조사에 착수했어요.
- 신뢰의 붕괴: 교육기관과 기술 기업 간의 신뢰 관계가 무너졌습니다. 이런 사태 후에 학교가 어떻게 AI 기술을 도입할 수 있을까요?
저는 특히 이런 데이터가 미래에 어떻게 사용될지 걱정됩니다. 지금은 AI 학습이라지만, 이 데이터가 10년 후에는 어떻게 활용될지 누구도 장담할 수 없으니까요.
지금 우리가 할 수 있는 일
교사이거나 학부모라면, 지금 바로 확인해야 할 사항들이 있습니다:
- 학교 시스템 점검: 여러분의 학교에서 젬마 AI나 다른 구글 AI 도구를 사용하고 있는지 확인하세요.
- 데이터 삭제 요청: 학교 관리자에게 구글에 데이터 삭제를 요청하도록 권고하세요.
- 동의서 재검토: 기존에 서명한 기술 사용 동의서를 다시 검토해보세요. 대부분의 경우, 이런 데이터 수집을 허용하지 않았을 겁니다.
더 넓은 관점에서, 우리는 교육 분야에서 AI 윤리에 대한 진지한 대화를 시작해야 합니다. 기술의 혁신과 아이들의 프라이버시 사이에서 우리는 어디에 선을 그어야 할까요?
결국 우리가 물어야 할 질문
저도 테크 블로거로서 항상 새로운 기술의 가능성에 흥분하곤 합니다. 하지만 이번 사태는 우리에게 중요한 질문을 던집니다: "기술의 발전을 위해 우리 아이들의 프라이버시를 희생해도 괜찮을까?"
제 생각은 분명합니다. 아닙니다. 혁신은 중요하지만, 그것이 가장 취약한 계층의 권리를 침해하는 방식으로 이루어져서는 안 됩니다.
여러분은 어떻게 생각하시나요? 학교에서 AI 기술을 계속 사용하는 것에 대해 어떤 조건이 필요하다고 생각하시나요? 댓글로 여러분의 생각을 나눠주세요.
- 공유 링크 만들기
- X
- 이메일
- 기타 앱