-인공지능 기술을 이용해 실제 하지 않은
말이나 행동을 한 것처럼 조작한
이미지나 영상, 바로 딥페이크입니다.
처음에는 유명인들의 인터뷰나 영상 등을
조작하는 재미로 시작이 됐는데요.
하지만 시간이 지나면서 기술이 점점
발달하고 정교해지면서 가짜 뉴스를
양산하거나 허위 정보를 만들어내는 등
범죄에도 악용되고 있습니다.
특히나 최근에는 딥페이크를 이용한 불법
합성물 성범죄가 기승을 부리고 있다는
소식인데요.
더 큰 문제는 청소년들 사이에서 이것이
확산하고 있다는 것입니다.
이 사태를 더 이상 두고 보지 않겠다는
마음으로 부산 교육청이 두 발 벗고
나섰습니다.
하윤수 부산광역시 교육감 모시고 이야기
나눠보도록 하겠습니다.
어서 오십시오.
반갑습니다.
-안녕하세요?
-딥페이크 성범죄 이야기, 좀 무거운
이야기일 수도 있을 것 같은데요.
이야기를 나눠봐야 할 것 같습니다.
일단은 현황부터 알아야 할 것
같아요.
실제 학교에서 발생한 범죄 현황, 어느
정도인가요?
-문제의 심각성은 이와 더불어 우리
학부모님들도 이 문제를 알아야 하겠고
우리 선생님들은 말할 것도 없고 우리
교육 단체들이 다 알아야 합니다.
그래서 이 문제에 대해서 심각성을
깨우치기 위해서 저희는 예견되었던
부분입니다.
그래서 우리 부산광역시 교육청은 지난
6월부터 이 문제에 대한 심각성을 깨닫고
변호사와 일선 경찰관들 또 저와 합쳐서
55명을 구성을 해서 이미 우리 625군데의
학교에 딥페이크 성범죄에 대한
문제점들을 적나라하게 알리고 여기에
대해서 호기심으로 만든다 해도 엄벌에
처한다는 것을 사전에 주지시키는 것도
굉장히 중요하다고 해서 이미 저희는
대응책을 마련해서 준비해 오고
있고요.
또 이와 더불어서 우리 9월 4일은 종합
대책 협의회를 거쳐서 종합 대책도
내놓았습니다.
그러한 의미에서 본다면 우리 학생들의
경우, 부산의 경우에는 중학교의 한
2군데가 지금 이 딥페이크 성범죄가
발생이 되었는데요.
이 문제는 2곳만의 문제가 아니라 앞으로
이런 문제가 발생할 것을 대비해서
호기심으로 일어나는 것이니까 우리는
대응책을 하루빨리 이것을 준비해 가고
있다는 말씀을 드리겠습니다.
-문제는 이제 10대 청소년들이 가해자고
피해자라는 점일 텐데요.
이 연령층이 실제로 10대인 거죠?
-그렇습니다.
-그리고 혹시 교사를 상대로 한 이런
딥페이크 성범죄도 있나요?
-교사를 상대로 해서 일어나는 문제는
지금 일어나고 있는 부분은 지금 저희는
발견을 못 하고 있지만 더 나아가서는
학부모도 대상이 되거든요.
그래서 저희가 이 부분에 대해서 AI와
이를 통해서 일어나는 문제의 심각성을
저희는 방금 말씀대로 우리 부산광역시
교육청은 강력히 지금 추진을 하고
있다는 말씀을 드리겠습니다.
-지난 5월에 첫 사건이 발생했을 때
사건의 심각성을 인지를 했고요.
또 당시에 조사에 착수했습니다.
학생들 사이에서는 정말 딥페이크가
얼마나 퍼져있는지 혹시 알 수
있을까요?
-그래서 지금 저희가 기술이 교육을
앞서가는 것 같다는 걸 지금 말씀을
드리고 싶습니다.
MIT 공대 교수인 맥스 테그마크 교수는
인공지능이 결국 인류와 생명의 미래에서
보면 AI 기술이 발달하면 발달할수록
무서운 도구로 다가올 것이다.
이게 바로 지금 딥페이크 성범죄
아니겠습니까?
이보다도 더 심각할 것이라는 말씀이
되겠고 또한 우리 한국 청소년
연구원에서 보고한 자료에 따르면
35.5%가 AI 교육에 대해서 지금 이렇게
뭘 받지 못했다는 문제가 있기 때문에
AI와 관련된 디지털 윤리교육이라든지
리터러시 교육이 그만큼 못 따라가고
있는 겁니다.
이러한 문제에서 보면 우리
부산광역시교육청은 내년부터 이러한
교육 과정을 창체, 창의적 체험활동 수업
시간에 625개 학교에 촘촘하게 해서 교육
과정에 필수 교육 과정을 넣어서 이렇게
가르칠 것이다.
그렇게 해서 저희는 예방 교육을
철저하게 해야겠다는 인식을 하게
되고요.
학생들의 경우에는 퍼져 있는 부분은
호기심으로 인해서 지금 일어나고 있는
문제가 되겠습니다.
그래서 이 문제도 호기심으로 만든
그것만 해도 이미 기수가 되는 것이고.
이것은 인터넷에 퍼져 나가는 것은
불특정 다수인을 상대로 퍼져 나가기
때문에 이것은 굉장히 무서운, 그야말로
우리가 통속적으로 이야기하자면 인격적
살인 행위에 해당되는 엄청난 범죄
행위죠.
-이런 것들을 학생들이 좀 인식할 수
있도록 여러 가지 교육을 준비하고 계신
것 같습니다.
여기서 딥페이크 영상이 어느 정도인지
시청자 여러분도 함께 보시면 좋을 것
같아서 준비한 영상이 있습니다.
함께 보시고 이야기 나누시죠.
-교육감님 맞죠?
-저도 깜짝 놀란 것이죠, 이게.
-서여고 학생들이 굉장히 처음에
좋아했겠어요, 중간까지.
-정말 와, 하고 난리가 난 거죠.
-정말 그런데 감쪽같네요.
약간 자세히 알고 보면 이게
딥페이크라는 걸 알고 보면 이것이라든지
이런 부분이 살짝은 어색한 게 있지만
그냥 봤을 때는 정말 모르겠다는 생각이
듭니다.
-저부터 감쪽같이 속았습니다.
-그러셨을 것 같아요.
정말 심각한 문제라는 생각이 드는데,
중요한 건 이제 예방 그리고 인식 개선일
것입니다.
처벌은 일이 일어나고 난 다음에 처벌을
강화하는 것이라 그것보다 더 중요하게
생각해야 할 것은 이런 부분일 것
같은데.
교육청에서도 학교 딥페이크 성범죄
근절을 위해서 대책 마련에 나섰습니다.
주요한 내용 설명을 해주실까요?
-그런 딥페이크 성범죄는 이게 모두에
이야기했듯이 그야말로 우리
피해자에게는 그야말로 돌이킬 수 없는
이런 문제가 되겠고.
가해자에게는 유혹과 그리고 호기심으로
만들었던 게 인생을 그야말로 커 나가는
우리 학생에게 굉장히 큰 그야말로
걷잡을 수 없는 고통이 또 따르는 문제가
있습니다.
이렇기 때문에 저희가 부산광역시교육청
산하에 딥페이크 대책반을 만들었습니다.
만들어서 발 빠르게 움직이고 있고요.
또 그리고 5개 지역교육청에 저희는 우리
학부모들 대상으로 또 선생님들 대상으로
연수를 강화하고 있고.
특히 5개 지역에 있는 학부모들은 제가
직접 나서서 특강을 지금 하고 있습니다.
저 역시 625군데의 학교 중에 23군데를
제가 전담을 맡았거든요.
이렇게 다니면서 학부모들도 이렇게
해보니까 학부모님들은 딥페이크
성범죄라는 개념을 모르고 있어요.
그런데 이게 우리 아이가 이렇게 된다면
어떻게 되느냐.
아주 가해자든, 피해자든 심각하다는 걸
깨닫고 있습니다.
그래서 저희가 이 문제에 대해서 TF팀을
구성했다는 점을 말씀드리고 이러한 주요
내용은 학부모까지 저희가 연수를 철저히
시켜 나가고 있다는 말씀을
드리겠습니다.
-딥페이크 성범죄 예방 특결 교육 주관도
운영을 했습니다.
부산 경찰청과 함께 청소년 대응 특별
교육을 실시하셨는데 말씀하셨듯이
교육감님도 이제 직접 강의에 나서셨다고
했잖아요.
-그렇습니다.
-그때 보여드린 영상도 이제 같이
틀어드리고 아이들 함께 볼 수 있게
한다고 하던데 반응이
어떤지 궁금합니다.
-학생들은 제일 처음에 와, 하는
거예요, 그냥 너무 좋아서.
그런데 방금.
-방탄소년단 여기까지.
-두바이 초콜릿까지 준다니까.
그런데 이게 제게 속은 것입니다, 하니까
학생들도 어떻게 이렇게 감쪽같냐.
정말 우리 친구들의 사진에 음란물을
합성만 하면 똑같이 되어 버리는 이런
부분에 대해서 정말 놀랐다.
정말 이게 호기심으로 만들었는데 이게
이렇게 큰 범죄인 줄 몰랐다.
우리 친구들에게도 알려야 하겠다.
정말 이번에 제가 하게 되면서
학생들로 하여금 이게 근절이구나.
이거를 또 예방이구나.
이런 걸 톡톡이 깨달았고요.
그래서 우리 부산시와 경찰청은
그야말로 일원화 체제를 구축해서 지금
우리 부산광역시 교육청은 9일부터
13일까지 예방의 우리 특별 주간을
설정해서 교육을 지금 시키고 있고요.
이렇게 해서 전방위적으로 이거를 대책을
마련해가고 있다는 말씀을 드리겠습니다.
-처벌 규정도 강화됩니다.
이전과 비교해서 얼마나 강화되는지도
좀 궁금하고요.
관련 매뉴얼도 마련을 한 것으로 알고
있는데 딥페이크 범죄가 일단 발생했다
하면 어디에 신고를 하게 되고 이후에
어떤 절차를 거쳐서 어떤 처벌이
이루어지게 되는지 좀 말씀해 주실 수
있을까요?
-그래서 우리가, 저희가 9월 4일에
한국방송통신심의위원회가 있습니다.
서울에서 MOU를 체결했는데 이 MOU를
체결했던 이유 중의 하나가 딥페이크
성범죄로 노출돼 있는 사진들, 영상물을
오롯이 삭제하는 권한은 방심위밖에
없어요.
그래서 저희가 MOU를 긴급히 하게
되었고.
-일종의 디지털 장례사 역할을 하게
되는 거군요.
-하게 되었습니다.
그래서 우리 625군데의 모든 학교의
홈페이지에 배너를 만들어서
긴급 전화를 우리가 117이지 않습니까?
또 우리 방송통신심의위원회는
1377입니다.
-1377.
-이 번호를 바로 이제 전화를 하면
부산 교육청과 연동이 바로 돼 있습니다.
부산 교육청은 적극적으로 24시간 내에
이거를 삭제하도록 이렇게 조치를
이제 했다는 말씀을 드리고 그래서 피해
학생은 심리 치료를 어떻게 할 것인지.
또 가해 학생에 대해서는 엄중 책임을
어떻게 물을 것인지.
학교폭력대책심의위원회가 있습니다.
학폭위가 있는데요.
학폭위가 있는데 이것은 우리 가해
학생은 당장 학폭위 6호 처분 이상을
받게 됩니다.
이거는 당연히 받아야 하고요.
우리 피해자와 가해자는 분리,
즉각 분리 조치를 하고 가해 학생에
대해서는 6호 처분 이상을 이렇게
처분을 하게 될 것이고 이것은
경찰이라든지 검찰에서, 수사 기관에서
즉각적으로 바로 할 것입니다.
-피해자 보호가 중요하다는
생각도 듭니다.
말씀하셨듯이 이제 심리적 치료도
병행하시고 여러 가지 가해자
처벌과 함께 피해자를 보호하기 위한
조치도 함께 이루어질 거라고 말씀을
하셨는데요.
심리적인 치료를 어떻게 하겠다는 계획도
혹시 좀 나와 있는 게 있을까요?
-우리 대책 마련에서 이제 심리 치료가
굉장히 중요합니다, 우리 피해자인
경우에.
이 경우는 끝까지 심리 치료를 해 줄
것이고요.
심리 치료를 해 줌과 동시에 거기에 따른
가해 학생인 경우에는, 가해 학생인
경우에는 심지어 가해 학부모까지 저희는
구상권을 행사하려고 하고 있습니다.
가해 학생은 당장 수사 기관에서 처분이
떨어지게 될 것이고요.
처분 떨어지게 되면 엄중 처벌은 저희는
할 것이고 여기에 따라서 이제
법률적으로 미진한 부분은 저희가 국회에
이런 상정 요청을 할 것입니다.
우리 국회의원들 상대로 해서 요청을
할 것이고 또 그렇게 함으로써 우리
전국 17개 시도 교육감 협의회에
지금 우리 한국방송통신심의위원회의
중요성, 이 부분도 저희가 요청을 해두고
있고요.
또 이와 함께 MOU를 같이 체결해서
우리 부산광역시 교육청만의 문제가
아니라 전국적 우리 학생들
보호를 위해서라도 이거는 다 함께
가야 한다는 점에서 제가 요청을
해 둔 상태입니다.
-좋습니다.
말씀하셨던 부분이 방송통신심의위원회와
업무 협약을 맺어서 이제 공동 대응에
나서는 게 지난 4일에 업무 협약을
체결하신 거죠?
-그렇습니다.
-여러 가지 배너 사용뿐만 아니라
이후에도 공동 대응 마련에 나설
계획이신데요.
앞으로도 또 꼼꼼한 대책 마련
부탁드리겠습니다.
-그렇게 하겠습니다.
-전국 교육청과의 공동 대응에 대해서도
잠시 말씀을 해 주셨는데요.
구체적으로 좀 논의되고 있는 것을
자세하게 말씀해 주셔도
좋을 것 같습니다.
-지금 우리 부산광역시 교육청에서
마련한 종합 대책.
이 부분은 굉장히 교육부에서도
굉장히 지금 중요하다고 해서
교육부에 저희가 보고를 한 사안입니다.
이러한 부분들에서 교육부가
조금 더 보완 조치를 해서 아마 17개
시도교육청 협의회 때 이번에 26일에
대구에서 열리게 되는데 대구교육청
관내에서 열리게 되는데 이때 이제
아마 이게 대책이 수립되어서
발표가 되리라고 봅니다.
그런 의미에서 우리가
부산광역시 교육청은 발 빠르게
지난 4일에 MOU 체결했고 5일에
우리가 종합 대책을 마련했기 때문에
굉장히 발 빠르게 움직이고 있고
우리 625군데의 학교에 우리 사후
대책보다도 더 중요한 거는 예방이라고
저는 생각하거든요.
그런 의미에서 지금 현재
우리 경찰 그다음에 경찰관, 변호사,
저와 함께 55명이 부산 전체 625군데
학교에서 지금 강의를 하고 있습니다.
예방 교육을 하고 있는데 절반가량을
했습니다.
딱 50% 정도 했는데 올 연말까지는
저희가 발 빠르게 하면 다 끝낼 것이고
학부모 교육까지 마무리 단계 가면
저희가 그거는 보다 더 예방적
효과가 있지 않겠나 하는 생각을 합니다.
-이런 딥페이크 성범죄를 포함해서
학교 내에서 발생하고 있는 여러 갈등,
사건 등을 해결하기 위해서 부산교육청은
교육 공동체 회복 토론회를 열고
있습니다.
지난 4월부터 주제별 토론을 여신 것으로
알고 있는데 어떤 의견들이 오갔는지
일단 궁금하고요.
또 기억에 남는 의견이 혹시
있으셨는지도 궁금합니다.
-1995년 5월 31일 5.31 교육 계획이라고
하는데 이때 이제 교육 계획이 학생과
학부모에게 모든 권한과 주장, 요구권이
주어졌고 선생님들은 교사가
보조참가자적 역할에서 책무성과
의무성밖에 이렇게 규정을
두지 않았습니다.
이게 결국은 이십 한 7, 8년 동안
이렇게 갈등의 여지가 없었던 게
지난해 서이초 사건을 통해서
폭발하게 되었는데요.
그런 의미에서 이제 더 이상
방치할 수 없다.
교육의 3주체가 서로 파탄되어서
될 일이 아니다.
서로 머리를 맞대고 그야말로
우리 공동체 복원을 다시 하자,
회복을 하자, 머리를 맞대고 하자,
토론을 하자고 했던 게
지난 4월부터 해서 장장 6개월 동안
지금 진행을 하고 있습니다.
11차례의 토론회를 통해서 해보니까
학생들의 입장은 굉장히 학생들은
좀 순수하고 학부모들도
나의 아이만의 소중함보다도
결국 다른 아이도 소중하다는 것도
깨닫고 있고 선생님은 뭐 우리 당연히
우리 선생님의 본질적 가치를
가지고 있는데 서로 소통이
너무 부족했다라는 것을
느끼게 되었습니다.
그런 의미에서 공동 회복을 하기 위한
대토론회는 매우 시의적절했다고
생각하고 올 연말까지 계속 이어져서
마무리 단계에 가게 될 것입니다.
-그야말로 서로의 진심을 느낄 수 있는
소통의 시간이었던 것 같은데요.
-그렇습니다.
-그렇다면 말씀드렸듯이
어떤 의견들이 좀 기억에 남으시는지도.
-그렇습니다.
-부탁을 드려도 될까요?
-학생들의 경우에 우리 스스로
휴대전화를 수업 시간에
만지작거리지 말자.
또.
-스스로가.
-우리 수업 시간에 좀 잡담을 하지 말자.
떠들지 말자.
다른 아이들에게 수업에
방해되지 않느냐.
또 특히 중고등학생 몇몇 학생의
경우에는 좀 자지 말자, 잠자지 말자.
이거는 우리가 지켜야 할,
우리가 지켜야 할 예의고
우리가 대할 도리다.
또 학부모님들은 지금 나의 자식만
소중한 줄 알았는데 남의 자식도
함께 가야 하겠다라는 인식에서
드러나는 것들.
이런 부분들은 굉장히 제게 인식이
깊었고요.
또 선생님들도 이렇게 되면 우리 정말
이제 다시 가자.
정말 우리 선생님들도 이게 교권이 다른
게 교권이 아니라 잠자지 않고 떠들지
않고 학부모님들이 우리의 학생들에게
격려해 주고 하는 그 자체가 교권이다.
우리가, 선생님이 뭘 바라겠느냐.
수업을 할 수 있는 교육 환경, 여건,
이런 게 개선이 되는 게 이것이
교권이다.
그런 의미에서 매우 인상 깊었습니다.
-얘기를 들어보니까 요즘 아이들은
굉장히 개인주의적일 거라는 생각이 있고
또 공동체 이런 부분에는 관심이 없을 것
같다고 생각했는데 그것도 제 오만,
제 편견이었네요, 어떤 면에서는.
-그렇습니다.
-이런 소통의 시간들이 좀 많이
이루어지면 좋겠다는 생각도 같이
들고요.
이번 달 말에 동아토론회도 준비가 돼
있습니다.
여기서 나온 의견들이 이제 실제 교육
정책으로 이어지는 것이 중요하잖아요.
어떻게 활용이 될지도 궁금합니다.
-그래서 저희가 여러 한 차례 우리
원도심과 서부 상권, 동부 상권 또
학부모
또 학생 우리 선생님들 또 교직 단체
모든 우리 학운이, 학부모회 모두가 이
구성을 다 해서 지금 심층적으로 무려
11차례 토론을 가졌습니다.
거기에 나온 집적된 힘은 굉장한
저는 힘이라고 보고요.
이 교육 공동체 이게 복원이 될 수 있는
요체들은 다 만들어졌다고 보는
것입니다.
마지막 최종적으로 오는 9월 27일
종합 대토론회가 마무리를 짓게 되면
거기에 나온 것들을 전부 학생은 학생,
학부모는 학부모, 우리 선생님은 선생님
또 우리 교육청과 관계 직원들은 어떻게
하고 이러한 관계들의 교육적, 환경적
요소까지 다 고려해서 나왔던 것을 전부
종합을 해서 오는 11월에 우리
부산광역시의회에 우리가
부산광역시교육청 소환 하에 교육 공동체
복원과 함께 우리가 서로 이것만은
지켜가자는 이런 약속을 하는 조례를
제정을 하게 될 것입니다.
이렇게 조례를 재정을 하게 되면 내년
1월 상반기 안에 마무리를 짓고 이걸
다시 우리가 규칙을 만들어서 우리
다닐 학교의 교칙으로 해서
내년 3월부터는 좀 더 우리가 서로
신의를 가지고 서로 약속을 지키고
서로를 이해하고 서로를 화해하고
타협하고 서로 용서하고 협력하는 이런
그야말로 교육 공동체가 복원이 되지
않겠나 하는 차원입니다.
-감사합니다.
오늘 자리하셔서 딥페이크 성범죄뿐만
아니라 교육 공동체 회복에 대해서도
이야기를 나눠 봤는데요.
단순히 공부를 잘하고 시험을 잘 치고
높은 성적을 받게 하는 것이 교육의
목적이 아니지 않습니까?
옳고 그름을 판단해서 부끄러운 행동을
하지 않고 또 남에게 피해 주지 않으면서
또 더불어 함께 살아가는 방법을 깨닫게
하는 것.
그것을 가르치는 것이 또 교육의
역할이지 않을까라는 생각이 들었는데요.
교육감님의 역할이 크실 것 같습니다.
-감사합니다.
-마지막으로 우리 교육 구성원들께 어떤
당부의 말씀하시겠습니까?
-존경하는 우리 부산 시민 여러분,
그리고 또한 우리 교육 가족 여러분,
우리 교육은 백년지대계라고
했습니다.
우리 교육은 우리 교육 가족만이 함께
공유해서 되는 문제가 아니라 우리 부산
시민 모두가 함께 뜻을 모아주어야
실천은 이루어진다고 봅니다.
그런 의미에서 우리 교육 가족 여러분과
우리 부산 시민 여러분께서 지금 이제
우리 부산광역시교육청이 지금 아침
체인지 운동은 전국적으로 이미 전파가
되었고 늘봄학교도 우리가 완전히 이제
안착을 시켰고 늘봄 전용 학교마저
우리가 만든 이런 사안입니다.
이 모두는 한결같이 우리 교육
가족들과 우리 부산 시민들의 협조가
없었으면 저는 이루어지지 않았다고
봅니다.
그런 의미에서 우리 부산 시민들과 부산
교육 가족 여러분께서 깊은
관심을 가지고 좀
더 잘한 부분은 격려해 주시고
좀 더 미진한 부분은 또 질책을 아끼지
말아서 함께 손을 맞잡고 갈 수 있도록
방금 우리 교육 공동체 복원을 하듯이
함께 손을 맞잡고 갈 수 있도록 많은
조언과 지혜를 모아주십사 하는 부탁
말씀을 올리겠습니다.
-부산의 아이는 부산교육청이
책임지겠다.
그야말로 온 마을이 나서서 아이들을
키워내는 부산교육공동체 모습 기대해
보겠습니다.
많은 역할 또 부탁드리겠습니다.
함께해 주셔서 고맙습니다.
-감사합니다.
-파워토크는 다음 이 시간
인사드리겠습니다.
즐거운 명절 연휴 보내시기 바랍니다.