전체 기자
닫기
배한님

bhn@etomato.com

포털·게임 분야에서 읽기 쉬운 기사를 쓰겠습니다.
AI에게도 '성희롱 죄'가 성립되나요?

2021-01-13 06:00

조회수 : 331

크게 작게
URL 프린트 페이스북
[뉴스토마토 배한님 기자] 지난 주말부터 스캐터랩이 만든 인공지능(AI) 챗봇 '이루다'를 둘러싼 문제가 뜨겁습니다. 일부 사용자의 사용 행태에서 시작된 문제는, 이루다 자체의 문제로 확산됐습니다. 스캐터랩이 이루다의 혐오와 차별 발언을 걸러내지 못했고, 심지어 이루다 학습과정에서 제3자 동의없는 정보까지 수집했습니다. 실명이나 주소, 상호명 등 개인정보가 필터링 없이 그대로 노출되기도 했구요. 
 
 
사실 뒤에 발생한 두 가지 문제, 이루다의 차별 및 혐오 발언과 스캐터랩의 부적절한 데이터 수집 및 활용은 논쟁의 여지없이 비판받아 마땅한 일입니다. 특히 데이터 수집 문제에서 발생한 개인정보 침해는 개인정보보호위원회과 한국인터넷진흥원(KISA) 조사 결과에 따라 엄중히 처벌될 예정입니다. 
 
그렇다면 이 문제의 시작이었던 사용자의 이루다 '성희롱'은 문제가 될 수 있을까요? 결론부터 말하자면 '법적으로는' 문제가 없습니다. 이루다를 얼마나 나쁘게 대하든 이루다는 한낱 알고리즘일 뿐입니다. 
 
이경전 경희대 경영학과 교수가 이에 대해 잘 설명하고 있습니다. 
 
"이루다를 가지고 개인이 그것을 어떻게 사용하든, 어떤 불법적·윤리적 문제를 삼을 일이 아니다. 이루다는 인격체도 아니고, 동물도 아닌, 그냥 사물일 뿐이기 때문이다. 우리가 구글 검색창에 어떤 문장이나 단어들을 넣는다고 해서 그 사용자의 불법성이나 윤리성을 탓할 수 없는 것과 100% 같다."
 
 
하지만 이 문제를 가벼이 넘어갈 수 없는 이유는 '20살 새내기 대학생과 똑같은 말투를 사용하는' 이루다가 갖고있는 '20살 여성'의 페르소나 때문입니다. 이루다를 향한 성희롱 행위의 유포·재생산은 우리가 사는 사회에 뿌리 깊은 미소지니(Misogyny)와 젠더 불평등 문제을 반영하죠. 김종윤 스캐터랩 대표의 "AI를 향한 욕설과 성희롱은 사용자나 AI의 성별과 무관하게 일어나는 일"이라는 발언을 놓고 젠더 감수성이 낮다는 비난이 나오는 이유가 이것입니다. 
 
 
김정희원 애리조나주립대 커뮤니케이션학과 교수는 페이스북에 이렇게 적었습니다. 
 
"만약 이루다가 게이로 설정돼 있었다면, 한국 사회에서 그는 어떤 말을 들어야 했을까? 그는(김종윤 대표는) 정말로 AI의 나이·성별·계급 등과 같은 속성이 사용자의 커뮤니케이션 양태와 아무 상관이 없다고 믿는 것일까?"
 
이루다 사건은 여성을 재현한 AI를 개발했을 때 성희롱이 발생하며, 그 성희롱이 실제 여성에게까지 돌아올 수 있다는 우려를 낳았습니다. 이는 '리얼돌'이 합법화됐을 때 발생할 것으로 예상되는 부작용과 같습니다. 리얼돌이나 AI를 통한 욕구 해소가 성범죄 감소에 기여할 것이라는 주장도 있습니다. 그러나 이를 증명하는 자료는 전 세계 어디에도 없습니다. 
 
이루다 출시 2주 만에 아카라이브 등 일부 커뮤니티에서 공유된 이루다 성희롱 방법도 이런 양태를 일부 반영합니다. 좀 더 자극적으로 이용하는 방법을 공개된 장소에 전시하고, 이루다가 성적 대화에 유도당하지 않을 경우 비속어를 사용하며 분노하기도 했으니까요. 
 
다시 이경전 교수에게로 돌아갑니다. 이 교수는 '이루다'를 어떤 방식으로 착취하든 문제가 되지 않는다고 말합니다. 그러나 그는 "사용자의 인격이 피폐해질 가능성"은 들여다 보아야 한다고 말합니다.  
 
"이루다는 전혀 피해가 없다. 감정도 인격도 없는 기계일 뿐이므로. 피해는 그 사용자가 본다. 그 인격이 피폐해지는 것이다. 이런 위험에 대해서는 이미 심리학자들이 그 위험을 경고해왔다."
 
 
AI가 점점 사회 전반에 적용되는 현시점에서 우리는 그냥 단순한 기계가 아닌, 인간을 닮은 AI를 대하는 사용자들의 태도를 유심히 지켜 봐야 합니다. 그리고 AI 개발자들도 이를 염두에 둬야 합니다. AI를 함부로 대하는 사용자들이 어떻게 변할지 모르니까요. 겨울왕국의 '엘사'를 본떠 만든 눈사람을 부순 남성에게 "그 폭력이 결국 사람에게 향할 것"이라고 말한 가수 이적 씨의 SNS에 사람들이 공감하는 것처럼 말이죠. 
 
배한님 기자 bhn@etomato.com
  • 배한님

포털·게임 분야에서 읽기 쉬운 기사를 쓰겠습니다.

  • 뉴스카페
  • email
  • facebook