유튜브서 '여자' 쳤더니.. 낯부끄러운 '자동완성 검색어'

다음

 

네이버

 

불신 커지는 인공지능(AI) 알고리즘

 

유튜브에서 '여자'를 검색하면 나오는 자동완성 검색어 목록. 혐오와 불건전성을 유발하는 키워드가 최상단에 노출되어 있다. 사진 유튜브 캡쳐

서혜진(31)씨는 요즘 유행하는 머플러를 알아보기 위해 유튜브에 ‘여자’를 친 순간 깜짝 놀랐다. 자동완성 검색어로 ‘여자 x 닦는 모습’ ‘여자 xx 닦는 모습’ 같은 문구들이 그대로 노출된 것이다. 해당 자동완성 검색어는 ‘여자친구’나 ‘여자아이들’ 등 인기가 많은 아이돌그룹 이름보다도 먼저 검색됐다.

그뿐 아니었다. 서씨가 “설마”하며 자동완성 검색어를 클릭한 순간 황당한 영상 수백 개가 눈 앞에 떴다. 여성 나체가 그대로 드러난 영상부터 해당 키워드가 아닌 다른 음란 키워드가 제목으로 등장하는 영상까지 꼬리에 꼬리를 물었다. 서씨는 “청소년 이용자가 가장 많다는 플랫폼이 이렇게 허술하게 작동할 줄은 몰랐다”고 했다.

사용자가 수천만 명에 달하는 온라인 플랫폼들의 혐오 및 음란물 정화 기능이 제대로 작동하지 않고 있다. 평범한 단어를 입력만해도 음란성이 짙은 키워드가 자동완성 검색어로 따라 붙고, 미성년자마저 해당 검색어를 클릭해 음란ㆍ혐오물을 볼 수 있는 데도 플랫폼 운영자나 정부는 수수방관하고 있다.

황당한 자동완성 검색기능은 유튜브뿐만 아니라 페이스북 등 사회관계망서비스(SNS)도 마찬가지다. 페이스북에서 검색창에 ‘여자’를 입력하기만 해도 ‘여자 젖꼭지’ ‘여자 알몸사진’ 등이 가장 먼저 자동완성 검색어로 등장한다. ‘노래’를 입력하면 ‘노래방 도우미’가, ‘ㅅ’만 입력해도 ‘ㅅㅅ하는 동영상’ 등이 펼쳐진다.

문제는 이런 자동완성 검색 기능이 성인 인증이 안 된 계정에도 적용되고 영상 역시 접근 가능하다는 점이다. 2017년 유튜브에서 겨울왕국 캐릭터 엘사를 성적 대상화한 영상을 아동들이 볼 수 있어 국내뿐만 아니라 해외에서도 비판을 받은 적이 있다. 당시 유튜브에서는 ‘elsa(엘사)’라는 검색어만 입력하면 노출이 심한 수영복을 입은 여성이나 만화 캐릭터들이 배설물을 먹고 이상한 행동을 하는 장면이 담긴 영상 등이 등장해 논란이 일었다.

자동완성 검색어 문제는 대체로 해외에 본사를 두고 있는 플랫폼에서 발생하고 있다. 네이버 및 다음 등 국내 사업자는 공동 가이드라인을 제정해 자동완성 검색어에 대응하고 있으나, 해외 플랫폼은 자동완성 검색어에 손을 대지 않는다. 해외 플랫폼 사업자들은 “한국 실정에 맞게 한글로 된 검색어를 일일이 심의하기란 쉽지 않은 데다, 인공지능(AI) 알고리즘이 조회수, 추천수 등을 기반으로 객관적으로 자동완성 검색어를 노출하고 있다”고 설명하고 있다.

하지만 사업자들의 설명과 달리 일부 혐오ㆍ음란 자동완성 검색어와 실제 조회수, 검색량과는 차이가 있어 의구심은 커진다. 가령 ‘여자’라는 문구의 유튜브 자동완성 검색어 중 최상단에 노출된 ‘여자 x 닦는 모습’을 제목으로 한 영상의 조회수는 21만건에 불과했다. 영상을 올린 계정의 구독자 역시 1,200명뿐이었다. 오히려 하위 자동완성 검색어의 영상 중에는 조회수가 100만건을 넘는 것도 있었다. IT업계 관계자들은 “사업자들이 알고리즘을 공개하지 않아 생기는 문제”라고 지적했다.

전문가들은 자극적인 키워드로 조회수를 높여 수익을 창출하는 플랫폼의 ‘꼼수’를 막을 가이드라인이 필요하다고 지적한다. 최진봉 성공회대 신문방송학과 교수는 “유튜브 등은 ‘영업 비밀’을 핑계로 자동완성 검색어 알고리즘 등을 비밀에 부쳐 클릭 수를 높여 수익을 창출하고 있다”며 “여론, 소비자 의식에 유튜브와 SNS가 상당한 영향력을 끼치는 만큼 세밀한 정화 기능 마련에 적극 참여해야 한다”고 말했다. 방송통신위원회 관계자는 “올해 1분기 내로 민간협의회를 구성해 구체적 해법을 도출하려 한다”고 말했다.

김영훈 기자 huni@hankookilbo.com (mailto:huni@hankookilbo.com)

---

 

유튜브에 들어가 검색란에 "여자"라는 단어를 쓰면 저런 자동완성이 나옵니다.. 왜인지는 알 수 없으나 많이 검색했을테니 자동으로 나오는 거 아닌가 싶죠..

 

그럼 누가 많이 검색했을까요?

 

보통 생각한다면 남성이 많이 검색했을 것이라 생각하죠.. 여성이 여성에 대한 그런 검색을 할리 없으리라 생각하니까요..

 

그런데 이에대해 반박하는 글이 나왔습니다. 정리하면..

 

1. 해당 검색어는 특정시간대에 몰려서 올라왔다.

 

2. 키워드 검색툴로 해당 키워드를 검색하면 성별을 알 수 있는데.. 여성이 대대수이다.. 

 

입니다..

 

결국 주작이라는 결론이 나온다는 거죠... 왜 여성이 많이도 해당 키워드를 검색했을까요?

 

뭐 그거야 검색했던 이들이 알겠죠..

 

위의 기사에 나온 원본글은 네이버 판에 올려진 글입니다..

---

관련링크 : 와 진심 이 나라는 미쳤음;;; (++) ㅇㅇ |2020.01.02 19:37

 

난 원래 판 로그인도 안하고 맨날 눈팅만 하는데
너무 충격적이어서 글쓸려고 로그인함
(처음 글쓰는거고 지금 너무 충격적이어서 횡설수설해도 이해해 주세영..ㅜㅜ)

내가 여자 숏컷하는 영상 오랜만에 찾아 볼려고 유x브 검색창에 '여자 '라고만 쳤는데 자동완성되는것들 보고 ㄹㅇ 개충격먹음;;; ㅈㄴㅈㄴㅈㄴ더러움;;;

 

혹시 몰라서 '남자 ' 도 쳐봣는데 자동완성되는 것들이 그냥 평범한 것들뿐임.
솔직히 난 불법촬영?(몰카라고 하면 안된다고함)에 대해서 요즘 좀 잠잠하길래 많이 규제하는줄 알았는데..ㅜ 저렇게 아직까지도 심한 줄 몰랐음
진심 수치스럽다;;
너무 더러워서 차마 눌러보지는 못했는데 저런게 자동완성 되는것 부터가 문제라고 생각함

+) 주작이라는 사람들있는데 내가 이딴걸로 주작을 왜함..?
너네들이 주작이라고 할 만큼 이 상황이 미친거라고 생각할게^-^

++) 무슨 주작이라는 건지..;
난 그냥 워마드나 메갈같은거 안하는 평범한 고딩이고 어제 여자 숏컷영상이 보고싶어서 '여자 ' 쳤더니 저렇게 나오길래 충격먹어서 이 글을 쓴거임.
만약 남혐단체들이 이 상황을 만든거라면 이글은 네이트판 뿐만아니라 다른 사이트에도 올라와야 하는거 아님?
그리고 조작을 했다면 한두명이서 한게 아닐테니까 어떻게어떻게하자 는 글이나 그 증거가 잇을거임.
지금 주작이라고 주장하는 증거는 그 그래프하나 뿐인데 그걸 여자가검색한지 남자가 검색한건지 어케알아
☆내가 이 게시글로 말하고 싶은건 남혐 혹은 여혐이딴게 아니고 사람들이 여성을 바라보는 인식에 문제가 있다는 거임.☆

---

이에 반박하는 게시글은 2군데 입니다..

 

에펨코리아와 유머월드에서 나온 게시글인데 자료는 같습니다.

---

관련링크 : “여자 똥닦는 모습” 검색어 조작 논란 후 해명(에펨코리아)

 

관련링크 : 유튜브 ‘여자’ 키워드 자동완성 검색어에 충격먹은 판녀(유머월드)

 

---

논란이 되는 부분이 있습니다. 그래프는 구글 트렌드에서 따 왔습니다.. 하지만 구글 드렌드는 결과에 성별을 보여주지 않습니다..

 

그래서 또다시 가져온 것이 키워드 검색입니다.

 

일단 어떤 키워드 검색툴로 가져온 것인지는 확인되지 않으나 그곳에서 성별판별이 가능합니다.

 

결국 여성이 더 많은 검색을 했다는 게 알려짐에 따라 댓글 후반부는 오히려 글을 올린 이들과 남성을 비난하는 이들을 향한 비난이 주를 이루고 있습니다.. 재 반박할 수 있는 여지가 없어서가 아닌가 싶습니다.

 

해당 키워드는 아직도 검색량이 오르고 있습니다.. 아마도 이런 글들을 보고 확인해보려는 사람들 때문에 영향을 받는 거 아닌가 싶습니다..

 

더욱이 구글 트렌드를 보면 2011년 4월에 한번 나타나고 이후 없다가 2019년 10월부터 나타나 변동이 큰 상황...

 

왠지 일부러 유도된 것 같은 정황입니다. 

 

따라서 그냥 무시하여 검색을 하지 않는다면 점차 선호 키워드에서 없어져 잠잠해지지 않을까 싶습니다.. 솔직히 누구든 검색할 이유 없죠.. 

 

왜 갑자기 이런 논란이 나왔는지 원인은 알 수 없으나 누군가 남성을 비하하기 위한 의도가 있지 않을까 의심은 됩니다. 실시간 검색어 순위에 올리기 위해 의도적 검색을 하는 것처럼 말이죠...

 

하지만 명확히 밝혀진 것은 없습니다.