돈만 내면 AI가 자동댓글 … 총선 '여론 조작' 비상

다음
 
네이버
 
생성형 AI에 매크로 결합해
사람이 쓴것처럼 댓글 작성
250만원에 프로그램 제작도
유튜브·인스타서 버젓이 광고
AI 댓글 작성 규제 마련 시급
 
"장기적인 시각으로 매수 시기를 결정하고 개발 가능성이 높은 지역에 투자하는 것이 중요한 것 같습니다."

"카페에서 시원한 복숭아 음료와 함께 여유로운 분위기를 즐길 수 있다니 저도 가보고 싶네요!"

게시판에 올라온 글에 사람이 손수 단 댓글처럼 보이지만 위 문장들은 생성형 인공지능(AI) 댓글 생성 프로그램이 게시글에 달아놓은 것들이다. AI 기술이 진화하면서 댓글마저 사람을 대신해 감쪽같이 달아주고 있다. 생성형 AI에 명령을 자동 반복하는 매크로 프로그램이 결합해 가짜 댓글을 만들어내는 방식이다. 단순히 공감 횟수를 높이고 같은 문장을 되풀이하는 수준을 넘어 댓글을 정교하게 만들어낼 수 있게 된 것이다. 이 같은 기술이 올해 4월 열리는 21대 국회의원 총선거를 앞두고 AI 댓글 생성 프로그램을 이용한 댓글 조작을 통해 여론몰이에 악용될 수 있다는 우려가 나오고 있다.
 
9일 매일경제 취재를 종합하면 온라인에서 생성형 AI를 활용해 댓글을 자동으로 달 수 있도록 설계한 프로그램 판매가 곳곳에서 이뤄지고 있었다. 네이버 카페 등 주요 커뮤니티와 유튜브, 인스타그램 등 주요 사회관계망서비스(SNS)에 자동으로 게시글이나 댓글을 올리는 프로그램을 홍보하는 글이 버젓이 올라와 있다. 한 업체는 "단순한 댓글이 아닌 진짜 소통하는 댓글을 작성한다. 기존 복사하기·붙여넣기 식의 프로그램과 다르다"고 강조했다.

'AI 댓글 자동화 프로그램'을 판매하는 A사의 홍보 영상에 따르면 매달 일정 금액을 내고 프로그램을 구독하면 간단한 설정만으로 블로그 댓글 조작이 가능하다. 프로그램을 띄우고 댓글을 달고 싶은 블로그 게시글의 수와 포털 아이디, 비밀번호를 입력하면 곧장 가동되는 방식이다. 이 업체 관계자는 "챗GPT가 블로그 글 내용을 요약해서 자연스러운 댓글을 작성하도록 코딩이 돼 있고 하루 400개까지 작성할 수 있다"고 설명했다.

B사 역시 '블로그 댓글 자동등록기'라는 이름의 프로그램을 판매하고 있다. 이 프로그램에 특정 키워드를 입력하면 키워드 관련 게시글에만 선별적으로 댓글과 이미지를 자동으로 등록할 수 있게 설계됐다. C사는 홈페이지에 "키워드와 주제를 입력하면 챗GPT 기반 로직을 통해 사람이 쓴 듯이 매끄러운 글을 생성한 후 원하는 카페에 자동으로 게시글을 등록한다"고 설명했다.

문제는 자동 댓글 프로그램이 여론 조작에 쓰일 수 있다는 점이다. 특정 정당 지지자들이 정치적 성향에 따라 원하는 글과 이미지를 확산시켜 지배적인 여론인 것처럼 꾸밀 가능성이 있다. AI를 활용해 뉴스에 자동으로 댓글을 다는 프로그램까지 등장할 경우 사회적 혼란이 가중될 것으로 보인다. 한 업체 대표는 "포털이나 언론사 홈페이지 뉴스에 자동으로 댓글을 다는 프로그램은 만드는 데 13일이면 충분하다. 비용은 250만원"이라고 귀띔했다.
 
이 같은 가짜 댓글을 막는 것은 현실적으로 어려운 상태다. 국내 최대 포털인 네이버 관계자는 "생성형 AI가 작성한 댓글로 의심되더라도 당사자가 직접 썼다고 부인하면 적절한 조치를 취하기 힘들다"며 "가짜 댓글을 걸러내는 것은 현실적으로 어렵다"고 말했다.

전문가들은 가짜 댓글 확산을 막기 위한 대책을 마련해야 한다고 했다. 정일권 광운대 미디어커뮤니케이션학부 교수는 "사실관계가 확인되지 않은 생성형 AI발 가짜 정보가 확산되면서 여론이 왜곡될 우려가 있다"며 "총선을 앞두고 매크로 프로그램을 통한 가짜 정보 확산을 막기 위한 대책이 필요하다"고 말했다.

[진영화 기자]

---

반응형

내용은.. 그저 새롭게 나온 것처럼 느껴질지도 모르겠는데...
 
이미 나온지는 꽤 된 것 아닐까 싶네요.. 블로그나 페이스북.. 인스타그램등의 SNS에 댓글을 임의적으로 많이 올라오게 만들어 활성화되고 인기있는 곳으로 보이게 하여 유입량을 늘리거나.... 홍보하는 사례가 있었거든요..
 
가끔씩 광고로도 나오기도 합니다. 돈주면 조회수.. 구독자수 늘려준다는 광고 말이죠.
 
이런 작업은 이전에는 매크로.. 혹은 수작업으로 많이들 했었다고 알려져 있었는데.. 이번엔 AI를 통해 하나 봅니다.. 마치 사람이 쓴 것마냥 댓글을 여러개 작성하도록 말이죠.
 
이런 기술이 곧 다가올 총선에서 여론조작으로 올 것이라고 우려하는 보도입니다.
 
결론부터 말하면.. 네이버.. 블로그.. 인스타그램.. 유튜브등에서나 가능하지.. 다음카카오에선 불가능하리라 예상합니다.
 
왜냐하면.. 댓글이 여론으로서 작용할려면... 댓글 자체가 작성한 뒤에 그 페이지에 오래 남아 있어야 합니다.
 
그런 영향력을 줄 수 있는 댓글이라면.. 인스타그램이나 페이스북등에선 나타나지 않을 댓글들일 겁니다. 특정인들이 모여있는 곳에 여론조작은 불가능하죠.. 아니 그런 곳이라면 가짜뉴스 유포는 가능할지도 모르겠습니다. 근데 그건 여론조작이 아니겠죠.. 여론 조작을 위한 사전 모의로 봐야 하겠죠. 그 정보를 여기저기 퍼 날라야 할테니까요.
 
무작위.. 불특정 다수가 접근하여 여론형성을 할려면 뉴스만큼 적당한게 없죠.
 
그런데.. 다음 뉴스에서는 그런 여론 조작... 못합니다.. 네이버뉴스나 가능하죠..
 
왜냐하면.. 다음뉴스에선 타임톡을 운영하기 때문입니다. 타임톡.. 인스턴스 댓글이라 하면 적당한 표현일 겁니다.. 24시간동안 댓글을 달 수 있고.. 시간이 지나면.. 댓글들은 모두 사라집니다. 그리고 그 댓글중에 공감이나 비공감을 받는 기능도 없고.. 자신이 쓴 댓글을 다시 보기가 힘듭니다. 추적기능이 없기 때문입니다. 그러니.. 여론조작을 시도해봐야 소용이 없죠.
 
따라서.. 이 보도는 네이버 뉴스와 네이트 뉴스를 향한 경고라고 할 수 있습니다.
 
다만.. 네이버나 네이트 뉴스도 그게 제한적일 수 밖에 없는 것이... 댓글은 하나의 ID로 로그인을 해서 작성합니다. 많은 작성자를 만들려면 결국 개인정보를 이용해서 여러개의 ID를 사전에 만들어야 한다는 의미... 하지만 현재 주민번호를 함부로 수집할 수가 없죠..
 
그래서 나온게 핸드폰 번호당 3개정도를 만들 수 있는것 같더군요. 그리고 그렇게 3개를 만든 뒤에.. 개인정보 변경으로 핸드폰 번호를 변경 및 기존 계정과 합쳐서 많이 만들 수는 있을 듯 보이는데.. 그렇게 번거롭게 작업을 할 수 있을진 의문이 드네요.. 그 아이디와 비밀번호를 관리하기도 힘들테고요.
 
거기다.. 댓글도 그렇죠.. 각 아이디당 뉴스등에서 달 수 있는 댓글수도 한정되어 있습니다. 공감과 비공감을 할 수 있는 수도 제한이 되고요..
 
그렇기에.. 특정 여론몰이를 위해 AI로 댓글을 일부 작성을 시도할 수 있을지언정... 여론 몰이로 효과를 보는 부분에선 제약이 클 수 밖에 없습니다. 실패할 가능성이 높다는 의미입니다. 무한정으로 댓글과 공감, 비공감을 하기가 어려우니까요.
 
차라리... 예전 국정원이던가.. 사람을 많이 동원해서 하는 건 지금도 가능하겠죠.. AI로는 여론조작.. 못하리라 예상합니다.
 
대신.. 관련해서 정보수집에는 AI가 큰 역활을 하리라 예상합니다. 정보수집에는 제약이 없죠.. 더욱이 댓글등에 부정적 댓글이 작성되는 것을 조회하는게 사람이 하면 여간 까다로운게 아닙니다. 하지만 AI는 가능하죠.. 따라서 AI로 댓글과 공감, 비공감으로 여론조작을 할게 아닌.. 정보수집 및 의도적으로 부정적 댓글이나 비공감을 하는 이들에 대한 정보수집에 AI가 이용되지 않겠나 예상합니다. 그외에 가짜뉴스를 유포하는 이에 대한 추적에도 쓰이지 않겠나 예상합니다..
 
네이버뉴스와 네이트뉴스에서 말이죠. 다음뉴스는 불가능합니다. 댓글 자체가 하루만에 아예 없어지기에..
 
그리고.. 네이버 뉴스에는 특별한게 있습니다. 댓글 이력을 확인할 수 있죠.. 그리고 삭제율이 높은 댓글러의 경우.. 보통 좋지 않는 댓글을 작성하는 경우가 많고.. 이런 댓글에 대해 차단기능을 제공합니다. 그래서.. 여론조작? 불가능하지 않겠나 싶네요.