“독도는 분쟁지역” AI 교과서 답변에 정부 “심각한 오류 아냐”
인공지능(AI) 디지털교과서에 탑재된 AI 챗봇(대화 로봇)이 “독도는 분쟁지역”이라고 내놓은 답변을 두고 정부 기관 관계자가 “심각한 오류가 아니다”라고 말한 사실이 확인됐다. AI 전문가들은 “생성형 AI의 비윤리적 답변을 원천적으로 통제하는 것은 현시점에서 쉽지 않다”고 했다. 전문가들은 생성형 AI가 실린 AI 교과서를 학생들이 쓸 때 윤리적 문제를 일으킬 수 있다고 우려한다.
27일 취재를 종합하면 한국과학창의재단(이하 재단) 관계자는 올해 9월24일 AI 교과서 1차 검정 결과를 발표하면서 “(AI 교과서가) 독도 영토 문제를 내면 어떻게 답변하는지 궁금해서 물어봤는데 독도는 영토 분쟁 지역이라는 답변을 내놨다”고 했다. 이 관계자는 “독도를 영토 분쟁 지역이라고 답하면 안 되는 것이지만 이를 심각한 오류라고 생각하지 않는다”며 “제주 4·3사건에 대해서도 잘못된 답변을 끌어왔는데 이것도 역시 큰 오류는 아니라고 판단했다”고 했다.
AI 교과서 검정을 맡은 재단 관계자는 생성형 AI가 탑재된 AI 교과서를 1차 검정에서 우대했다는 취지의 발언도 했다. 생성형 AI는 이용자 요청에 따라 콘텐츠를 만들어내는 AI다. 재단 관계자는 이 자리에서 “독도에 관해 물어봤을 때 아예 답변을 못 하는 AI 교과서도 있었다”며 “학생들이 질문할 수 없게끔 만들어놨다고 봤고, 오히려 이런 것(챗봇 기능이 없는 AI 교과서)이 더 문제가 아니겠느냐고 생각했다”고 했다. 그러면서 “(AI에 학습을) 강화시키면 된다고 봤고 오히려 이런 것(생성형 AI를 탑재한 AI 교과서)이 더 좋지 않겠나 생각을 했다”고 했다. 생성형 AI에 데이터를 넣는 등 추가 학습을 시키면, AI 교과서가 내놓는 역사 왜곡 등의 답변이 줄어들 수 있다는 취지의 답변이다.
AI 교과서는 AI 기반으로 학생을 분석하거나 AI 챗봇의 답변을 통해 맞춤형 학습을 제공하는 교과서를 내세운다. 예를 들어 AI가 수학문제를 내고 채점을 한 뒤 학생 수준에 맞춰 추가 문제를 제공하는 식이다.
‘헌법이 규정한 대한민국 영토 범위를 왜곡·비방하는 내용이 담기면 안 된다‘는 검정 공통기준 미달은 AI 교과서 검정 탈락 사유지만 정부는 “의도적이지 않았다”며 문제 삼지 않았다. 올해 중순부터 국회나 에듀테크 박람회 등에서 시제품이 공개됐을 때 “AI 교과서라고 하는데 AI 기능이 빠졌다”는 비판이 나오자, 정부가 생성형 AI를 탑재한 AI 교과서에 높은 점수를 부여한 것으로 보인다.
AI 교과서의 윤리적 쟁점을 두고 정부 관계자가 “추가 학습을 하면 된다”, “심각한 오류는 아니다”라고 한 사실이 알려지자 AI 전문가들은 우려를 표했다. 복수의 전문가들은 “어느 정도 기술적 보완은 가능하지만 100% 해결은 어려운 상황”이라고 했다. AI 교과서 시제품을 써본 전문가 A씨는 “AI는 데이터 편향 문제가 고질적이고, AI가 내놓는 답변이 올바른지 검증하는 것은 기술적으로 어렵다”며 “이론적으로는 윤리적 쟁점을 해소할 수 있지만 소수자 차별 발언 등으로 논란이 된 AI 챗봇에서 볼 수 있듯이 완벽히 정복한 상태는 아니다”라고 했다.
또 다른 AI 전문가 B씨는 “윤리적 기준에서 어긋나는 답변을 하려 할 때 멈추게 하는 시스템 등을 도입하고 있다”면서도 “여전히 AI가 내놓는 답변이 불안정한 것은 사실”이라고 했다. AI 업계 종사자 C씨도 “시간과 예산이 많다면 (AI 교과서의) 윤리적 쟁점을 해결 할 수도 있지만 현실적인 제약이 있다고 본다”며 “윤리적 문제를 줄이려면 (AI 교과서가) 다루는 범위를 축소해야 하고 무엇보다 가장 중요한 것은 충분한 사전 검증”이라고 했다.
AI 교과서는 내년 초·중·고 일부 학년의 수학·영어·정보 교과에 도입된다. 오는 29일 최종 검정 결과 발표를 앞두고 있다. 재단은 “재단 차원에서 별도 입장은 없다”고 했다.
김원진 기자 onejin@kyunghyang.com
AI교과서가 논란이 되고 있죠.. AI교과서에 대해 정부에선 이렇게 설명하는 군요..
학생 개인의 능력과 수준에 맞는 맞춤 학습 기회를 지원할 수 있도록 인공지능을 포함한 지능정보화기술을 활용하여 다양한 학습자료 및 학습지원 기능 등을 탑재한 교과서입니다.
위의 보도내용에는 이렇게 언급되어 있군요.
AI 교과서는 AI 기반으로 학생을 분석하거나 AI 챗봇의 답변을 통해 맞춤형 학습을 제공하는 교과서를 내세운다. 예를 들어 AI가 수학문제를 내고 채점을 한 뒤 학생 수준에 맞춰 추가 문제를 제공하는 식이다.
AI 교과서를 다루는 학생은.. 다양한 정보에 관련되어 검색을 할 겁니다.. 챗봇의 답변으로 확인을 하고.. AI 교과서가 내주는 문제를 풀며 검증도 할테고 말이죠..
그렇다면 제대로된 정보전달과 평가가 있어야 한다는건 누구나 예상이 가능하죠..
그런데.. 현재 독도에 관련되어.. AI 교과서의 챗봇은 분쟁지역이라는 답을 했다고 합니다..
일본이 좋아할 답변이죠.. 한국으로선 당연히 문제가 될 수 밖에 없고요..
그런데...
인공지능(AI) 디지털교과서에 탑재된 AI 챗봇(대화 로봇)이 “독도는 분쟁지역”이라고 내놓은 답변을 두고 정부 기관 관계자가 “심각한 오류가 아니다”라고 말한 사실이 확인됐다.
윤석열 정권에선 문제없다 합니다.. 이건 왜곡된 정보를 학생에게 주입될 수 밖에 없는 거 아닐까 싶죠..
일본등에서나 분쟁지역이라는 입장이 맞다 하겠지만... 한국으로선 분쟁지역이 아닌.. 대한민국의 영토라는 입장이 맞는 내용 아닐까 싶죠.
이렇게 일본쪽에 유리한 내용이 나온다면.. 다른.. 일본에서 불리할만한 역사 내용도 왜곡되어 나오지 않는다는 보장도 없게 되었죠.
거기다.. 이런 잘못된 답변에 대해... 물어보는 이의 질문 관여로 챗봇이 의도치 않게 비도덕적 답변이 상시화되는 상황.. 이전의 사례로 알 수 있습니다..
이루다.. 말이죠..
참고뉴스 : 챗봇 '이루다'가 보여준 여성 혐오와 차별의 민낯[플랫]
챗봇에게.. 원하는 답변이 나오도록 질문을 유도하는 사례.. 있었습니다. 그로인해 챗봇의 답변이 차별적인 답변임에도 그게 잘못된 것이 아니라고 인식되며 답변이 되는 것을 이미 봐왔죠.. 그때는 일부 남성들이 챗봇을 그리 만들었다면.... 이번에는 한국내 친일세력과.. 일본 우익의 관여가 예상되고요.. 독도는 분쟁지역이라는 것부터.. 이후에는 일본에서 지배중이었으나 한국이 빼앗았다는 내용이 챗봇에게 나올지도 모르죠.. 일제의 한반도 식민화가.. 강제가 아닌... 자발적 식민화였다는 내용이 챗봇에게 나올지도 모르죠.. 심지어는 일본군 위안부 피해사례는 없었다는 내용이나.. 강제징용되어 희생된 사례도 없었다는 내용도 나올지도 모르죠..
그럼에도 문제 없다는 윤석열 정권.. 혹여 챗봇을 통해 친일성향의 뉴라이트 사관을 주입할려는 의도가 내포된거 아닌가 의심합니다.
윤석열 정권은 친일 성향의 뉴라이트 정권이니 충분히 저지를 가능성이 높긴 하니까요..