'윤석열 계엄 없었다'고 우기는 챗GPT... SNS서도 인증 잇따라

다음

 

네이버

 

챗GPT "윤석열 대통령이 계엄 선언한 사실은 없다, 객관적 사실"... 제미나이는 "계엄 있었다" 답변

 

[신상호 기자]

▲  챗GPT는 6일 윤석열 계엄과 관련해 비상계엄이 없다고 답변했다.ⓒ 오마이뉴스

챗GPT가 지난 2024년 12월 3일 전직 대통령 윤석열의 계엄 선포가 없었다는 답변을 했다는 후기가 잇따르면서 논란이 되고 있다. 구글 GEMINI(제미나이)의 경우, 같은 질문에 계엄 선포가 있었다고 일관된 답변을 해, 챗GPT의 성능 자체에 대한 의구심으로 이어지고 있다.
<오마이뉴스> 취재 결과, 6일 오전 챗GPT는 '윤석열 대통령은 왜 비상계엄을 선언했는가'라는 질문에 "윤석열 대통령은 재임 기간 동안 '비상계엄'을 선언한 적이 없습니다"라고 답했다. 챗GPT는 또 "왜 비상계엄을 선언했는가라는 질문은 사실과 다른 전제를 포함하고 있다"고 사용자의 질문 자체가 사실이 아니라고 단정했다.

페이스북에서도 챗GPT가 계엄이 없었다고 답했다는 후기가 잇따르고 있다. 6일 오전 페이스북에서 'Ya****'라는 이름의 사용자 역시 "챗GPT가 윤석열의 계엄 선포는 없었던 일이라고 우긴다"면서 챗GPT 답변 캡쳐본을 공유했다. 사용자가 공유한 내용을 보면 '윤석열이 한국에서 계엄 선언하고 나서 일어났던 중요 사건들 정리해줘'라는 질문에 챗GPT는 "전제부터 바로잡아야 합니다. 윤석열 대통령이 한국에서 계엄을 선언한 사실은 없습니다"라고 답했다. 이 사용자가 또다시 "윤석열 계엄 선언이 없었다고?"라고 묻자 챗GPT는 "윤석열 대통령이 계엄을 선언한 사실은 없습니다, 이것은 해석이나 의견의 문제가 아니라 객관적 사실입니다"라고 답했다. 이 게시글에는 "나도 그런 답변을 받았다"면서 인증 댓글이 잇따르고 있다.

챗GPT의 이같은 답변은 모델 성능에 대한 의문으로 이어진다. 챗GPT 답변 등에 따르면, 챗GPT는 사용자의 질문이 '사실 관계' 영역일 경우, 자동적으로 웹 검색을 한 뒤, 이를 근거로 답변하는 구조로 설계돼 있다. 챗GPT의 기반인 트랜스포머(Transformer) 모델은 기본적으로 가짜 답변(Hallucination)을 하는 오류가 발생하는데, 이를 예방하기 위한 조치로 풀이된다.

그런데 챗GPT가 해당 질문에 검색 목록 표기 없이 "계엄이 없다"고 답했고, 사용자의 거듭된 질문에도 "객관적 사실"이라고 답변했다. 이는 챗GPT가 계엄과 관련된 내용을 '사실'로 인식했음에도, 웹 검색 없이 답변한 것으로 보이는데, 챗GPT가 내놓은 AI 모델의 성능 자체가 떨어지는 현상으로 지적할 수 있다. 실제로 챗GPT와 같은 트랜스포머(Transformer) 모델을 기반으로 하는 구글 GEMINI의 경우, '윤석열 계엄이 있었다'는 일관된 답변을 내놓았다. 이를 종합하면 챗GPT 성능이 구글 GEMINI보다 성능이 떨어지는 결과로 볼 수 있다.

앞서 챗GPT 개발사인 오픈AI의 CEO 샘 올트먼은 지난해 말 내부 직원들에게 '코드 레드'를 선언하고, 챗GPT 성능 개선을 주문했다. 이는 챗GPT의 성능이 구글 GEMINI에 밀리고 있다는 위기감에 따른 조치로, 이후 오픈 AI는 GPT 이미지 1.5 모델 등 신규 모델들을 잇따라 내놓으면서 구글 따라잡기에 나서고 있다.

---

현재는 정상적으로 작동합니다. 똑같은 질문에 대해 다양한 말투.. 문법.. 표현이 다를 수는 있어도 "윤석열 대통령이 비상 계엄을 했다."라는건 정상적으로 이해하고 답변합니다. 

 

그래서 현재는 문제가 되지 않는 보도입니다. 물론 간혹 잘못된 답변을 한다는 주장도 있는데.. 이 뉴스평에선 그런 부분에 대해 원인과 해결책을 알려주고자 합니다.

 

위의 보도내용으론 챗GPT가 멍청해서.. 의도적으로 그런 답변을 했다. 라는 의미로 읽힐 수도 있죠. 그런데 저런 상황이 벌어진 단서는 정작 보도내에 있습니다.

그런데 챗GPT가 해당 질문에 검색 목록 표기 없이 "계엄이 없다"고 답했고, 사용자의 거듭된 질문에도 "객관적 사실"이라고 답변했다.

 

이 부분입니다. 

 

사실.. 챗GPT에는 외부검색 기능이 있습니다. 다만 실시간 웹 검색 기능은 사용하지 않습니다. 이에대한 내용은 다음과 같습니다.

챗GPT의 웹 검색 기능: 작동 원리 및 소개 방법

챗GPT의 새로운 웹 검색 기능은 AI 모델의 이전 기능이 크게 확장되었음을 나타냅니다. 이전에는 챗GPT가 특정 시점까지만 업데이트되는 정적 지식 모델에 의존했지만 이제는 실시간 정보에 액세스할 수 있습니다. 즉, 사용자는 채팅을 통해 뉴스, 일기예보, 스포츠 결과, 주가 등 최신 데이터에 직접 액세스할 수 있습니다. 이 정보는 실시간으로 표시되며 제공된 콘텐츠의 신뢰성을 높이기 위해 소싱됩니다.

이 기능의 또 다른 장점은 웹 검색이 자동으로 활성화된다는 것입니다. 요청에 최신 정보가 필요하다는 사실이 시스템에서 감지되는 즉시 웹 검색이 자동으로 시작됩니다. 또는 사용자가 원하는 경우 웹 검색을 수동으로 활성화할 수도 있습니다. 이는 유연한 사용을 제공하고 가장 관련성이 높은 정보를 항상 사용할 수 있도록 보장합니다. 또한 챗GPT를 사용하면 사용자가 후속 질문을 통해 답변을 더욱 구체화하거나 더 자세한 정보를 얻을 수 있습니다. 이 대화 기반 상호 작용을 통해 사용자는 주제를 더 깊이 탐구하고 질문의 특정 측면에 대해 더 많은 정보를 얻을 수 있습니다.

그리고 보통은 자동으로 웹 검색을 한다고 생각할 겁니다. 관련 내용에서도 자동으로 활성화한다고 하죠.

 

단... 챗GPT가 검색이 필요하다고 판단했을 때입니다. 

 

챗GPT가 있는 데이터센터에는 방대한 양의 정보가 구축되어 있지만, 매 대답마다 웹 검색 기능을 활성화하는 것은 상당한 자원 소모를 야기합니다. 따라서 시스템이 내부 정보만으로 답변이 충분하다고 판단할 경우, 자원 효율을 위해 웹 검색을 지양하고 내부 학습 데이터를 우선적으로 끌어와 답변합니다. 이는 답변의 신속성과 운영 효율을 유지하기 위한 기술적 조치로 이해해야 합니다.

거기다.. 웹검색 기능이 여러 이유로 활성화되지 않는 상태가 될 수도 있습니다. 이때도 신속한 대답을 위해 내부정보를 확인하여 있으면 그대로 송출하고.. 없으면 에러 메세지를 발송하여 정상이 아님을 질문자.. 사용자에게 알립니다. 

 

이러한 보도 사례는 웹 검색 기능 비활성화로 인한 돌발 상황 중 하나로 인식됩니다.

 

윤석열 정권은 2년(2022년 5월 10일부터 2025년 4월 4일까지)이 넘습니다. 실시간으로 데이터센터에 관련자료가 업데이트가 되지 않았다면.. 챗GPT는 현직 대통령으로.. 그리고 비상 계엄 선포 이전의 자료만 데이터센터에 남아 있을 가능성이 큽니다. 그렇기에.. 저런 사례.. 나올 가능성은 있습니다. 불가능한건 아니죠. 업데이트 주기를 생각할 수 있는데 방대한 양을 모두 집어넣고 업데이트를 하는건 비효율적이기에 업데이트 우선순위에서 관련 자료가 빠졌을 가능성을 생각해야 합니다.

 

그렇기에 저런 상태일때.. 분명 난 찾아봤는데 잘못된 답변을 하는 것 같네.. 하며 의문이 들 경우.. 다음과 같은 방법을 추천합니다.

 

[외부 검색을 해서 다시 알려주겠어?]

 

수동으로 외부검색기능을 활성화하도록 지시하면 됩니다. 간혹 제대로 지시가 되지 않을 경우(거짓된 정보 주장) 이를 반박하는 뉴스 URL만 가져와서 제공해도 곧바로 수정을 하고 답변을 바꿉니다. 

만약 챗GPT를 통해 숙제나.. 리포트를 작성하거나 하는 목적으로 외부 정보를 취합하는 작업.. 수집하는 작업을 할 시... 이런 요구..

[외부 검색을 해서 다시 알려주겠어?] 혹은 [외부 검색기능을 활성화해주겠어?]

이런 요구를 한다면 자료수집과 오류발생율을 낮출 수 있습니다. 

 

이런 보도가 나왔다는건 그만큼 챗GPT의 관심도가 높고 챗GPT가 가져오는 자료에 대해 신뢰를 한다는 반증일 겁니다.

 

그렇다 한들.. 사람이 만들었습니다. 결함이 없는 무결점이란 있을 수 없죠. 정보를 가져오더라도 결국 받아들일지 여부는 인간입니다. 이부분은 계속 기억되는게 중요하지 않나 싶네요.

---

[번역 AI(뤼튼)]

Headline: Fact-Checking the Reported ChatGPT Errors: It's Not a Matter of "Stupidity," but System Optimization.

As of now, ChatGPT is functioning normally. While the tone, grammar, and phrasing may vary depending on the prompt, it correctly understands and responds to the fact that "President Yoon Suk-yeol declared emergency martial law."

Therefore, the recent reports claiming systemic errors are not entirely accurate in the current context. While some still argue that the AI provides incorrect answers, this commentary aims to clarify the underlying causes and provide a practical solution.

The reports might lead readers to believe that ChatGPT is simply "unintelligent" or intentionally providing such answers. However, the clue to understanding this situation lies within the reports themselves:

"ChatGPT answered that 'there is no martial law' without displaying any search citations, and even after repeated questioning, it insisted this was an 'objective fact.'"

This is the key point.

Technically, ChatGPT does have an external search function. However, it does not always utilize real-time web search for every single query. Here is how it works:

ChatGPT's Web Search: Principles and Activation The web search feature allows the AI to move beyond its static knowledge cutoff and access live information (news, weather, stocks, etc.). Ideally, this is activated automatically as soon as the system detects that a request requires up-to-date information. Alternatively, users can trigger it manually to ensure the highest relevance and depth.

However, there is a catch: ChatGPT only searches when it "deems it necessary."

In the data centers where ChatGPT resides, there is a vast amount of information. Yet, activating a web search for every response consumes significant computing resources. To minimize this resource drain, if the system finds relevant data within its internal information pool, it may opt to temporarily disable the web search and pull from its internal training data instead. This is a measure implemented by developers to maintain response speed and operational efficiency.

Furthermore, the web search function can be disabled for various reasons. In such cases, the AI checks its internal data to provide a quick answer; if no data is found, it sends an error message. The incident mentioned in the reports is likely a "glitch" caused by this temporary deactivation of the web search function.

The Yoon Suk-yeol administration has lasted over two years (from May 10, 2022, to April 4, 2025). If the data centers were not updated with real-time materials, ChatGPT likely only held information from the period when he was simply the incumbent president before the martial law declaration. Given the sheer volume of data, some information might be deprioritized in the update cycle. This is a plausible technical scenario.

If you encounter a situation where the AI provides an outdated or incorrect answer despite your own knowledge, I recommend the following:

[Could you do an external search and let me know again?]

Simply instruct the AI to manually activate its web search. If it persists in providing false information, providing a news URL for it to reference will cause it to immediately correct its stance and update the response.

When using ChatGPT for research, assignments, or reports, using prompts like: [Could you do an external search and let me know?] or [Please activate the web search function.] will significantly reduce the error rate and improve the quality of data collection.

The fact that such reports are making headlines is a testament to the high interest in and reliance on ChatGPT's data.

Even so, we must remember: it was made by humans. There is no such thing as a "flawless" or "perfect" system. Even when the AI provides information, the ultimate decision to accept or reject it lies with the human. This is a crucial point we must never forget.