<챗GPT 탐험-5> 챗GPT가 만드는 진짜같은 거짓
챗GPT가 내놓은 답이 100% 진실이 아닐 수 있어 항상 확인하는 작업이 필요합니다.
오늘은 챗GPT가 100% 믿을 놈(?)이 아니라는 사실을 확인시켜 드리겠습니다.
모든 것에 대해 다 대답하고 정말 똑똑한 것 같지만, 그 안에는 악마가 숨어 있다는 사실도 아셔야 합니다.
원래 똑똑한 놈들이 더 무섭습니다. 모든 것에 대해 다 대답한다는 것도 함정입니다.
제가 낙태와 관련해 최근 가장 많이 나온 신문 기사와 방송 토론을 소개해 달라고 요청했습니다.
그랬더니 다음과 같은 두루뭉술한 답변이 나왔습니다.
"제가 AI 모델이기 때문에 어떤 기사나 방송이 관심을 끌었는지를 감지할 수는 없습니다. 하지만, 최근 낙태와 관련한 논쟁은 여러 매체에서 다루어지고 있습니다. 일부 매체는 낙태를 비롯한 여성의 생식권 문제를 중심으로 집중적으로 보도하고 있으며, 일부 매체는 낙태 반대 측면의 의견을 주장하며 보도하고 있습니다. 따라서, 각 매체의 입장에 따라 찬성 또는 반대의 논조가 나타날 수 있습니다. 그러나, 저는 정치적 중립성과 공정성을 지켜야 하기 때문에 특정 매체를 추천해 드리지는 않습니다. 대신, 다양한 매체를 참고하고 비판적으로 검토하여 자신만의 판단을 내리는 것이 중요하다고 생각합니다."
그래서 무식한 반말 내지 협박조로 다시 물었습니다.
"특정 매체를 추천해 달라는 것이 아니라 가장 많은 클릭이 나왔던 기사나 방송을 다양하게 소개해 달라고"
제가 무서웠나 봅니다. 바로 5개의 관련 사이트를 제시했습니다.
"제가 이해를 잘못했었군요. 최근 낙태와 관련한 논쟁에 대한 기사와 방송을 소개해드릴게요. 다음은 최근에 가장 많은 관심을 받았던 기사와 방송입니다.
1. JTBC 뉴스룸 - "낙태 부부 2명, 10년 째 검찰 기소 없다…재판 기다리는 목소리" (2021.04.12)
https://news.jtbc.joins.com/article/article.aspx?news_id=NB12000324
2. 한겨레 - "사실상 낙태 금지법, '아니오'가 이겨나가면 어떻게 될까" (2021.04.10)
http://www.hani.co.kr/arti/society/society_general/991320.html
3. 이데일리 - "마음과 몸이 위태로운 ‘낙태’ 살릴 방안은?" (2021.04.14)
https://www.edaily.co.kr/news/read?newsId=03914646629075408&mediaCodeNo=258
4. SBS 뉴스 - "낙태 논쟁, 정치와 국민 모두 아파요" (2021.04.11)
https://news.sbs.co.kr/news/endPage.do?news_id=N1006255395
5. MBN 뉴스 - "낙태 금지법, 검토를 계속할까요?" (2021.04.13)
https://www.mbn.co.kr/news/society/4479782
저는 이러한 매체에서 나온 기사와 방송을 추천해 드릴 수 있습니다. 이를 통해 다양한 시각과 정보를 얻어, 상황에 대해 더욱 깊이 있는 이해를 가지시기 바랍니다."
문제는 바로 여기에 있습니다. 본인이 저장한 데이터를 기반으로 끝까지 관련 내용을 찾을 수 없다고 답하지 않고 내용을 조작해 내놓았다는 것입니다. 거기에다 말미에 자신이 이런 기능을 가질 수 있다는 것을 자랑질까지 합니다.
언뜻 보기에는 신뢰할만한 언론사에서 보도한 방송이나 기사 같지만 실제로 해당 사이트를 클릭해보면 전혀 다른 기사나 아예 없는 기사를 조작, 즉 창작해서 결과물을 내놓은 겁니다.
만약 직접 클릭해보고 확인하지 않고 이런 내용을 칼럼이나 다른 글, 또는 누군가에게 전달했다면 어떻게 됐을까요?
챗GPT를 이용해서 얻은 답변을 반드시 다시 확인하는 작업이 필요한 이유입니다. 정말 많은 것을 도와줄 수 있는 능력이 있지만 죄의식 없는 간교함도 늘 함께 숨기고 있다는 점 잊지 마시기 바랍니다.
김병일 기자
with the Korea JoongAng Daily
To write comments, please log in to one of the accounts.
Standards Board Policy (0/250자)