-
-
챗GPT의 거짓말 - 인공지능의 약점과 거짓말에 각성하라
트렌드연구소 지음 / 동양북스(동양문고) / 2023년 8월
평점 :
생성형AI인 챗GPT의 인기가 가히 광풍에 가깝다. 챗GPT만 있으면 모든 지식과 언어, 문학, 과학 등 다양한 분야에 지적 부족을 보완해 줄 뿐만 아니라 인간마저 뛰어 넘는 두뇌에 두려움마저 느낄 정도다. 하지만 챗GPT가 모든 진리와 지식의 보고이자 선택의 여지 없는 정답일까?
지난 4월 워싱턴포스트 기사를 보자. 당시 GPT는 ‘성추행을 저지른 법학자 5명을 알려달라’는 질문을 받고 조나단 털리라는 사람을 구체적인 범행 경위를 근거로 지목했다. 하지만, 조나단 털리는 실제로 범죄를 저지른 적이 없었다고 한다. 더 충격적인 점은 GPT가 근거로 워싱턴포스트의 기사를 제시했지만, 애초에 그런 기사는 존재하지도 않았다.
챗GPT가 거짓말을 한 것이다. 상상이나 할 수 있을까? 인공지능이 거짓말도 구사할 수 있으니 말이다. 전문가들은 GPT가 문장을 그럴싸하게 만드는 것은 잘하지만, 문장의 사실 여부까지 판단하지는 못하기 때문에 거짓말을 한다고 말한다. 정말일까?
<챗GPT의 거짓말 : 인공지능의 약점과 거짓말에 각성하라>는 인공지능이 가져다 줄 것이라는 장밋빛 미래에 단언코 일침을 가한다. ‘꿈 깨시라’고... 심지어 거짓말까지 하는데 챗GPT를 믿으란 얘기인가?
그리고 왜 인공지능이 한계가 있는지 조목조목 근거를 들어 반박한다. 챗GPT가 아무리 기를 쓰고 날뛰어도 결국 인간을 극복해 내지 못할 것이란 지적은 상당히 흥미롭다. 결론은 인간이 만들어낸 상품에 불과한 존재가 인공지능인데 어떻게 인간을 대체할 수 있다고 장담할 것이냐고 반문한다. 인공지능은 디지털 데이터로 움직이는 응용 프로그램인 인공지능이 만약 나쁜 의도를 갖기만 하면 언제든지 인간을 공격할 수 있다. 작정하고 우리에게 ‘거짓말’을 하는데 인간은 오히려 이를 검증할 능력이 없는 것이다.
이 책을 보면 아직 인공지능의 영역은 철저한 검증이 필요한 시기가 아닐까 싶다. 이 책으로 일단 챗GPT에 대한 막연한 환상과 지지는 접어두자!