-
-
당신은 AI를 어디까지 믿을 수 있나요? - 딥페이크, 여론 조작, 가짜 뉴스, 댓글 부대… AI 시대, 우리가 알아야 할 신종 AI 범죄와 법
박찬선 지음 / 이지스퍼블리싱 / 2025년 6월
평점 :
[출판사로부터 도서를 제공받아 작성한 주관적인 리뷰입니다.]
생성형 인공지능(AI)이 유발하는 변화는 가히 혁명적이라고 해도 무방할 정도로 눈이 휘둥그레지게 한다. 챗GPT가 연상되는 AI는 무한한 가능성을 가진 기술로, 인류 문명을 더 진보시킬 것이라고 전망한다. 하지만 그만큼 도처에서 위험성을 경고하는 지적도 만만치 않다.
최근에는 챗GPT를 통해 우리의 일상을 일본 애니메이션 제작 전문 지브리사의 캐릭터처럼 바꿔주는 ‘지브리 스타일’ 변환이 인기를 끌고 있을 정도로 AI가 우리의 일상을 파고들어 장차 지배할지도 모른다는 공포감이 들 정도다. 문학, 미술, 음악 등 다양한 창작의 영역도 다르지 않다. 주목할만한 점은 바로 AI가 야기할 음성적으로 악용되는 범죄의 영역이다. 이미 상당한 분야에서 AI를 이용한 범죄행위가 지금도 빈번하게 발생하고 있다.
<당신은 AI를 어디까지 믿을 수 있나요?>는 다섯 가지 테마(생성형 AI, 대규모 언어모델 LLM, 딥페이크, 봇, 자율주행기계)로 분류해 AI를 이용한 범죄 유형과 사례를 설명하는 책이다. 보이스피싱이나 딥페이크를 이용한 로맨스 스캠, 가짜 뉴스 생산 등 이미 다수 발생하고 있는 범죄는 물론 머지 않아 범죄의 주류로 부상할 가능성이 높은 유형도 함께 소개해 주면서 독자들의 경계심을 자극한다.
범죄 유형과 실제 발생 사례에 그치지 않는 것도 주목할만하다. 처벌규정, 예방프로그램 및 AI가 가져올 범죄를 예방할 인공지능기본법에 대한 해설까지 담아 앞으로 스스로에게나 주변 지인들한테 흔히 벌어질수도 있는 범죄의 사전 대비를 충분히 할 수 있도록 도움을 주고 있다. 이미 이러한 현상은 젊은 층 사이에서 경각심을 불러 일으키고 있다. 내 딸들도 자신의 사진을 메신저 프로필에 더 이상 올리지 않는다. 딥페이크를 통한 성범죄물 제작이나 사진, 여권, 은행 계좌 등에 악영될 수 있기 때문이다. 어느새 온라인 상의 모든 이미지 컨텐츠는 의심하고 봐야 하는 지경에까지 이를수도 있다. 이외 에도 여론 조작을 하는 소셜 봇이나 주가 시세조종에 악용되는 자전거래 봇까지 우리의 삶을 갉아 먹을 AI의 악용사례는 우리가 충분히 공부하고 숙지해야 할 분야다.
꼭 읽어보시기를 권하고 싶다. 정말 유용한 책이 아닐수 없다. 나중에 좀더 많은 유형과 사례를 담은 개정판을 출판해 줬으면 싶을 정도다.