인간은 도구를 발명하고 사용하며 자신을 확장시켰다. 이는 인간의 번영에 상당한 도움이 되었지만 도구를 사용할 수록 인간의 신체 능력이 하나하나 약해지는 것도 사실이다. 활과 창, 칼이 있다면 아주 강한 근력과 뼈는 필요가 없다. 옷이 있다면 털이 필요 없으며 잘 요리한 음식이 있다면 강한 턱과 위, 그리고 간의 해독 능력도 상당 부분 필요가 없어진다.
이런 부분은 지적인 측면에서도 마찬가지다. 책이 처음 나왔을 때 고대 그리스의 학자들은 모든 것을 암송하지 않음으로써 생겨나는 인류의 지성의 퇴화를 걱정했다. 계산기가 나와 더 이상 정확한 계산 능력은 특별하지 않게 되었으며, 네비에이션과 핸드폰의 등장으로 사람은 더 이상 주요 지형과 주변 인물의 연락처를 암기하지 않는다.
그래도 이것들은 아직 인간 지적 측면의 비교적 단순한 부분이라고 할 수 도 있는데 만약 추론 능력이나 문제해결, 비판적 사고 및 글쓰기 등 고등사고 능력까지 모두 새로운 도구에 의존하게 된다면 어떨까?
책 '듀얼 브레인'은 바로 이런 부분을 점검한 책이다. 제목처럼 인간이 만든 인공지능은 이제 뇌를 사실상 거의 완전히 확장한 도구로 등장한다. 사실 그간 인간이 개발한 지적 측면의 도구들은 뇌의 아주 일부만을 확장한 것이지만 인공지능은 거의 전체를 확장했거나 그렇게 나아간다는 점에서 기존의 것들과 차원을 달리한다.
인공지능은 기대와 달리 오랜 냉각기를 거치다 2010년대 들어서 다시 부활했다. 이는 데이터 분석과 예측에 러닝 머신 기법이 도입되었기 때문이다. 초기엔 지도학습을 했기에 레이블 데이터가 필요했다. 하지만 지금의 LLM은 인간의 감독이나 개입이 필요치 않다. 방대한 텍스트의 용례를 분석해 인간의 언어 패턴, 구조, 맥락을 인식하는 방법을 학습했기 때문이다. LLM은 상황에 따라 조절되는 수많은 매개변수를 이용해서 인간이 글로 소통하는 방법을 모방한다. 가중치는 LLM이 수십억개의 단어를 읽으면서 학습한 복잡한 수학적 변환으로 다양한 단어 또는 단어의 일부가 함께 쓰이거나 특정 순서로 배치될 가능성을 알려준다.
사전학습만 거친 인공지능은 아무런 판단을 하지 못한다. 그저 학습한 내용을 거울처럼 반영한다. 그래서 대다수 LLM은 사전학습 이후 인간에 의한 미세조정을 거친다. 인공지능ㄹ 기업은 이 업무의 담당자로 고가의 전문가서부터 저임금 계약노동자를 총망라한다. 다양한 기준을 얻기 위해서다.
인공지능은 이미 이미지와 소리등을 생성하는 단계로 나아갔다. 그리고 점차 멀티모달의 형태로 나아가서 LLM도 이미지를 생성하고 있다. 이처럼 발전하는 인공지능에게 중요한 것은 정렬 문제다. 하라리가 책 '넥서스'에서 지적한 것처럼 인공지능의 정렬은 인공지능이 인간이 설정한 목표와 선호도, 윤리적 원칙에 맞게 조정되는 것이다. 이것은 쉽지 않은데 인간 자체가 모순적이기에 인간의 가치와 목표 역사 상충하거나 불분명하기 때문이다. 그래서 인공지능 연구자들은 이 정렬 문제로 인해 2100년까지 인공지능이 인류를 절멸할 가능성이 10-12%에 달하다고 보고 있다. 다만 미래학 연구자들은 2%로 상대적으로 매우 낙관적이다. 저자는 정렬 문제의 해결을 위해서는 기업, 정부, 연구원, 시민사회가 협력하는 광범위한 사회적 대응과 인공지능 유닐의 개발과 사용을 위한 합리적 규범과 기준이 필요하다는 다소 뻔한 소리를 한다. 절대 쉽지 않을 것이다.
저자는 새로운 확장 뇌인 인공지능을 잘 사용하기 위한 4가지 원칙을 제시한다
1. 작업할 때 항상 인공지능을 사용하라
2. 인간이 주요 과정에 계속 개입하라
3. 인공지능을 사람처럼 대하고 그 때 인공지능이 어떤 유형의 사람인지 알려준다.
4. 지금의 인공지능이 앞으로 사용하게 될 최악의 인공지능이라 생각한다.
인공지능과 항상 작업해야 하는 것은 인공지능이 무엇을 잘 할 수 있고 무엇을 잘 할 수 없는지 그 경계선을 알기 위해서다. 물론 이 경계선은 잡았다 하더라도 새로운 버전이 출시되면 바뀔수 있다. 하지만 그 과정에서 자신이 얻은 것은 변하지 않는다. 인공지능은 인간의 생산성을 엄청나게 향상 시킬 가능성이 높다. 그리고 그것은 주로 능력이 부족한 사람들에게 더욱 높게 나타난다. 인공지능은 무언가를 시작하거나 큰 줄기, 빠르면서도 비교적 품질이 매우 우수하지는 않은 작업물을 주는데 최적화 되어 있는데 이런 것들이 능력이 부족한 사람들에게 큰 도움이 된다. 이미 우수한 수준에 이른 사람은 인공지능의 결과물에 만족하지 않기에 좀처럼 사용하지 않고 자신의 성과물 향상에 그리 큰 도움이 되지 않는다. 물론 이건 현재 수준에서다.
인공지능을 사용할 때는 단계별로 개입하는 것이 중요하다. 아직은 인공지능의 초기 검색엔진처럼 수준이 높지 못해 프롬프트가 매우 구체적이지 않다면 성과물도 그저 그렇다. 때문에 인공지능이 내놓는 결과물에 계속 개입하며 구체적으로 지시하면 그 성과물도 지속적으로 우수해진다. 현재는 이걸 잘하는 사람이 인공지능을 잘 사용하는 사람이 된다.
그리고 인공지능을 사용함에 있어 그에게 역할을 부여하는 것도 성과물에 상당히 영향을 미친다. 막연히 좋은 사업아이템을 알려달라고 하기 보다는 인공지능에게 본인이 사용자가 창업을 하는데 그것을 지도하는 매니져나 관리자라고 역할을 부여하면 인공지능은 그에 걸맞게 행동하며 전혀 다른 결과물을 내놓는다. 심지어 동시에 여러 역할을 부여해서 작업을 다양한 시각에서 보충할 수 도 있다. 한 명은 창업하려는 사람, 다른 사람은 소비자, 다른 사람은 경쟁자 등의 역할을 부여해 특정 사업아이템에 대해서 여려 명의 시각을 비교해보는 것이다.
인공지능의 개발 속도는 장차 엄청나게 빨라지는 것이다. 몇몇 사람들은 LLM이 처음 나왔을 때 그 소문을 듣고 몇번 써보다가 기능이 기대 이하임을 깨닫고 이내 사용을 중지하는 경우가 있다. 하지만 지금 사용하는 인공지능은 앞으로 나올 인공지능 중 가장 좋지 못한 버전을 가능성이 매우 높다. 컴퓨터가 그러했던 것 처럼 말이다. 때문에 현재 수준에 실망하지 말고 그 발전에 주목하면서 계속 사용해보는 것이 중요하다.
