제프리 힌턴조차......뇌의 실제 작동방식을 설명할 모델로는 적절치 않다는 것을 깨달았다. 첫째, 뇌는 지도학습을 하지않는다. 사람이 이 냄새는 달걀 냄새고 저 냄새는 딸기 냄새라고 배울 때 그 냄새의 이름이 적힌 레이블을 받지는 않는다. 아이들은 달걀과 딸기라는 단어를 배우기도 전에 이 두 냄새가 서로 다르다는 것을 분명히 인식한다. 둘째, 역전파는 생물학적으로 일어날 수 없다. 역전파는 수백만 개의 시냅스를 동시에 그리고 신경망의 출력을 올바른 방향으로 정확한 양만큼 조정하는 마술 같은 방식으로 작동한다. 뇌가 어떻게 이렇게 작동할 수 있는지는 상상하기도 힘들다. 그렇다면 뇌는 어떻게 패턴을 인식하는 것일까?- P186
얼굴을 인식하고 자동차를 운전하고 방사선 사진에서 암세포를 인식하는 인공신경망은 새로운 것을 경험하면서 연속적으로 학습하지 않는다. 이책을 인쇄하는 시점을 기준으로 보면 오픈A[OpenAl에서 출시한 유명한 챗봇인챗GPT조차 수백만 명과 대화하면서 연속적으로 학습하지 않으며 세상에 출시된 순간부터 학습을 중단한다. 이 시스템이 새로운 것을 학습하도록 허락하지 않는 이유는 예전에 학습한 것을 잊어버리거나 틀린 것을 학습할 위험이 있기 때문이다. 그래서 현대의 AI 시스템은 매개변수를 고정하고 시간 속에 동결한다. 이들을 업데이트하려면 사람이 수행성과를 꼼꼼히 감시하면서모든 작업을 처음부터 새로 훈련시켜야 한다.- P190
4장에서 초기의 좌우대칭동물도 연속적으로 학습했음을 살펴봤다. 이들은 매번 새로운 경험을 할 때마다 신경세포들 사이의 연결이 강화되거나 약화된다. 하지만 초기 좌우대칭동물은 파괴적 망각 문제와 마주할 일이 없었다. 애초에 패턴을 학습하지 않았기 때문이다. 오직 개별 감각신경세포를 통해서만 세상의 사물을 인식하면 감각신경세포와 운동신경세포의 연결은 서로를 간섭하지 않고도 강화되거나 약화될 수 있다. 인공신경망이나 척추동물의 겉질처럼 지식이 신경세포의 패턴을 통해 표상될 때만 새로 학습한 내용이 기존의 기억과 간섭을 일으킬 위험이 생긴다.- P191
