최근 회사에서 AI 에이전트의 막무가내 행동으로 인해 200개가 넘는 이메일이 삭제된 한 엔지니어의 이야기를 들었다 (link). “허락 없이 이메일을 삭제하지말라” 라는 기본지침이 누락되면서 벌어진 사고였는데, 결국 AI가 연결된 기기의 전원을 강제 종료하고 나서야 상황이 일단락되었다고 한다. 그렇게 중요한 명령을 잊어버리다니. 안타깝게도 이 현상은 현재 AI의 고질적인 문제이며 아직 명확한 해결책은 없다.

AI 에이전트가 기존 챗봇형 AI와 달리 유저를 기억하는 방식은 의외로 단순하다. 과거의 수많은 대화 내용을 파일로 만들어서 세션이 시작될 때마다 읽는 방식이다. AI는 좀 더 효율적인 업무 처리를 위해 이 방대한 내용의 자연어를 요약하고 압축해서 기록하는데, 바로 이 과정에서 유저의 요청 사항이나 중요한 정보가 누락될 수 있다.

재미있는 점은 이 현상이 우리 뇌에서도 일어난다는 것이다. 최근에 김영하 작가의 ‘단 한 번의 삶’ 이라는 책을 읽으며 겪은 일이다. 평소 책 읽을 시간을 내기 어려워 출퇴근 시간을 활용하기로 결심, 그 이후 지하철에 타기만 하면 눈에 불을 켜고 앉을 자리를 찾았다. 단 5분이라도 책을 읽기 위해서였다. 그렇게 몇 주에 걸쳐 완독하게 되었는데 워낙 오랜 기간 시간을 토막내어 읽어서인지 이 책이 무슨 내용이었지라는 생각이 들었다. 책 한 권이 내 뇌에 저장된 것이 아니라, 수만 개의 글자가 그저 스쳐 지나간 기분이었다. 하나의 의미로 모여야 할 내용들이 수 십개의 파일 형태로 저장되었고, 내 뇌가 그 조각난 정보들을 요약하고 압축해버린 것은 아닐까. 그날 나는 그 책을 한 자리에서 앉아 처음부터 끝까지 다시 읽었다. 그리고 나서야 그 찝찝한 느낌을 해소할 수 있었다.

겉보기엔 서로 관련 없어 보이는 이야기들을 하나로 엮어 그 중심을 관통하는 메세지들을 추려내는 것, 그 과정에서 사소한 내용과 저자와 독자 두 관계를 잇는 가장 중요한 맥락을 구분하여 처리하는 작업. 독서를 할 때 발휘되는 우리 뇌의 엄청난 능력이다. 하지만 이 때 한 번에 얼마나 많은 맥락을 담아낼 수 있는가, 하는 이 ‘기억 용량’은 개개인의 역량일 것이다.

회사에서 AI 에이전트와 일한지 한 달째, 일하면 할수록 느낀다. 인간의 뇌가 특별한 이유는 방대한 정보를 다양한 방법으로 저장하고, 알맞은 때에 그것들을 연결해 직관을 발휘하거나 틀을 깨는 사고를 할 수 있기 때문이다. 이는 아직 AI가 대체할 수 없는 영역이다. 그리고 이 사고의 영역을 넓히고 역량을 강화하려면 그만한 훈련이 필요하다. 동공에 스쳐 지나가는 짧은 컨텐츠들을 멀리하고, 더 깊고 치열하게 오랜 시간 감상하며 사유할 수 있는 작품들을 가까이 하는 것. 그리고 그 경험을 기반으로 나만의 대체 불가능한 무언가를 만들어보는 연습 같은 것 말이다.

(MoMA PS1에 위치한 James Turrell의 Meeting. 작품 공간을 감상하고 있는 사람.)