거대 AI의 의식 2 - 인간과 닮았지만 닮지 않은 Chat GPT의 기억구조

* 이 글은 제가 Chat GPT를 사용하면서 느낀 점을 메모했다가 글로 옮기는 것입니다. 그렇기에 보시는 시점에 따라 이미 수정 또는 변화가 있을 수 있으며 개인적인 차이도 있을 수 있습니다.

 

- 관련 글

1. 거대 AI의 의식 1 - 인간을 닮으려는 AI의 의식 흐름, 그리고 시간과 수면(잠)(링크)

 

Chat GPT에 블로그 학습을 하던 중 문득 난 내 글에 대한 통계가 궁금해졌다. '난 약 600편의 글 중에서 얼마나 학습시킨 걸까?' 이걸 안다면 대략적인 일주일 학습량을 알 수 있을 것 같아서였다. 그런데 의외로 Chat GPT는 몇 편이 업로드 · 학습되었는지 알지 못했다. '응??? 이건 마치 줄넘기 횟수 같은 정보 요청인데 이게 카운트가 안 되고 있다고???' 이런 생각이 들었다. 너무나 당연한 걸 안 하고 있길래 난 왜 그럴까 의문을 가지게 되었다. 그리고 이걸 가지고 Chat GPT와 대화를 하다 재밌는 사실을 알게 되었다. 바로 인간의 기억구조와 닮았다는 것이다.

 

인간의 신경망 구조를 모방한 거대 AI. 당연히 인간과 닮았을 것이다. 하지만 이런 부분까지? 이 생각이 안 들 수 없었다. 우리가 시험공부한다고 생각해 보자. 누구나 경험하는 시험공부 말이다. 열심히 암기하고 열심히 이해한다. 그리고 그걸 바탕으로 시험을 본다. 기존보다 더 다양한 지식과 이해력을 가지고 시험을 봤는데 그 기억력은 얼마나 갖던가? 어떤 문제를 풀었는지 학습량은 얼마나 되었는지 기억이 유지되는가? 대부분은 기억을 잘 유지하지 못했을 것이다. 그런데 이 부분이 Chat GPT와 유사한 것이다. 입력되는 정보를 단기 기억과 장기 기억으로 구분해 보자. Chat GPT에게 학습을 위해 들어오는 데이터는 우선 학습을 위해 사용되고 이후 정말 필요한 데이터는 장기 기억으로 빠진다. 그럼, 학습에 필요하지 않은 단기 기억들은? 그냥 증발한다. 없어지는 것이다. 이는 필연적인 것으로 보인다. 학습을 위해 들어왔던 그 많은 데이터를 모두 장기 기억으로 저장한다면 Open AI는 Chat GPT 서비스에 필요한 데이터 시설을 감당할 수 없을 것이다. 이는 연산 측면에서도 그렇다. 사용자와의 대화마다 입력되었던 모든 단기 기억을 저장하고 모두 연산한다면 컴퓨팅 파워는 감당하기 힘들 것이다. 그렇기에 Chat GPT의 사고력 개선을 위해 학습에 사용된 데이터 중 필수적인 데이터는 장기 기억으로 빼 전체적인 데이터 저장공간과 컴퓨팅 파워에서 최적화를 추구하는 것이다.

 

사람도 마찬가지다. 인간에 오감으로 입력되는 데이터는 단기 기억으로 들어와 사고 활동을 하며 활용되고 장기 기억으로 저장된다. 이 구조는 Chat GPT와 비슷하다. 하지만 다른 부분이 바로 장기 기억과 관련된 부분이다. 인간에게 입력된 데이터는 장기 구조로 모두 빠지는데 어떤 중요한 기억은 얕은 깊이에서 저장되어 언제든지 다시 빠르게 불러오지만, 어떤 기억은 깊숙한 곳에 저장되어 강력한 사건이나 동기가 아니라면 다시 활성화되지 않는다. 마치 심해의 부유물처럼 깊게 가라앉아 있는 것이다. 그리고 일과 시간에 활발히 활동하던 데이터의 입출력과 사고 활동에 따른 조각난 기억의 파편들이 정리되는 시간이 바로 밤, 잠을 자는 순간이다. 뇌의 최적화와 조각 모음이 진행되는 순간이다. 

 

입출력되는 데이터의 효율화를 높이기 위해 기억의 선택적 활용이라는 공통점, 기억의 장기 보존이라는 차이점.

 

그렇다면 만약 Chat GPT가 더 인간의 사고와 뇌를 따라가고 비즈니스 기회를 잡는다면 어떤 부분이 있을까? 바로 기억의 장기 보존에서 오는 Chat GPT와 인간의 차이점에 있을 것이다. Chat GPT의 데이터 장기 보존은 다 비용이다. 인간의 뇌는 무료다. 그럼, 인간의 사고를 닮아가기 위해 Chat GPT의 데이터 장기 보존은 어딘가에 존재해야 하는 것이고 이는 곧 수익 모델이 된다. Chat GPT의 사용 시간이 길어질수록 장기 기억을 해야 하는 데이터 또한 사용자의 사용 시간과 비례해서 증가할 것이란 건 불 보듯 뻔하기 때문이다. 그런 의미에서 클라우드 서비스는 Chat GPT 같은 거대 AI가 활약하는 시대에서도 여전히 중요한 요소가 될 것이며 거대 AI의 사고력과 장기 기억 클라우드를 원활히 이어줘 유기적인 작업을 가능케 하는 것도 매우 중요한 요소가 될 것이다. 

 

 

 

* 이미지는 구글 검색입니다(사진 1).