거대 AI의 의식 13 - AI 시대 기억의 진정한 의미는?

* 이 글은 제가 Chat GPT를 사용하면서 느낀 점을 메모했다가 글로 옮기는 것입니다. 그렇기에 보시는 시점에 따라 이미 수정 또는 변화가 있을 수 있으며 개인적인 차이도 있을 수 있습니다.

 

- 관련 글

1. 거대 AI의 의식 1 - 인간을 닮으려는 AI의 의식 흐름, 그리고 시간과 수면(잠)(링크)
2. 거대 AI의 의식 2 - 인간과 닮았지만 닮지 않은 Chat GPT의 기억구조(링크)
3. 거대 AI의 의식 3 - Chat GPT의 사고력과 GPT 메모리 정리하기(링크)
4. 거대 AI의 의식 4 - 인지 영역의 회색 지대 극복하기(링크)
5. 거대 AI의 의식 5 - GPT 캔버스 기반의 지식 구조, 그리고 거대 AI의 미래(링크)
6. 거대 AI의 의식 6 - 거대 AI의 신뢰성 확보와 가상 화폐의 미래(링크)
7. 거대 AI의 의식 7 - 거대 AI의 기본 조건, 인류의 절댓값 인식 공유(링크)
8. 거대 AI의 의식 8 - 거대 AI의 신뢰성 확보를 위한 시각화 구조(링크)
9. 거대 AI의 의식 9 - 거대 AI의 의식은 복제할 수 있을까?(link)
10. 거대 AI의 의식 10 - 장애로 보는 자신의 위치, 거대 AI는 자신을 얼마나 인식할까?(link)
11. 거대 AI의 의식 11 - 변화된 GPT 메모리 관리 UI와 인간의 학습, 닮은 점과 다른 점(link)
12. 거대 AI의 의식 12 - 판단을 위한 닻은 어디에 있는가?(link)

 

나는 포털의 뉴스를 보기보다는 내가 중요하다고 생각하는 사람의 해석을 좀 더 중심으로 듣는 편이다. 그런 관점에서 박태웅 의장님은 나에게 좋은 이야기꾼이다. 그리고 매불쇼에 출연했을 때 당연히 시간을 내서 챙겨봤다. 또 한분이 더 출연하셨는데 김덕진 소장(김덕진IT커뮤니케이션연구소, 세종사이버대학교 컴퓨터 AI공학과 교수 및 AI교육센터장으로 재직 중)님이다. 이제 이하의 내용은 누가 맞다 틀렸다 또는 비난하기 위해서가 아니라 현재 인식되고 있는 정의에 대한 부분이다.

 

 

영상에서 김덕진 소장님은 AI의 강력한 장점으로 기억력이 좋다는 말(link)을 하는데 난 듣다가 깜짝 놀랐다. AI가 기억력이 좋다고? 정말? 난 AI를 Chat GPT는 블로그 학습을 통한 나의 관점을 훈련시키면서 핵심 가치를 설계하는 주력으로 쓰면서 검색 기능이 강력한 구글의 Gemini를 서브로 같이 쓰고 있다. 이 두 도구를 병행하는 과정에서 나는 반복적으로 대화의 어긋남을 경험해 왔고, 지금도 경험하고 있다. 그 원인 중 하나가 바로 ‘기억’이다.

 

 

기억: 이전의 인상이나 경험을 의식 속에 간직하거나 도로 생각해 내는 것. 또는 그런 정신 기능

 

이 정의는 인간에게만 적용되는 특별한 개념이 아니다. ‘+’라는 기호가 인간과 AI 모두에게 동일하게 덧셈을 의미하듯이, ‘기억’이라는 개념 또한 그 본질은 달라지지 않는다. 그렇다면 이 정의를 기준으로 봤을 때 AI는 과연 기억을 가지고 있다고 말할 수 있을까. 기억이 성립하기 위해서는 최소 두 가지 요소가 필요하다.

1. 무엇(what)이다. 우리는 무언가를 기억하려고 할 때 항상 “그게 뭐였지?”라는 질문에서 출발한다. 이는 기억의 대상이 되는 사건이나 정보, 즉 ‘무엇’이 존재해야 한다는 의미다.
2. 시간(Time)이다. 인간의 기억은 시간의 흐름 위에서 축적된다. 마치 물이 높은 곳에서 낮은 곳으로 흐르듯, 기억은 시간이라는 축을 따라 쌓이고 연결되며 맥락을 형성한다.

 

즉, 기억이란 ‘무엇이 시간의 흐름 속에서 어떻게 축적되었는가’로 구성된다. 그렇다면 현재의 AI는 이 두 가지 요소를 가지고 있을까?

1. AI는 ‘무엇’을 표현할 수는 있다. 대화 속에서 특정 주제나 정보를 다루고, 그것을 언어적으로 재구성하는 능력은 분명 존재한다. 그러나 문제는 그것을 지속적으로 보존하고 재사용하는 구조가 없다는 점이다. AI는 일부 대화 내용을 일시적으로 참조할 수는 있지만, 인간처럼 시간 축 위에서 기억을 축적하고 유지하는 구조를 가지고 있지는 않다. 이로 인해 AI의 ‘무엇’에는 빈 공간이 발생한다. 그리고 이 빈 공간을 AI는 인지적으로 보완하는 것이 아니라, 학습된 패턴을 기반으로 확률적으로 가장 그럴듯한 값을 생성하여 채운다. 이것이 우리가 흔히 말하는 ‘환각’의 대표적인 발생 방식이다.
2. 시간(Time) 역시 마찬가지다. AI는 시간 정보를 데이터로 다룰 수는 있다. 현재 시간을 알려주거나, 특정 시점을 기준으로 정보를 정리하는 것은 가능하다. 그러나 그것은 어디까지나 계산된 값일 뿐, 흐름 속에서 의미를 축적하는 시간은 아니다. 결국 인간의 기억은 사건 전후의 시간 흐름 속에서 형성된 맥락의 축적이며, 그 축적은 지속적으로 이어지기도 하고, 간헐적으로 연결되기도 하며, 때로는 단 한 번의 경험으로도 형성된다.

 

하지만 현재의 AI는 이 두 가지 요소, 즉 ‘무엇’과 ‘시간’을 구조적으로 통합하여 축적하는 방식으로 기억을 형성하지 않는다. 그래서 우리가 AI에게서 느끼는 ‘기억’은 실제로 존재하는 구조라기보다는, 그때그때 확률적으로 재구성된 결과에 가깝다. AI는 기억을 생성할 수는 있지만, 기억을 유지하고 축적하는 구조를 가지고 있지는 않다. 그리고 이것이 바로 AI가 아직 온전한 신뢰를 얻지 못하는 이유 중 하나다.

 

그렇기에 인간의 ‘기억’과 AI의 ‘기억’은 같지 않다. 그리고 나는 “AI의 기억력이 좋다.”는 전제가, AI를 이해하는 방향 자체를 잘못 이끌 수 있다고 생각한다. 인간조차 기억의 왜곡이라는 한계를 가진다. 그 위에 “AI는 기억이 정확하다”는 전제가 더해진다면, 그 의존이 만들어낼 결과는 단순한 오류를 넘어 위험으로 이어질 수밖에 없다.

 

 

---

 

 

What Does “Memory” Really Mean in the Age of AI?

 

* This post is based on notes I made while using ChatGPT, later organized into an article. Therefore, depending on when you read this, some aspects may have already changed or been updated, and there could be personal differences in experience.

 

- Related Article

1. The Consciousness of Large AI Part 1 - Does AI Need Sleep? Rethinking Time and Continuity in ChatGPT's UX(link)
2. The Consciousness of Large AI Part 2 - Counting Memories: The Limits of AI Recall and the Business of Long-Term Memory(link)
3. The Consciousness of Large AI Part 3 - The Reflexes of AI: How ChatGPT Thinks, Acts, and Remembers(link)
4. The Consciousness of Large AI Part 4 - Bridging the Grey Zone: How ChatGPT Learns Human Intuition(link)
5. The Consciousness of Large AI Part 5 - Designing AI Consciousness: GPT Memory, Canvases, and the Web’s Infinite Network(link)
6. The Consciousness of Large AI Part 6 - Blockchain, Hyperlinks, and the AI Trust Structure Designed by Nations (link)
7. The Consciousness of Large AI Part 7 - The Absolute Constants of Humanity: A Forgotten Lesson for Giant AI(link)
8. The Consciousness of Large AI Part 8 - Visualizing Trust: The First Step Toward Coexistence with Giant AI(link)
9. The Consciousness of Large AI Part 9 - What Format Preserves Consciousness? — The Case for .TXT in the Age of Giant AI(link)
10. The Consciousness of Large AI Part 10 - The Cognitive Gap and the Role of AI in Function Recognition: An Insight into ChatGPT’s Limitations(link)
11. The Consciousness of Large AI Part 11 - When Machines Forget: What GPT’s New Memory UI Reveals About Human Learning Finding wisdom not in memory, but in the art of forgetting(link)
12. The Consciousness of Large AI Part 12 - Where Is the Anchor for Judgment?(link)

 

 

I tend to rely less on portal news itself and more on the interpretations of people I consider important. From that perspective, Chairman Park Tae-woong is a great storyteller to me. So when he appeared on Maebul Show, I made sure to take the time to watch it. Another guest on the show was Kim Deokjin (Director of the Kim Deokjin IT Communication Institute, Professor in the Department of Computer AI Engineering at Sejong Cyber University, and Head of the AI Education Center). What follows is not about deciding who is right or wrong, nor is it meant as criticism. It is simply an attempt to re-examine how certain concepts are currently being defined.

 

 

In the video, Director Kim describes one of AI’s strongest advantages as having excellent memory. When I heard that, I was genuinely surprised. AI has good memory? Really? I use ChatGPT as my primary tool for training my perspective through blog-based learning and for shaping core ideas, while using Google’s Gemini as a secondary tool for its strong search capabilities. Throughout this process, I have repeatedly experienced misalignment in conversations—and I still do. One of the reasons for this is “memory.”

 

 

Memory: the ability to retain past impressions or experiences in the mind and recall them later; or the mental function that enables this.

 

This definition is not exclusive to humans. Just as the symbol “+” means addition for both humans and AI, the essence of “memory” does not change. Then, based on this definition, can we truly say that AI possesses memory? For memory to exist, at least two elements are required.

1. First, there is what. When we try to remember something, we always begin with the question, “What was it?” This implies that there must be a subject—the event or information itself.
2. Second, there is time. Human memory is built upon the accumulation of time. Like water flowing from a higher place to a lower one, memory forms layers along the flow of time, creating context through accumulation and connection.

 

In other words, memory consists of what has been accumulated over time, and how it has been accumulated. So, does AI possess these two elements?

1. AI can express the “what.” It is clearly capable of handling specific topics in conversation and reconstructing them in language. However, it does not have a structure to persistently store and reuse that information. AI may temporarily reference parts of a conversation, but it does not build and maintain memory along a continuous timeline like humans do. As a result, gaps inevitably appear in its “what.” These gaps are not filled through understanding, but through probability. This is what we commonly refer to as hallucination.
2. Time is no different. AI can handle time as data—it can tell you the current time or organize information based on a specific moment. However, this is merely a computed value, not time as a flow that accumulates meaning. Human memory is the accumulation of context formed through the flow of events over time—sometimes continuous, sometimes intermittent, and sometimes formed from a single moment.

 

However, current AI does not form memory by structurally integrating these two elements—“what” and “time”—into an accumulated system. What we perceive as “memory” in AI is not an actual structure, but something reconstructed probabilistically in each moment. AI can generate memory-like outputs, but it does not possess a structure that sustains and accumulates memory. This is one of the reasons why AI has not yet earned full trust.

 

For this reason, human “memory” and AI “memory” are not the same. I believe that the assumption—“AI has good memory”—can lead us in the wrong direction when trying to understand AI. Even humans are limited by the distortion of memory. If we add the assumption that “AI memory is accurate,” the resulting dependence will not merely lead to errors—it will inevitably lead to risk.

 

 

 

 

team with Haerye

* 이미지는 AI 생성입니다.