생각은 사람이, 정리는 AI가
기억하는 AI를 만든 과정
기획부터 인프라까지 혼자 만들어 ieum.ai로 공개한 AI입니다. 무엇을 고르고, 어떤 구조로 만들었는지 순서대로 적었습니다.
01왜 만들었나요?
목표는 내 생각을 AI가 이해하고, 함께 쓰는 두뇌를 만드는 것이었습니다.
그린 그림은 이렇습니다. 나는 생각을 말로 뱉기만 합니다. 정리는 AI가 합니다. 정리된 것을 바탕으로 원하는 걸 만들라고 시키고, 나는 결과를 검토합니다. 사람이 생각하고 검토하는 데만 집중하면 일이 훨씬 빨라진다고 봤습니다.
그런데 그때의 AI는 한 채팅방 안에서만 기억했습니다. 새 대화를 열면 처음부터 다시 설명해야 했습니다. 이 그림은 그대로는 불가능했습니다.
그린메이트를 만들며 AI의 기억을 설계해 본 경험이 있었습니다. 그래서 해 볼 만하다고 판단했습니다.
02유행과 다른 무엇을 골랐나요?
그 무렵에는 여러 AI가 각자 역할을 맡아 팀처럼 일하고, 결과물을 자동으로 만들어 내는 방식이 유행이었습니다.
저는 다르게 봤습니다. 결과가 나와도 사람이 그걸 이해하지 못하면 더 키울 수 없습니다. 문제가 생겼을 때 대응할 수도 없습니다.
그래서 AI가 알아서 다 하는 쪽이 아니라, 사람이 이해하기 좋게 AI가 돕는 쪽을 골랐습니다. 범위도 좁혔습니다. 여러 사람이 함께 쓰는 기능은 미루고, 한 사람의 기억을 온전히 다루는 데 먼저 집중했습니다.
결과를 이해할 수 있어야 그다음을 만들 수 있습니다.
03어떤 구조로 만들었나요?
시도했다가 버린 방식은 없었습니다. 대신 세 가지 질문을 오래 붙잡았습니다.
- 왜 그래프인가: 생각은 목록이 아니라 서로 이어져 있습니다.
- 어떻게 써야 자연스러운가: 쓰는 사람이 구조를 몰라도 되게 합니다.
- 속도와 비용을 어떻게 지키는가: 많이 기억해도 답은 빨라야 하고, AI가 읽는 양은 적어야 합니다.
그 답으로 찾기와 기억, 두 갈래를 만들었습니다.
찾기는 여러 겹입니다. 폴더와 태그로도 정리됩니다. 뜻이 가까운 기록끼리는 저절로 이어집니다. 그리고 원래 기록에서 개념을 뽑아 개념 그래프를 만듭니다. 개념 하나로 여러 기록을 함께 읽을 수 있고, 개념에서 세부 문서로 바로 내려가 필요한 내용을 빠르게 찾습니다.
- 말로 남긴 기록
- 개념 뽑기
- 개념 그래프
- 세부 문서
- 빠른 찾기
그래프에서 개념 하나를 누르면 세 단계로 내려갑니다.
- 개념: 그래프 위의 점 하나입니다. 예를 들면 “어텐션”입니다.
- 설명: AI가 여러 기록을 읽고 정리한, 그 개념에 대한 설명입니다.
- 원본 자료: 그 설명이 만들어진 바탕이 된 원래 기록입니다. 언제, 어떤 대화에서 나왔는지 그대로 볼 수 있습니다.
- 개념
- 설명
- 원본 자료
이 구조는 구글이 공개한 OKF(Open Knowledge Format)에서 가져와 이음에 맞게 구현했습니다. OKF는 AI와 사람이 함께 읽을 수 있게 개념 하나를 문서 하나로 정리하고, 문서끼리 링크로 잇는 방식입니다. 이렇게 하면 AI가 정리한 내용을 믿기 전에 원본을 직접 열어 확인할 수 있습니다. 앞에서 말한 “사람이 이해하는 AI”가 화면에서는 이렇게 드러납니다.
기억에서는 두 가지를 나눴습니다. 이 프로젝트 안에서 기억할 것과, 나라는 사람에 대해 알아야 할 것입니다. 또 상황은 계속 바뀝니다. 그래서 언제 바뀌었는지를 시간 순서로 엮어, 시간에 따른 맥락까지 읽게 했습니다. 이 부분에서 시행착오가 가장 많았습니다.
04처음 “된다”고 느낀 장면은 무엇이었나요?
두 번 있었습니다.
첫 번째는 공부할 때였습니다. AI의 핵심 원리인 어텐션을 공부하다 막힌 부분을 물었습니다. 이음은 제가 이미 아는 개념을 빌려 와 새 개념을 설명했습니다. 제가 어디까지 아는지 알고 있으니, 가장 빨리 이해되는 길로 설명한 것입니다.
두 번째는 다이어트를 할 때였습니다. 운동 기록, 먹은 것, 다친 곳을 그때그때 이야기해 뒀습니다. 그러자 제 몸 상태를 알고 답했습니다. 무슨 운동을 할지, 무엇을 먹을지, 왜 이런 결과가 나왔는지 물으면 쌓인 기록을 바탕으로 답했습니다. 의사 선생님께 들은 이야기와 같은 방향의 피드백이었습니다.
나를 아는 AI는 답하는 방법부터 달라졌습니다.
05기억하는 AI를 맡기시면 무엇부터 정하나요?
- 무엇을 기억할지: 오래 기억할 것과 이번 일에만 필요한 것을 나눕니다.
- 시간을 어떻게 다룰지: 바뀌는 정보는 언제 바뀌었는지 함께 남깁니다.
- 어떻게 찾을지: 속도와 비용을 함께 보고 구조를 고릅니다.
- 사람이 이해할 수 있는지: AI가 낸 결과를 사람이 확인하고 이어 갈 수 있게 만듭니다.
회사 문서나 상담 기록처럼 여러 사람의 기억이 필요하다면, 누가 무엇을 볼지부터 같이 설계합니다.
이음은 ieum.ai에서 데모로 써 볼 수 있습니다. 같은 기억 기술에서 시작한 그린메이트를 만든 과정도 함께 읽어 보세요.
FAQ자주 묻는 질문
ChatGPT로 만든 챗봇과 무엇이 다른가요?
일반 챗봇은 대화창이 바뀌면 지난 이야기를 잊기 쉽습니다. 기억하는 AI는 무엇을 남길지 고르고, 필요할 때 꺼내 지금 대화에 이어서 답합니다.
우리 회사 문서나 상담 기록으로도 만들 수 있나요?
네. 어떤 기록을 모으고, 누가 무엇을 볼 수 있는지부터 정하고 시작합니다.
AI가 틀린 답을 하면 어떻게 확인하나요?
답이 어느 기록에서 나왔는지 함께 보여 주게 설계합니다. 사람이 근거를 보고 확인할 수 있어야 하기 때문입니다.