안녕하세요, 그래파이입니다.
그래파이는 지난 10월 6일부터 8일까지 서울 코엑스에서 열린 'AI FESTA 26'에 참가했습니다. 5월 AI EXPO에 이어 올해 두 번째 전시로 많은 분들을 만나게 되었는데요. 이번에는 사흘 동안 부스에서 준비한 데모를 직접 시연하고 방문하신 분들과 질문을 주고받는 데 시간을 온전히 쓸 수 있었습니다. 3일의 전시 기간 동안 무엇을 보여 드렸고 어떤 질문을 받았는지 소개해 보겠습니다.
AI FESTA 26은 과학기술정보통신부 인공지능주간의 공식 페스티벌로, 코엑스 3층 C홀에서 사흘 동안 열렸습니다. 보통 코엑스의 전시는 1층에서 주로 열리기 때문에, 3층에서 열리는 이번 전시회에 발길이 이어질까 조금 걱정했지만, 걱정이 무색할 만큼 많은 분이 찾아 주셨습니다.
그래파이는 부스에 '모델에만 기대지 않는, 데이터 중심의 안전한 AI'라는 문구를 걸고, 올해 정식 출시한 아카식DB(AkasicDB)를 기반으로, 데이터를 보다 안전하게 잘 사용할 수 있게 해주는 AI 데이터 인프라를 소개했습니다. 특히 이번에는 데모를 만든 엔지니어들이 직접 방문객을 맞았는데요. 기업 실무자부터 공공기관과 연구기관, 군 관계자, 학생, 해외에서 온 방문객까지 다양한 분들이 부스의 데모에 관심을 보여 주셨습니다. 안내데스크에서는 뉴스레터 구독을 신청한 분께 키캡 키링을 드렸는데, 지금 이 글을 읽는 분 가운데에도 그때 만난 분이 계실지 모르겠습니다.
부스는 특별관인 AI 인프라관에 자리를 잡았고, 모니터 세 대에 체험 데모를 하나씩 띄웠습니다. 2억 건의 이미지에서 닮은 사진을 빠르게 찾아내는 벡터 검색, 같은 질문에 나온 두 답변과 그 근거를 견주어 보는 엔터프라이즈 에이전트 메모리, 그리고 문서를 볼 권한이 있는 사람에게만 정확하게 답하는 3종 데모였습니다.
사흘 동안 가장 많이 받은 질문은 회사 안에 직접 설치해 쓸 수 있는지, 온톨로지는 어떻게 만드는지였습니다. 데이터가 서로 이어지는 모습을 담은 1분짜리 그래프 영상 앞에서 발걸음을 멈추는 분도 많았고요. 그중에서도 관심을 많이 받은 '이미지 검색' 체험 데모를 조금 더 자세히 이야기해 볼까 합니다.
내 휴대폰 사진으로 2억 장을 빠르게 검색하기
사진 한 장이나 문장 하나를 넣으면 2억 건의 이미지 가운데 가장 닮은 사진들을 찾아 보여 줍니다. 준비해 둔 샘플을 골라도 되고, QR 코드를 찍어 휴대폰에 있는 사진을 직접 올려 볼 수도 있었습니다. 집에서 키우는 고양이 사진이나 그날 먹은 점심, 디저트 사진을 올려 보는 분이 많았는데요. 화면에 닮은 고양이와 비슷한 한 끼가 줄지어 뜨면, 2억 장 가운데서 이렇게 빨리, 이렇게 비슷한 사진이 찾아지느냐며 놀라워하셨습니다.
이런 검색을 가능하게 하는 것이 바로 벡터 DB입니다. 벡터 DB란 글이나 이미지 같은 비정형 데이터를 숫자의 배열(벡터)로 바꿔 저장하고, 뜻이 가까운 데이터를 찾아 주는 데이터베이스입니다. 사진 자체에 설명이 한 줄도 붙어 있지 않아도 '해 질 녘 바닷가를 걷는 강아지'라는 문장으로도 정확하게 사진을 찾을 수 있는 이유죠. 다만 데이터가 억 단위로 늘어나면 가까운 벡터를 정확하게, 그러면서도 빠르게 찾아내기가 훨씬 어려워집니다.
그래파이가 이번 전시에서 보여드릴 것으로 '벡터 검색'을 고른 이유도 여기에 있습니다. 문서나 이미지를 AI가 찾아 쓰게 하려는 기업은 흔히 벡터 검색에서 출발하는데요. 수만 건으로 시험할 때는 잘 돌아가던 검색이 실제 데이터 규모로 넘어가면 느려진다는 이야기를 자주 듣습니다. 억 단위에서도 정확도와 속도를 함께 유지할 수 있는지를 말이 아니라 화면으로 보여 드리자는 것이 출발점이었습니다.
비교 대상으로는 pgvector를 골랐습니다. pgvector는 널리 쓰이는 오픈소스 데이터베이스 PostgreSQL에 벡터 검색을 더해 주는 확장으로, 벡터 검색을 처음 도입할 때 가장 많이 선택하는 방법 가운데 하나입니다. 관계형 데이터베이스 안에서 벡터 검색을 함께 쓴다는 점에서 그래파이의 아카식DB와 성격이 같은 비교 대상이기도 합니다.
화면에는 같은 질문을 아카식DB와 pgvector에 동시에 보낸 결과를 나란히 띄웠는데, 찾아낸 사진은 거의 같아도 걸린 시간은 달랐습니다. 2억 건 조건에서 여러 요청이 한꺼번에 들어올 때 pgvector는 초당 91.7건을, 아카식DB는 초당 6,450건을 처리해 약 70배 차이를 보였습니다(자체 평가, Recall@10 0.99 이상 기준).
방문객이 궁금해한 것은 '숫자'보다는 '기준'
숫자를 보신 분들이 되물은 것은 무엇과 비교했는지, 어떤 조건에서 잰 것인지였고, 2억 건 검색 성능을 다른 제품과 비교한 자료를 메일로 꼭 보내 달라는 분도 계셨습니다. 저희 또한 예상치 못하게 뜨거운 반응에 많이 놀랐습니다.
반복해서 검색하면 캐시 때문에 결과가 달라질 수 있어서, 시연 화면에는 캐시 효과를 없애고 다시 재는 버튼을 넣어 두었고, 단계별로 걸린 시간과 디스크에서 읽은 용량도 함께 볼 수 있게 했습니다. 기업이 실제로 다루는 데이터는 이보다 큰 경우도 많고, 데이터가 많아질수록 차이는 더 뚜렷해집니다. 전시장에서는 2억 건까지만 보여 드릴 수 있어 오히려 아쉬웠습니다.
사흘 동안 가장 많이 받은 질문은 역시 '우리가 이것을 쓴다면'이었습니다. 우리 회사 안에서 돌릴 수 있는지, 우리 데이터로도 만들 수 있는지, 그 숫자는 어떤 조건에서 나왔는지. 기업이 AI 도입을 검토할 때 확인하려는 것은 시연의 결과 자체보다 그 결과가 도입하려는 환경에서도 제대로 나올지였습니다.
저희가 설명드린 내용도 같은 방향이었습니다. 수치는 어떤 조건에서 잰 것인지와 함께 말씀드리고, 실제 성능은 고객의 환경과 데이터로 직접 확인해 보는 과정을 거친다는 것입니다. 데이터를 밖으로 내보내기 어려운 곳을 위해 회사 안에 직접 설치하는 온프레미스 방식도 지원하고 있고요. 전시장에서 보여 드린 것은 준비된 데이터 위의 한 장면이지만, 그 장면이 각자의 현장에서도 그대로 나오게 하는 것이 그래파이가 할 일이라는 점을 이번 전시에서 다시 확인했습니다.
사흘 동안 부스를 찾아 주시고 질문을 건네주신 모든 분께 감사드립니다!