전 세계 190개국에서 주당 270만 건의 환자 데이터를 처리하는 규모의 경제

AI Care Partner(AI 케어 파트너) Heidi의 플래그십 제품인 Heidi Scribe(하이디 스크라이브)는 190개국 이상에서 주당 약 270만 건의 환자 상호작용을 처리하며 글로벌 확장을 이뤄냈다. 이는 초기 인프라 설계 단계부터 데이터 격리와 안정성 장치를 반영한 결과다.

의료 데이터 안전성을 위해 '기본적으로 안전한 변경(safe by default)' 원칙을 엔지니어링 프로세스에 도입했다. 위험 요소가 있는 변경 클래스에는 지속적 통합(CI, Continuous Integration) 게이트와 카나리 릴리스(canary releases, 일부 사용자에게만 먼저 배포하는 방식)를 적용해 리스크를 제어한다. 데이터베이스 스키마와 인덱스 변경 사항까지 리뷰 대상인 코드로 관리해 운영 안정성을 확보했다.

데이터 거주성 보장을 위한 지역별 물리적 격리 인프라 구축

지역별 규제 체계에 따른 환자 데이터 저장 의무를 충족하기 위해 Heidi는 전 세계적으로 논리적으로 완전히 격리된 프로덕션 배포 환경을 운영한다. 호주의 APP, 유럽의 GDPR, 일본의 APPI, 미국의 HIPAA 등 각 지역 규제에 맞춰 환자 데이터를 해당 지역 내에만 저장하는 구조다. 이는 인프라 설계 단계부터 데이터의 물리적 위치를 고정하고 접근을 제어하는 기술적 강제 장치로 작동한다.

관할 구역을 인식하는 검색 체계는 국가별로 최적화된 라이선스 기반 임상 지식 베이스에서 정보를 추출한다. BMJ Best Practice, NICE CKS(영국 국립보건의료연구소 임상 지식 요약), MIMS(의약품 정보 제공 서비스)와 같은 전문 파트너사의 지식 베이스를 활용한다. 이를 통해 영국 임상의에게는 영국 가이드라인을, 호주 임상의에게는 호주 처방집(Formularies, 지역 내 사용 가능한 의약품 목록)을 매칭해 제공함으로써 국가별 의료 기준과 처방 지침의 불일치를 해결한다.

이러한 지역별 맞춤형 정보 제공과 대규모 데이터 처리를 효율적으로 수행하기 위해 Heidi는 데이터베이스 계층의 최적화를 진행했다.

MongoDB 통합으로 구현한 유연한 데이터 구조와 검색 성능 개선

인프라 마이그레이션을 통해 주요 API의 지연 시간을 약 33% 감소시켰다. LangChain(LLM 애플리케이션 프레임워크)으로 대량의 의료 문서를 벡터 임베딩으로 변환하고 이를 MongoDB Atlas(클라우드 데이터베이스 서비스) 내에서 처리하는 파이프라인을 구축했다. 이 방식은 전사된 의료 용어를 외부 지식과 직접 연결하는 시맨틱 검색을 가능하게 하여 데이터 조회 성능을 개선했다.

문서 데이터베이스(Document Database) 방식은 데이터베이스 하부 구조를 매번 재설계하지 않고도 새로운 데이터 필드를 즉각 추가하거나 변경할 수 있어 개발 속도를 높였다. 특히 MongoDB Vector Search(벡터 검색 기능)를 통합해 별도의 벡터 데이터베이스를 추가 구축하고 관리해야 하는 인프라 운영 복잡성을 제거했다.

Heidi는 초기 설계 단계에서 데이터 거주성 확보와 수평 확장성 사이의 우선순위를 확정하고, 지역별 격리 배포 구조와 통합 벡터 DB를 채택해 규제 대응 비용을 낮추고 성능 지표를 최적화했다.

규제 산업의 AI 설계 시 데이터 거주성 확보와 수평 확장성 사이의 우선순위를 초기 설계 단계(Founding Decision)에서 확정해야 한다. 지역별 격리 배포 구조와 통합 벡터 DB 채택 여부에 따른 규제 대응 비용 및 성능 지표를 비교해 인프라 모델을 결정한다.