캐피털원은 ‘왜 은행에 최고과학자가 필요한가’라는 질문에 답을 내놓고 있다. IEEE Spectrum이 소개한 이야기에 따르면, 프렘 나타라자난 아마존에서 자연어 이해와 Alexa AI 조직 전체를 5년간 이끌다가 캐피털원의 최고과학자로 자리를 옮겼다. 그는 AI 연구와 배포의 흥미로운 지점이 빅테크의 수평적 플랫폼에서 금융 같은 산업 수직 영역으로 이동하고 있다고 봤다. 캐피털원은 1억 명이 넘는 고객에게 서비스를 제공하는 금융사다. 은행이 AI를 ‘배포할 기술’이 아니라 ‘과학적 학문’으로 대우하려는 이유는, 대규모 실시간 사기 탐지처럼 일반적인 파운데이션 모델로는 풀기 어려운 문제를 직접 연구해야 하기 때문이다. 작년 초에는 고객의 요청을 바탕으로 행동까지 취하는 에이전트형 AI 차량 구매 서비스를 자체 개발해 선보였다. 이 이야기는 단순한 기업 사례가 아니라 분산 컴퓨팅이라는 렌즈로 다시 읽을 가치가 있다.
P2P 관점에서 가장 눈에 띄는 대목은 실시간 사기 탐지다. 기사에서는 최고의 사기 모델이 카드를 탭하는 데 걸리는 시간 안에 탐지·완화를 수행해야 한다고 말한다. 이건 결국 레이턴시 제약이다. 수십억 건의 트랜잭션을 대상으로 실시간 판정을 내리려면 중앙 서버 한 대가 아니라 분산된 데이터·컴퓨팅 자원이 필요하다. 여기서 WebRTC나 P2P 메시징 같은 실시간 네트워킹 기술이 자연스럽게 연결된다. 캐피털원이 실제로 P2P 기술을 쓴다는 뜻은 아니다. 다만 은행이 직면한 문제가 우리가 오래 다뤄온 분산 시스템의 문제와 닮아 있다는 뜻이다. IEEE Spectrum 원문을 읽어보면 AI를 실서비스에 올리기 위해 얼마나 많은 인프라 결정이 필요한지 알 수 있다.
‘continuous learning’이라는 개념도 흥미롭다. 나타라자난 배포 후에도 시스템이 계속 개선되는 ‘연속 학습’을 강조했다. 대부분의 AI 시스템은 시간이 지나면 성능이 떨어지는데, 캐피털원은 배포 이후에도 학습이 이어지는 구조를 목표로 한다는 것이다. 이건 모델 하나의 문제가 아니라 데이터 수집·버전 관리·피드백 루프를 묶는 시스템 설계 문제다. 캐피털원은 약 15년에 걸친 클라우드 우선 전략으로 데이터·컴퓨트·AI 실험 환경을 통합했고, 미국 주요 은행 중 유일하게 퍼블릭 클라우드에 올인했다. 중앙 집중형 인프라를 먼저 만들었기에 가능한 일이지만, 연속 학습과 실시간 탐지가 결합되면 분산 에지 처리와 동료 간 데이터 교환 같은 P2P적 구조가 필요해질 수 있다. 물론 이건 추정이다. 다만 모든 데이터를 한 곳에 모으는 방식만으로는 감당하기 어려운 조건이 금융이라는 수직 영역에서 계속 생겨나는 건 분명해 보인다.
마지막으로 ‘destination-back thinking’이 주는 시사점을 짚고 싶다. 나타라자난 ‘현재 기술로 뭐가 가능한가’가 아니라, 고객이 겪을 경험을 먼저 상상하고 그 뒤로 필요한 과학적 돌파구를 거꾸로 찾는다고 말한다. 이건 P2P 제품을 만들 때도 유효하다. 내가 PonsLink와 PonsWarp 같은 초기 MVP를 다룰 때도 ‘어떤 연결을 언제, 어떻게 제공할 것인가’를 먼저 정하고 그걸 실현할 실시간 네트워킹 구조를 거꾸로 설계했다. 은행의 사례가 우리에게 주는 질문은 단순하다. 정말 원하는 경험이 무엇이고, 그 경험을 만들려면 어떤 분산 기술이 필요한가. AI가 아무리 똑똑해져도 최종 사용자에게 도달하는 경로가 실시간이고 회복 가능해야 한다면 P2P와 분산 시스템은 여전히 핵심 재료다.
댓글