데모 받기
구축 비용

사내 AI 구축 비용, 어디에 돈이 드는가

사내 AI 구축 비용을 물으면 대개 'GPU가 얼마냐'로 시작합니다. 실제로는 모델보다 데이터를 연결하고 정리하고, 권한과 승인 흐름을 맞추는 데 드는 몫이 큰 경우가 많습니다.

글 안재영 · Rivly 대표

더한다늘린다좌우한다더한다이어진다AI 모델구축 비용데이터 연결업무 지도데이터 정리

비용이 드는 여섯 가지 항목

항목무엇에 드나크게 좌우하는 것
AI 모델외부 AI 서비스 사용료 또는 사내 서버에서 직접 돌릴 장비 · 운영비질문량, 외부 서비스를 쓸 수 있는지(보안 정책), 필요한 응답 속도
데이터 연결주문 · 재고 · 배송 시스템에서 데이터를 가져오는 연결 작업연결할 시스템 수, 표준 연동이 있는지 파일로만 주고받는지
데이터 정리시스템마다 다른 상품 코드 · 거래처 이름을 맞추는 일중복 · 불일치가 얼마나 많은지(데이터 사일로)
업무 지도 설계대상 · 관계 · 할 수 있는 일 · 승인할 사람을 정리하는 일다룰 업무 범위, 참여하는 부서 수
권한 · 승인누가 무엇을 볼 수 있고 누가 승인하는지 맞추는 일지역 · 역할별로 권한이 얼마나 세밀한지
운영 · 유지시스템이 바뀔 때 연결과 지도를 고치는 일, 사용자 지원업무가 얼마나 자주 바뀌는지, 사내 담당자가 직접 고칠 수 있는지

온톨로지 구축만 따로 보면 온톨로지 가이드의 비용 항목에 정리한 다섯 가지가 비용을 좌우합니다. 이 글은 그보다 넓게, 사내 AI 전체를 들일 때 드는 몫을 나눠 봅니다.

방식에 따라 비용 구조가 다릅니다

방식비용이 몰리는 곳잘 맞는 일
AI 대화 서비스만 도입사용자 수나 사용량만큼 드는 사용료문서 요약 · 초안 작성처럼 사내 시스템과 이을 필요가 없는 일
RAG 구축문서 수집 · 검색 품질 맞추기규정 · 매뉴얼처럼 문서에 답이 있는 질문
온톨로지 기반 AI시스템 연결 · 데이터 정리 · 업무 지도 설계주문 · 재고 · 배송처럼 여러 시스템을 엮어야 하는 질문과 처리

세 방식은 서로를 대신하지 않습니다. 사내 시스템과 이을 필요가 없는 일에 온톨로지를 만들 필요는 없고, 여러 시스템을 엮어야 하는 질문을 문서 검색만으로 풀기는 어렵습니다. 먼저 AI에게 맡길 질문을 적어 보면 어느 방식에 돈을 써야 하는지가 보입니다.

보이지 않는 비용

  • 현업 담당자의 시간: 업무 규칙과 예외를 설명해 줄 사람이 프로젝트에 참여해야 합니다.
  • 검증 비용: AI의 답이 맞는지 사람이 다시 확인해야 한다면 그 시간도 비용입니다. 답마다 근거가 붙으면 이 몫이 줄어듭니다.
  • 바뀌는 시스템: ERP나 쇼핑몰이 바뀔 때마다 연결을 고쳐야 합니다. 누가 고치는지 계약 전에 정해 둡니다.
  • 잘못된 처리의 비용: AI가 시스템을 직접 바꾸다 틀리면 되돌리는 비용이 큽니다. 사람 승인을 거치는 구조가 이 위험을 줄입니다.

비용을 줄이는 순서

  1. AI에게 맡길 질문과 처리를 3~5개만 고릅니다. 자주 묻고, 답을 찾는 데 시간이 많이 드는 것부터입니다.
  2. 그 질문에 필요한 시스템만 연결합니다. 처음부터 모든 시스템을 잇지 않습니다.
  3. 짧은 시범에서 실제 데이터로 답의 정확도와 줄어든 시간을 확인합니다.
  4. 효과가 확인된 범위부터 넓히고, 그때 업무 범위와 규모에 맞춰 비용을 정합니다.

견적을 받을 때 물어볼 것

  • 견적에 AI 모델 사용료가 들어 있나요, 따로 드나요? 질문량이 늘면 어떻게 달라지나요?
  • 데이터 연결과 정리 작업은 누가 하고, 시스템이 바뀌면 다시 비용이 드나요?
  • 설치는 우리 클라우드 계정이나 사내 서버에 하나요? 장비는 누가 준비하나요?
  • 시범 범위와 기간, 성공 기준을 계약 전에 정할 수 있나요?
  • 계약이 끝나면 업무 지도와 데이터를 가져올 수 있나요?

Rivly는 기간과 비용을 업무 범위와 규모에 따라 맞춤 견적으로 드립니다. 먼저 시범 프로그램에서 고객사 데이터로 효과를 확인한 뒤 결정하실 수 있습니다.

함께 읽기