데모 받기
용어 설명

온프레미스 AI란? 사내 AI 구축 전에 볼 것

고객 · 거래 데이터를 회사 밖으로 보내기 어려운 회사가 사내 AI를 들일 때 가장 먼저 따지는 것이 설치 위치입니다.

글 안재영 · Rivly 대표

정의

온프레미스 AI는 AI 시스템을 공급사 클라우드가 아니라 회사가 직접 관리하는 서버에 설치해 쓰는 방식입니다. 회사 소유 클라우드 계정에 설치하는 방식과 묶어 '구축형(설치형) AI'라고 부르기도 합니다.

회사들이 온프레미스 AI를 찾는 이유

  • 고객 정보 · 거래 데이터를 외부로 반출하지 않아야 하는 사내 규정이나 계약
  • 데이터가 어디에 저장되고 누가 접근하는지 직접 통제하고 싶을 때
  • 공급사를 바꾸거나 계약이 끝나도 데이터와 설정을 그대로 남기고 싶을 때

설치 방식 비교

구분공급사 클라우드고객사 클라우드 계정사내 서버
데이터 위치공급사 환경고객사 계정 안고객사 서버실
시작 속도가장 빠름중간준비 기간이 가장 김
통제 범위공급사 정책을 따름고객사가 계정 · 네트워크를 관리고객사가 전부 관리
운영 부담적음중간큼(장비 · 보안 · 업데이트)

사내 AI 구축 전에 확인할 것

  • AI 모델은 어디에서 돌아가나요? 데이터 저장은 회사 안에 두되 질문과 근거 일부가 외부 모델 API로 전송되는 구성인지, 모델까지 회사 안에서 돌리는지 구분합니다.
  • 업무 데이터를 어떻게 연결하나요? 기존 시스템을 바꾸지 않고 연결할 수 있는지 봅니다(데이터 사일로).
  • 누가 무엇을 볼 수 있나요? AI도 묻는 사람의 권한 안에서만 데이터를 읽어야 합니다.
  • 계약이 끝나면 무엇이 남나요? 업무 지도와 데이터를 그대로 가져올 수 있는지 확인합니다.

Rivly는 고객사 클라우드 계정이나 사내 서버(온프레미스)에 설치합니다. 업무 지도와 데이터는 고객사에 보관되고, 계약이 끝나도 그대로 가져갈 수 있습니다.

함께 읽기