AI 프로그램 개발 비용, 개발비보다 매달 나가는 요금이 문제입니다 [2026]

프리시가 2026년에 발행한 API 연동·백엔드 견적 9건의 중앙값은 150만 원이었습니다. AI 기능을 붙이는 작업 대부분이 이 범주에 들어갑니다.

문제는 여기서 끝나지 않는다는 점입니다. 일반 프로그램은 다 만들면 서버비 정도만 나가는데, AI 기능은 쓸 때마다 요금이 붙습니다. 사용자가 늘면 요금도 같이 늘고, 설계를 잘못하면 개발비를 몇 달 만에 추월합니다.

그래서 AI 프로그램 견적은 두 줄로 받아야 합니다. 만드는 값(한 번) 과 굴리는 값(매달). 한 줄짜리 견적만 받고 시작하면 석 달째에 당황하게 됩니다.

같은 "AI 붙여주세요"인데 비용이 자릿수로 갈리는 이유입니다.

1층. 프롬프트 호출 — 외부 AI 모델에 요청을 보내고 답을 받아 쓰는 방식입니다. 문서 요약, 문의 분류, 답변 초안 생성, 리뷰 감정 판별 같은 일이 여기 들어갑니다. 대부분의 "AI 기능"이 실제로는 이 층이고, 여기서 끝나면 비용도 가장 낮습니다.

2층. 사내 문서 검색 결합(RAG) — 우리 회사 문서를 찾아서 그 내용을 근거로 답하게 만듭니다. 사내 규정 질의응답, 제품 매뉴얼 챗봇이 대표적입니다. 문서를 쪼개 저장하는 작업과 검색 품질 조정이 들어가서 개발량이 확 늘어납니다.

3층. 파인튜닝 — 우리 말투나 정해진 양식을 모델에 학습시킵니다. 학습 데이터를 만드는 일이 개발보다 오래 걸리는 경우가 많습니다. 1층·2층으로 안 되는 게 확인된 뒤에 가는 단계지, 처음부터 잡을 카드가 아닙니다.

4층. 자체 모델 운영 — 데이터를 외부로 내보낼 수 없을 때 우리 서버에서 모델을 직접 돌립니다. 개발비보다 장비·서버 비용이 커지는 구간입니다.

대부분의 회사가 원하는 건 1층이고, 2층까지 가면 충분합니다. 3층·4층을 먼저 제안받았다면 왜 그게 필요한지 근거를 되물어보세요.

부가세 별도입니다. 월 운영비는 사용량 가정에 따라 크게 달라지므로 구간으로만 적습니다.

여기에 공통으로 붙는 게 하나 있습니다. AI는 틀린 답을 자신 있게 내놓기 때문에, 사람이 확인하거나 되돌릴 수 있는 장치가 필요합니다. 이걸 뺀 견적이 제일 싸고 제일 위험합니다.

모델 요금표는 자주 바뀌므로 외우지 마시고 계산 구조만 기억하면 됩니다.

월 요금 = (요청 1건의 입력 분량 × 입력 단가 + 출력 분량 × 출력 단가) × 월 요청 건수 × 재시도 계수

여기서 분량은 토큰으로 셉니다. 한국어는 대략 한 글자가 1~2토큰이라고 잡으면 감이 옵니다. A4 한 장이 대략 1,500~3,000토큰쯤 됩니다.

실제로 두들겨 볼 때 놓치기 쉬운 게 세 개 있습니다.

입력이 출력보다 훨씬 큽니다. 문서를 통째로 넣으면 답은 세 줄이어도 요금은 문서 쪽에서 나옵니다

재시도가 요금을 배로 만듭니다. 답이 형식에 안 맞아 다시 부르는 경우까지 계수에 넣으세요

테스트 중에도 요금이 나갑니다. 개발 기간의 호출량을 예산에 미리 넣어두는 게 좋습니다

견적을 받으실 때 "월 예상 호출 건수 몇 건 기준으로 얼마"인지 물어보세요. 이 숫자를 못 내놓는 견적은 운영비를 계산하지 않았다는 뜻입니다.

실제로 예산이 무너지는 자리는 거의 정해져 있습니다.

긴 문서를 매번 통째로 보내는 설계. 질문이 짧아도 참고 문서 전체를 매 요청에 붙이면, 문서 길이가 그대로 요금이 됩니다. 필요한 대목만 찾아서 보내는 구조(2층)로 바꾸면 요금이 자릿수로 떨어집니다. 개발비를 더 쓰고 운영비를 줄이는 교환이죠.

대화 기록을 끝없이 이어 붙이는 설계. 챗봇에서 흔합니다. 대화가 길어질수록 매 요청의 입력이 불어나서, 같은 사용자가 오래 쓸수록 비싸집니다. 오래된 대화는 요약해서 넘기는 처리가 있어야 합니다.

사용자당 한도가 없는 설계. 무료로 열어둔 기능에 한 사람이 하루 수천 번 요청하면 그대로 요금입니다. 계정별·시간별 상한은 기능이 아니라 안전장치입니다.

이 셋은 만든 다음에 고치면 구조를 다시 짜야 해서 비쌉니다. 견적 단계에서 물어보는 게 가장 쌉니다.

AI가 대신할 판단: 무엇을 보고 무엇을 결정하게 할 건지 한 문장으로

참고할 자료: 사내 문서가 필요한지, 필요하면 몇 건이고 어떤 형식인지

사용량: 하루 몇 번, 몇 명이 쓰는지

틀렸을 때: 사람이 검토하는지, 그냥 나가는지 (이게 구조를 정합니다)

데이터 반출 제한: 외부 모델에 보내면 안 되는 자료가 있는지

특히 네 번째와 다섯 번째가 층을 결정합니다. 검토 없이 고객에게 바로 나가는 답변이거나 반출 제한이 있으면 비용 구간이 통째로 올라갑니다.

AI 도구를 사내에 도입하는 쪽이 궁금하시면 코덱스 도입 검토를, 일반 백엔드 연동 단가는 API 연동 개발 비용을 참고하세요.