코드 한 줄 안 쓰고도 AI 앱 비용을 예측 가능하게 만드는 법
한 개발자가 LLMCap이라는 도구를 만들어서 해커뉴스 메인에 올렸다. 코드랑 OpenAI API 사이에 프록시로 들어가서, 하루 한도를 넘으면 모든 호출을 강제로 막아버리는 도구다. 거칠지만 확실히 작동한다.
만든 이유는 단순하다. AI 청구서에 자꾸 놀라서.
개발자라면 LLMCap을 깔고 마음 편히 자면 된다. 개발자가 아니면 못 깐다. API 키도 없고, 어디서 호출이 일어나는지도 모른다. 요즘 AI로 뭘 만들고 싶은 사람 대부분이 이 지점에서 막혀 있다.
그래서 개발자 아닌 사람용 정리.
AI 비용은 왜 터지는가
GPT나 Claude 한 번 호출하는 비용은 적다. 문제는 요즘 AI 앱이 한 번으로 안 끝난다는 거다.
에이전트가 툴을 부르고, 그 툴이 또 다른 모델을 부른다. 타임아웃 나면 재시도하고, 재시도할 땐 컨텍스트가 더 커진다. 사용자가 또 입력하면 처음부터 다시. 하나씩 보면 낭비 같지 않다. 쌓이면 점심 먹기 전에 100달러가 날아간다.
개발자는 비용 관리 시스템을 짜서 해결한다. 비개발자는 다른 방식으로 풀어야 한다. 프록시를 직접 만들 순 없으니까.
노코드 AI 도구 고를 때 볼 것
플랫폼 고르기 전에 체크할 것 몇 가지.
- 크레딧 방식인가, 실 API 과금인가? 크레딧은 예산 잡기 쉽다. 실 API 과금이면 이번 달 모델 가격에 그대로 노출된다.
- 돌리기 전에 비용이 보이나? 버튼 하나에 10센트가 나올지 30달러가 나올지 끝나봐야 아는 도구는 운영에 못 쓴다.
- 상한선 걸 수 있나? 월별이든, 작업별이든 뭐라도.
- 유휴 인프라에 돈이 나가나? 안 만들 때도 워크스페이스 비용이 빠지는 구조면 그냥 비용이 계속 쌓인다.
전부 기술 질문이 아니다. 어느 영업 페이지에서든 물어볼 수 있는 것들이다.
DontCode가 잡은 방식
다 풀었다고 말하진 않겠다. 다만 DontCode의 원칙은 단순하다. 사용자가 우리한테 API 청구서를 받을 일은 없다. 크레딧 사고, 크레딧 쓰고, 떨어지면 멈춘다.
우리 AI는 앱 빌딩에 맞춰 파인튜닝되어 있다. 마케팅 멘트처럼 들리지만, 실제로는 일반 Claude나 GPT 래퍼보다 호출당 결과물이 많다는 뜻이다. 재시도 적고, 토큰 덜 쓰고, 기능 하나 만드는 데 드는 비용이 낮다.
키 관리 안 해도 된다. 프록시 안 거쳐도 된다. 모델 고를 필요 없다. 뭘 만들고 싶은지 말하면 플랫폼이 알아서 가장 저렴하게 잘 만들어준다.