AI 도구 비용은 좌석 수가 아니라 쓰는 양에서 샙니다

AI 도구를 붙이고 3개월쯤 지나면 이런 말이 나옵니다. 「생각보다 많이 나오는데요.」

청구서를 열어 보면 구독료 자체는 예상한 대로입니다. 늘어난 건 다른 줄입니다.

먼저 두 줄로 나눕니다

AI 도구 비용은 성격이 다른 두 가지가 한 청구서에 섞여 있습니다.

Figure 1

같은 청구서에 섞여 있는 2가지

좌좌석 요금

사람 수에 붙습니다

예측이 쉽습니다. 대신 줄이려면 사람을 줄이거나 계정을 정리해야 합니다.

사사용량 요금

쓴 만큼 붙습니다

예측이 어렵습니다. 대신 쓰는 방식을 바꾸면 바로 줄어듭니다.

대부분의 회사에서 문제는 오른쪽입니다. 그런데 대책은 왼쪽에서 세웁니다. 요금제를 낮추거나 사람 수를 줄이려고 하죠. 그러면 불편해지기만 하고 청구서는 안 줄어듭니다.

안 쓰는 좌석 — 가장 조용히 새는 곳

사람이 나갔는데 계정이 남아 있습니다. 부서를 옮겨서 이제 안 쓰는데 결제는 계속됩니다.

대부분의 도구가 관리자 화면에서 마지막 접속일을 보여 줍니다. 30일 넘게 안 들어온 계정을 뽑아 보십시오.

처음 해 보면 놀라는 회사가 많습니다. 그리고 이건 한 번 정리하고 끝나는 일이 아니라, 사람이 바뀔 때마다 다시 생깁니다.

퇴사 처리 목록에 계정 정리를 넣어 두시면 됩니다. 보안 문제이기도 합니다.

자동화가 사용량을 만듭니다

사람이 눌러서 쓰는 것은 하루에 몇 번입니다. 그건 예측이 됩니다.

튀는 건 자동으로 도는 쪽입니다. 문서가 올라오면 요약하게 해 뒀다든가, 문의가 들어오면 분류하게 해 뒀다든가.

여기서 두 가지가 겹치면 청구서가 크게 벌어집니다.

하나. 실패하면 다시 시도하는 구조. 오류가 한 번 나면 재시도가 붙고, 재시도가 또 실패하면 계속 돕니다.

둘. 같은 입력을 매번 다시 보내는 구조. 앞의 대화나 문서 전체를 매번 같이 보내면, 짧은 질문 하나가 긴 호출이 됩니다.

둘 다 만든 사람은 알고 있는데 비용을 보는 사람은 모릅니다. 그래서 청구서가 튀었을 때 원인을 못 찾습니다.

한도를 걸되 어디에 거는지를 봅니다

월 사용 한도를 거는 기능이 대부분 있습니다. 걸어 두십시오.

다만 하나는 확인해 두십시오. 한도에 닿으면 멈추는지 알림만 오는지입니다.

내부 업무용이면 멈춰도 됩니다. 그런데 고객이 쓰는 기능에 걸어 두었다가 한밤중에 멈추면 그게 장애가 됩니다.

고객용과 내부용을 다른 키로 나눠 두면 이 문제가 사라집니다. 처음 붙일 때 나눠 두는 편이 나중에 분리하는 것보다 쌉니다.

싼 모델로 바꾸기 전에

비용이 크면 더 싼 모델로 바꾸자는 말이 나옵니다. 맞는 방향인데 순서가 있습니다.

같은 입력을 두 모델에 넣어 결과를 나란히 놓고 보십시오. 그리고 사람이 손보는 시간까지 재야 합니다.

호출 비용이 절반이 됐는데 검수 시간이 두 배가 되면 총비용은 늘어난 것입니다. 이 계산을 안 하면 절약한 줄 알고 더 씁니다.

매달 15분 점검

거창한 체계가 필요 없습니다. 순서만 정해 두면 됩니다.

Figure 2

월말에 보는 4줄

01

좌석과 사용량으로 나눠 적기

지난달 옆에 놓습니다. 어느 줄이 늘었는지만 봐도 대책이 갈립니다.

02

30일 미접속 계정 확인

목록만 뽑아 담당자에게 물어봅니다. 정리는 그다음입니다.

03

튄 항목 하나만 파고들기

전부 볼 필요 없습니다. 제일 많이 늘어난 하나만 원인을 찾으면 됩니다.

요금제가 아니라 사용량의 문제입니다

AI 도구 비용은 요금제를 잘 고르는 문제가 아니라 어디서 얼마나 도는지를 아는 문제입니다.

청구서를 두 줄로 나누고, 안 쓰는 좌석을 매달 확인하고, 자동화를 걸 때 호출 수를 같이 세어 두십시오. 이 셋이면 대부분 잡힙니다.

FAQ

자주 묻는 질문

AI 도구 비용을 어떻게 나눠 봅니까?

두 줄로 나눕니다. 사람 수에 붙는 좌석 요금과, 쓴 만큼 붙는 사용량 요금. 좌석은 사람을 줄이면 줄고 사용량은 쓰는 방식을 바꿔야 줍니다. 이 둘을 한 덩어리로 보면 무엇을 손봐야 할지가 안 보입니다.

안 쓰는 좌석은 어떻게 찾습니까?

관리자 화면에서 마지막 접속일을 봅니다. 대부분의 도구가 이 값을 보여 줍니다. 30일 넘게 안 들어온 계정을 목록으로 뽑아 확인하고 정리하십시오. 퇴사자 계정이 남아 있는 경우가 제일 흔합니다.

사용량이 갑자기 튀는 이유는 무엇입니까?

자동화를 걸어 둔 곳을 보십시오. 사람이 누르는 호출은 하루 몇 번이지만 자동으로 도는 것은 밤에도 돕니다. 실패해서 다시 시도하는 구조면 한 번의 오류가 수백 번 호출이 되기도 합니다.

월 한도를 걸어 두면 됩니까?

걸어 두십시오. 다만 한도에 걸리면 서비스가 멈추는 구조인지, 그냥 알림만 오는 구조인지 확인해야 합니다. 고객이 쓰는 기능에 걸어 두었다가 한밤중에 멈추는 일이 생깁니다.

싼 모델로 바꾸면 비용이 줄어듭니까?

줄어드는 경우가 많은데, 결과가 나빠져 사람이 다시 손보면 총비용은 오히려 늘어납니다. 바꾸기 전에 같은 입력으로 두 모델을 돌려 결과 차이를 재 보십시오. 재작업 시간까지 넣어야 비교가 됩니다.

비용 관리는 얼마나 자주 봅니까?

매달 한 번 15분이면 충분합니다. 청구서를 두 줄로 나누고, 안 쓰는 좌석을 확인하고, 지난달 대비 튄 항목이 있으면 그것만 들여다봅니다.