Pytanie wraca na każdej rozmowie: ile kosztuje agent AI dla firmy. Odpowiedź w stylu "to zależy" jest prawdziwa i bezużyteczna, więc poniżej rozbijam koszt na składniki, podaję widełki z własnych wdrożeń i pokazuję, kiedy agent się nie opłaca.
Z czego składa się koszt agenta AI
Cena agenta to nie licencja, tylko cztery osobne strumienie wydatków. Firmy, które liczą tylko pierwszy, potem się dziwią.
- Budowa. Analiza procesu, projekt agenta, prompty systemowe, integracje z tym, co już macie, testy akceptacyjne. Jednorazowo.
- Inferencja. Opłaty za wywołania modelu, rozliczane za tokeny. Rosną z liczbą użytkowników i długością kontekstu.
- Utrzymanie. Monitoring jakości odpowiedzi, poprawki, aktualizacje po zmianie modelu albo procesu. Miesięcznie.
- Zgodność. Ocena ryzyka, dokumentacja pod RODO i AI Act, rejestr czynności przetwarzania, klauzule dla użytkowników. Jednorazowo plus przeglądy.
Widełki, które widzimy w praktyce
| Typ agenta | Budowa | Miesięcznie |
|---|---|---|
| Agent odpowiadający na pytania z bazy wiedzy firmy | od 8 do 25 tys. zł | od 300 do 1 500 zł |
| Agent obsługujący proces, na przykład kwalifikację zapytań | od 20 do 60 tys. zł | od 800 do 3 000 zł |
| Zespół agentów z orkiestracją i kontrolą jakości | od 60 do 200 tys. zł | od 2 000 do 10 000 zł |
Te liczby to koszt po stronie wykonawcy plus rachunki za model. Nie obejmują czasu Waszych ludzi, a to zwykle największa ukryta pozycja. Wdrożenie, w którym nikt po stronie firmy nie ma godzin na testowanie odpowiedzi, kończy się agentem, z którego nikt nie korzysta.
Co realnie napędza rachunek za inferencję
Trzy rzeczy, w tej kolejności. Po pierwsze długość kontekstu: agent, który do każdego pytania dokleja pięćdziesiąt stron dokumentacji, kosztuje kilkanaście razy więcej niż ten, który wyszukuje trzy właściwe akapity. Po drugie dobór modelu: nie każde zadanie wymaga najmocniejszego. Klasyfikacja zapytania spokojnie działa na modelu tańszym o rząd wielkości niż ten, który pisze finalną odpowiedź. Po trzecie liczba prób: agent bez kontroli jakości potrafi wywołać model kilka razy pod rząd, zanim trafi w sensowną odpowiedź.
Routing wielomodelowy, czyli kierowanie każdego kroku do najtańszego modelu, który da radę, obniża rachunek zwykle o 40 do 70 procent przy tej samej jakości wyniku. To pierwsza rzecz, którą warto policzyć przed podpisaniem umowy na wdrożenie.
Kiedy agent AI się nie opłaca
- Proces wykonuje się rzadziej niż kilkadziesiąt razy w miesiącu. Oszczędność nie pokryje utrzymania.
- Proces nie jest opisany. Agent nie zastąpi decyzji, których nikt w firmie nie potrafi nazwać.
- Dane są rozsypane po skrzynkach pocztowych i dyskach lokalnych. Najpierw porządek, potem agent.
- Koszt błędu jest wysoki, a nie da się dołożyć kontroli człowieka. Wtedy agent może co najwyżej przygotować materiał do decyzji.
Jak liczyć zwrot
Najuczciwszy licznik to godziny. Weźcie jeden proces, policzcie, ile godzin miesięcznie zżera dzisiaj i ile zostanie po wdrożeniu. Pomnóżcie przez realny koszt godziny w firmie. Jeżeli różnica nie przekracza trzykrotności miesięcznego kosztu agenta, projekt jest zbyt ryzykowny, żeby zaczynać od niego. Zacznijcie od procesu, w którym różnica jest wyraźna, a dopiero potem rozszerzajcie.
Najczęstsze pytania
Ile trwa wdrożenie agenta AI
Prosty agent od bazy wiedzy: od dwóch do czterech tygodni. Agent procesowy z integracjami: od sześciu do dwunastu tygodni. Zespół agentów: kwartał i więcej, z podziałem na etapy.
Czy dane firmy trafiają do modelu na stałe
Przy poprawnie skonfigurowanym wdrożeniu nie. Dane są przekazywane w zapytaniu i nie służą do trenowania modelu, o ile umowa z dostawcą to wyklucza. To jeden z punktów, które trzeba sprawdzić w umowie powierzenia przetwarzania.
Czy agent AI wymaga zgodności z AI Act
Zależy od zastosowania. Systemy wysokiego ryzyka, na przykład wspierające rekrutację czy ocenę zdolności kredytowej, mają rozbudowane obowiązki. Agent odpowiadający na pytania o produkty zwykle nie, ale obowiązek informowania użytkownika, że rozmawia z systemem AI, zostaje.
Jeżeli chcecie oszacować koszt konkretnego procesu, opiszcie go przez formularz na archaios.ai. Wycena wraca z rozbiciem na cztery pozycje z początku tego tekstu, bez jednej zbiorczej kwoty.