Artykuły AI
Gartner: koszt działania AI przewyższa koszt trenowania modeli, a agenci liczą się za tokeny. Jak firmy mogą widzieć, prognozować i kontrolować koszty AI.
Największym wydatkiem na AI przestaje być zakup narzędzia, a staje się jego codzienne działanie. 10 sierpnia 2026 Gartner podał, że w tym roku po raz pierwszy koszt inferencji, czyli uruchamiania modeli, przewyższy koszt ich trenowania. Napędzają to agenci AI, którzy wykonują zadania w wielu krokach i przy każdym z nich sięgają po model, przez co koszt rośnie razem z użyciem. Problem w tym, że według KPMG tylko co czwarta organizacja widzi ten koszt w czasie rzeczywistym, a prawie połowa już ograniczyła wdrożenia agentów, gdy rachunek zaczął przewyższać spodziewaną wartość. Dla zarządów i managerów oznacza to jasny wniosek: o zwrocie z AI coraz częściej decyduje nie cena zakupu, lecz umiejętność zobaczenia i kontrolowania kosztu jej działania.
10 sierpnia 2026 Gartner opublikował prognozę, według której wydatki na infrastrukturę AI jako usługę wzrosną w 2026 roku o 96% i osiągną 42 mld USD, a w 2027 dojdą do 66 mld USD. Najważniejsza jest struktura tego wydatku. Po raz pierwszy koszt inferencji, czyli działania gotowych modeli, przewyższy koszt ich trenowania: 23,3 mld USD wobec 19 mld USD. Inferencja ma odpowiadać za 55% wydatków w 2026 i za 59% w 2027. Gartner wprost łączy to z agentami AI, które wzmacniają zużycie mocy obliczeniowej przez wielokrotne, autonomiczne wywołania modelu, czyniąc inferencję dominującym sposobem konsumpcji AI.
Tłem tej prognozy jest ekonomia wdrożeń, którą pokazało badanie KPMG Global AI Pulse za drugi kwartał 2026, przeprowadzone wśród 2145 liderów w 20 krajach, w firmach z przychodem powyżej 50 mln USD. Wynika z niego, że 49% organizacji ograniczyło, zawęziło, opóźniło lub wstrzymało wdrożenia agentów AI, gdy koszty zaczęły przewyższać spodziewaną wartość. Tylko 26% firm ma wgląd w koszt działania AI w czasie rzeczywistym, a jedynie 7% deklaruje potwierdzone ROI. Najmocniejsza liczba dotyczy związku kosztu z wynikiem: firmy z pełną widocznością kosztów AI osiągają potwierdzony zwrot pięć razy częściej niż pozostałe.
Rynek zareagował nową kategorią narzędzi. 14 lipca 2026 1Password uruchomił moduł zarządzania zużyciem i wydatkami na AI, który pobiera dzienne dane o zużyciu tokenów wprost z paneli dostawców, takich jak Anthropic, OpenAI czy Cursor, i zestawia je w jednym widoku dla działów IT i finansów. VentureBeat, opisując premierę, przywołał dane FinOps Foundation, według których 98% organizacji aktywnie zarządza już kosztami AI wobec 31% w 2024 roku, oraz szacunek Goldman Sachs, że zużycie tokenów przez agentów AI wzrośnie 24-krotnie do 2030. W osobnym badaniu na ponad 100 organizacjach VentureBeat pokazał drugą stronę problemu: 21% firm śledzi wydatki agentów wyłącznie na podstawie logów po fakcie, bez możliwości zatrzymania rozbieganej pętli wykonania w czasie rzeczywistym.
Zmienia się natura wydatku na AI. Licencja na oprogramowanie była kosztem stałym i przewidywalnym: płaciłeś za stanowiska niezależnie od tego, ile pracy narzędzie wykonało. Koszt działania agenta jest zmienny i zależy od zużycia. Rośnie razem z liczbą zadań, długością rozmów i liczbą kroków, które agent wykonuje, żeby dojść do wyniku. To dobra wiadomość, gdy każdy krok przynosi wartość, i zła, gdy agent zużywa tokeny bez efektu. Rachunek za AI zaczyna zachowywać się bardziej jak rachunek za prąd niż jak abonament.
Druga zmiana dotyczy tego, że koszt jest dziś w dużej mierze niewidoczny. Skoro tylko 26% firm widzi go w czasie rzeczywistym, większość dowiaduje się o skali wydatku dopiero z faktury na koniec miesiąca. Przy koszcie zmiennym to za późno, bo udany sezon sprzedażowy albo popularny wewnętrzny asystent potrafią podnieść rachunek szybciej, niż ktokolwiek to zauważy. Dane KPMG pokazują, dlaczego to boli: firmy bez widoczności kosztów rzadziej potwierdzają zwrot, a prawie połowa organizacji już cofnęła się z wdrożeń agentów, bo nie umiała powiązać kosztu z wartością.
Dla polskiej firmy płynie z tego praktyczny wniosek. Pytanie nie brzmi już tylko, ile kosztuje narzędzie, lecz ile kosztuje jego działanie przy naszym realnym wolumenie i czy potrafimy ten koszt zobaczyć, zaplanować i zatrzymać. Powstanie osobnych narzędzi do liczenia zużycia tokenów, jak moduł 1Password, oraz skok odsetka firm zarządzających kosztami AI z 31% do 98% w dwa lata pokazują, że kontrola kosztu przestała być tematem dla samego IT, a stała się elementem finansowej dyscypliny wdrożenia.
Problem biznesowy: agent obsługi domyka zgłoszenia całodobowo, ale jego koszt zależy od liczby i długości rozmów. Przy skoku wolumenu, na przykład w sezonie lub podczas akcji promocyjnej, rachunek za tokeny rośnie szybciej niż zaplanowany budżet, a nikt nie widzi tego na bieżąco.
Rozwiązanie AI: agent z twardym limitem miesięcznego kosztu, alertem przy zbliżaniu się do granicy i pomiarem kosztu w przeliczeniu na jedno rozwiązane zgłoszenie, a nie wyłącznie na całość wydatku.
Dane i procesy do wdrożenia: historyczny wolumen zgłoszeń, średnia liczba tokenów na rozwiązaną sprawę jako punkt odniesienia, reguły eskalacji do człowieka oraz integracja z systemem obsługi zgłoszeń i panelem kosztów dostawcy.
Potencjalny efekt: koszt staje się przewidywalny w przeliczeniu na efekt, a nie zaskakuje na koniec miesiąca. Firma widzi, ile realnie kosztuje jedno domknięte zgłoszenie i może to zestawić z kosztem obsługi przez człowieka.
Ryzyko i ograniczenie: zbyt niski limit może uciąć obsługę w szczycie ruchu i przenieść koszt na niezadowolenie klienta. Limit trzeba ustawiać na podstawie zmierzonego wolumenu, a nie ostrożnego przeczucia.
Problem biznesowy: agent, który zbiera dane, przeszukuje dokumenty i składa raport, wykonuje wiele wywołań modelu pod rząd. Gdy zadanie jest źle zdefiniowane, agent potrafi wpaść w rozbieganą pętlę, powtarzać kroki i zużywać tokeny bez dojścia do wyniku.
Rozwiązanie AI: agent z ustawionym limitem liczby kroków i budżetu na pojedyncze zadanie oraz z mechanizmem zatrzymania, gdy koszt przekroczy próg. Zamiast liczyć koszt po fakcie z logów, firma zatrzymuje pętlę w czasie rzeczywistym.
Dane i procesy do wdrożenia: definicja gotowego wyniku dla danego typu raportu, historia zużycia tokenów na jeden raport, progi zatrzymania oraz przegląd zadań, które przekroczyły budżet, żeby poprawić instrukcję dla agenta.
Potencjalny efekt: koszt jednego raportu przestaje być loterią, a rozbiegane zadania zatrzymują się, zanim wygenerują duży rachunek. Zespół analityczny odzyskuje czas, a wydatek wiąże się z liczbą realnie ukończonych raportów.
Ryzyko i ograniczenie: zbyt sztywny limit kroków może uciąć złożone, ale wartościowe analizy. Progi trzeba różnicować według typu zadania, a nie ustawiać jeden dla wszystkich.
Problem biznesowy: narzędzia takie jak asystenci kodowania rozliczają się za zużycie, a poszczególni deweloperzy korzystają z nich w różnym stopniu. Bez wglądu w koszt per osoba i zespół firma nie wie, gdzie idą pieniądze, a część narzędzi bywa kupowana poza działem IT.
Rozwiązanie AI: wspólny widok zużycia tokenów per zespół i osoba, jak w module zarządzania wydatkami na AI, zestawiający dane z paneli dostawców w jednym miejscu, z budżetami przypisanymi do zespołów.
Dane i procesy do wdrożenia: lista zatwierdzonych narzędzi AI, dostęp do paneli rozliczeniowych dostawców, przypisanie kosztu do zespołów oraz proces akceptacji nowych subskrypcji.
Potencjalny efekt: koszt staje się widoczny i przypisany do właściciela, a firma może rozmawiać o wartości narzędzia na podstawie danych, nie przeczuć. Znika też część shadow AI, bo zużycie widać w jednym miejscu.
Ryzyko i ograniczenie: nadmierne ograniczanie dostępu może spowolnić pracę deweloperów i pchnąć ich do narzędzi spoza kontroli firmy. Budżet powinien iść w parze z jasną listą dozwolonych narzędzi.
Problem biznesowy: system odpowiadający na pytania na podstawie dużej bazy dokumentów uruchamia model przy każdym zapytaniu, a koszt inferencji rośnie razem z liczbą i złożonością pytań. Proste i trudne zapytania trafiają do tego samego, drogiego modelu.
Rozwiązanie AI: kierowanie zapytań do modelu dobranego do trudności zadania, tańszego dla pytań prostych i mocniejszego dla złożonych, z buforowaniem powtarzalnych odpowiedzi, aby ograniczyć liczbę wywołań.
Dane i procesy do wdrożenia: podział zapytań według typu i trudności, pomiar kosztu i jakości dla każdego wariantu modelu, reguły buforowania oraz kontrola jakości odpowiedzi na próbce.
Potencjalny efekt: koszt inferencji spada bez utraty jakości tam, gdzie prosty model wystarcza, a firma płaci za mocny model tylko wtedy, gdy jest naprawdę potrzebny.
Ryzyko i ograniczenie: zbyt agresywne oszczędzanie na modelu pogarsza jakość odpowiedzi i tworzy koszt ukryty w postaci błędnych decyzji lub poprawek. Oszczędność trzeba spinać z pomiarem jakości, nie wyłącznie z rachunkiem.
Zmierz koszt jednego efektu, zanim rozszerzysz wdrożenie. Ustal, ile kosztuje jedno rozwiązane zgłoszenie, jeden przygotowany raport czy jedno domknięte zadanie, licząc realne zużycie w pilotażu. Bez tego punktu odniesienia nie ocenisz, czy agent jest tańszy od dotychczasowego procesu, i nie zauważysz, kiedy koszt wymyka się spod kontroli.
Ustaw limity i alerty, a nie wyłącznie raporty po fakcie. Koszt zmienny wymaga twardego pułapu miesięcznego i powiadomienia, zanim rachunek urośnie, a przy agentach wielokrokowych także mechanizmu zatrzymania rozbieganej pętli w czasie rzeczywistym. Sam wgląd w logi na koniec miesiąca to za mało, bo pieniądze są już wydane.
Zbierz koszty AI w jednym widoku. Zamiast liczyć wydatki osobno dla każdego narzędzia, zestaw zużycie tokenów per proces, zespół i osoba, korzystając z paneli dostawców lub narzędzia do zarządzania wydatkami na AI. Jeden widok kosztu ogranicza też shadow AI, bo widać, kto i za ile korzysta.
Wyznacz właściciela kosztu. Przypisz osobę lub rolę odpowiedzialną za koszt działania AI, tak jak firmy przypisują właściciela budżetu chmury. Według KPMG ponad połowa liderów włączyła już przegląd kosztu do procesu akceptacji nowych narzędzi AI, a firmy z pełną widocznością kosztów potwierdzają zwrot pięć razy częściej.
Dobieraj model do trudności zadania. Nie każde zapytanie wymaga najmocniejszego i najdroższego modelu. Kieruj proste zadania do tańszych modeli i buforuj powtarzalne odpowiedzi, ale każdą oszczędność spinaj z pomiarem jakości, żeby cięcie kosztu nie przeniosło się na błędy i poprawki.
Zacznij od jednego procesu i policz wynik. Wybierz jeden, dobrze zmierzony proces, uruchom ograniczony pilotaż z ustawionym budżetem i porównaj koszt oraz jakość z punktem odniesienia. Dopiero wynik pilotażu, a nie obietnica z prezentacji, powinien decydować o rozszerzeniu wdrożenia na kolejne procesy.
Nieprzewidywalność kosztu. Rozliczenie za zużycie oznacza koszt zmienny, który rośnie razem z wolumenem i długością zadań. Bez pułapu i monitoringu skok użycia potrafi podnieść rachunek szybciej niż budżet.
Rozbiegana pętla agenta. Agent wielokrokowy może powtarzać wywołania modelu bez dojścia do wyniku i zużywać tokeny bez efektu. Według VentureBeat 21% firm śledzi wydatki agentów tylko z logów po fakcie i nie ma sposobu, by zatrzymać taką pętlę na bieżąco.
Brak widoczności kosztu. Skoro tylko 26% organizacji widzi koszt działania AI w czasie rzeczywistym, większość reaguje dopiero na fakturę. Przy koszcie zmiennym to za późno, żeby zapobiec przekroczeniu budżetu.
Shadow AI. Gdy zespoły kupują narzędzia AI poza wiedzą IT i finansów, firma traci kontrolę nad kosztem, danymi i bezpieczeństwem. Rozproszone rozliczenia utrudniają zebranie kosztu w jeden widok.
Błędne cięcie kosztów. Zbyt agresywne przechodzenie na tańszy model albo zbyt niskie limity potrafią pogorszyć jakość i przenieść koszt na klienta lub na poprawki. Oszczędność bez pomiaru jakości bywa pozorna.
Brak właściciela i kontroli jakości wyników. Bez osoby odpowiedzialnej za koszt i bez przeglądu próbki wyników nikt nie łączy wydatku z wartością. Widoczność kosztu bez oceny jakości pokazuje, ile płacisz, ale nie mówi, czy warto.
Gartner pokazuje trwałą zmianę: koszt działania AI, czyli inferencji, po raz pierwszy przewyższa koszt jej trenowania, a napędzają to agenci wykonujący zadania w wielu krokach. Dla firmy oznacza to, że główny wydatek na AI jest zmienny i zależy od użycia, a nie stały jak licencja.
Dane KPMG wiążą koszt z wynikiem. Prawie połowa organizacji cofnęła się z wdrożeń agentów, gdy koszt przewyższył wartość, a firmy z pełną widocznością kosztów potwierdzają zwrot pięć razy częściej. Widoczność kosztu przestała być wygodą, a stała się warunkiem ROI.
Rynek już to wycenił. Skok odsetka firm zarządzających kosztami AI z 31% do 98% w dwa lata i powstanie osobnych narzędzi do liczenia zużycia tokenów pokazują, że kontrola kosztu jest nową, osobną dyscypliną wdrożenia.
Zanim rozszerzysz wdrożenie, zmierz koszt jednego efektu, ustaw limity i mechanizm zatrzymania, zbierz koszty w jednym widoku i wyznacz właściciela. Bez tych kroków agent może domykać zadania, a firma i tak straci na tym, czego nie widziała.
Koszt zużycia modeli jest jedną z czterech pozycji, na które warto rozbić wycenę wdrożenia. Pozostałe trzy i pytania, którymi się je sprawdza, opisujemy na stronie o wyborze partnera OpenAI.