— OPENAI DLA FIRM
OpenAI dla firm. Gdzie modele realnie pracują, a gdzie nie
— W SKRÓCIE
Modele OpenAI pracują w firmie w czterech obszarach: pracy z tekstem i wiedzą, obsłudze powtarzalnych zgłoszeń, wsparciu analityki oraz asystentach wewnętrznych. ChatGPT wystarcza do pracy indywidualnej, rozwiązania na API mają sens tam, gdzie wynik musi trafić do systemu firmy. Tam, gdzie proces jest deterministyczny i opisany regułami, tańsza i pewniejsza jest zwykła automatyzacja.
Aktualizacja: · autor: Arleta Marczyńska
Cztery obszary, w których to działa
Pytanie „czy OpenAI nada się u nas” jest za szerokie, żeby dało się na nie odpowiedzieć. Da się odpowiedzieć na węższe: czy w firmie są procesy o kształcie, który modelom pasuje. Kształt jest dość powtarzalny i sprowadza się do czterech obszarów.
Praca z tekstem i wiedzą. Dokumenty, procedury, umowy, korespondencja. Model streszcza, porównuje wersje, wyciąga konkretną informację z materiału, którego nikt nie ma czasu przeczytać. Warunek jest jeden: ktoś musi wiedzieć, gdzie ta wiedza leży i w jakim jest stanie.
Powtarzalne zgłoszenia. Klasyfikacja przychodzących spraw, wstępna odpowiedź, przygotowanie sprawy dla człowieka, który podejmie decyzję. Efekt bierze się z liczby podobnych przypadków, nie z trudności pojedynczego.
Wsparcie analityki. Opisanie tego, co widać w danych, przygotowanie zestawienia, wstępna interpretacja. Model nie zastępuje analityka, skraca drogę do pierwszej wersji.
Asystenci wewnętrzni. Punkt wejścia do wiedzy firmy dla pracowników. Działa dobrze w organizacjach, w których wiedza jest rozproszona po dyskach i skrzynkach, a źle tam, gdzie jest niespójna, bo model powtórzy niespójność z pełnym przekonaniem.
W każdym z tych obszarów jakość zależy od tego, czy model dostaje właściwy kontekst. Mechanizm, który mu ten kontekst dostarcza, opisujemy w haśle RAG, a stan danych, który jest jego warunkiem, w haśle dane gotowe na AI.
ChatGPT czy rozwiązanie na API
To najczęstsza rozwidlająca się decyzja i najczęściej podejmowana zbyt szybko.
| ChatGPT i narzędzia gotowe | Rozwiązanie na API | |
|---|---|---|
| Kto korzysta | pojedynczy pracownicy | system, proces, wiele osób naraz |
| Gdzie kończy się wynik | na ekranie użytkownika | w systemie firmy, w bazie, w dokumencie |
| Czas uruchomienia | dni | tygodnie albo miesiące |
| Kontrola nad tym, co model robi | ograniczona do ustawień produktu | pełna, po stronie firmy |
| Koszt | licencje na użytkownika | zużycie plus praca wdrożeniowa i utrzymanie |
| Kiedy wybrać | podnoszenie produktywności zespołu | powtarzalny proces z wynikiem w systemie |
Częsty błąd polega na kupieniu licencji dla całej firmy i uznaniu, że to było wdrożenie. Licencje podnoszą produktywność osób, które i tak umiały z narzędzia korzystać. Proces biznesowy zmienia się dopiero wtedy, gdy wynik modelu trafia tam, gdzie pracują ludzie, czyli do systemu, a nie do osobnego okna w przeglądarce.
Osobne ryzyko licencji rozdanych bez ustaleń to narzędzia używane poza wiedzą działu IT. Zjawisko ma nazwę shadow AI i w polskich firmach jest częstsze, niż wynikałoby z deklaracji zarządów, o czym pisaliśmy w osobnym tekście.
Kiedy AI nie jest potrzebne
Ta sekcja jest tu celowo, bo w rozmowach o wdrożeniach pojawia się najrzadziej.
Model nie jest potrzebny, gdy proces jest deterministyczny. Jeśli reguła brzmi „faktura powyżej progu idzie do akceptacji dyrektora”, to jest warunek w systemie, nie zadanie dla modelu. Model wykona je poprawnie w większości przypadków, a od systemu oczekujemy poprawności we wszystkich.
Nie jest potrzebny także wtedy, gdy dane nie istnieją albo są w stanie, w którym nikt im nie ufa. Wdrożenie modelu na złych danych nie naprawia danych, tylko szybciej rozprowadza ich skutki po organizacji.
I nie jest potrzebny, gdy problemem jest brak procesu. Automatyzacja czegoś, czego nikt nie opisał, utrwala przypadkowość, tylko taniej i szybciej.
Kolejność, która się sprawdza
- Wybierz jeden proces, który realnie boli i ma dużo powtórzeń.
- Sprawdź, jakie dane ten proces zostawia i czy nadają się do użycia.
- Ustal, co ma się zmienić i po czym to poznasz. Miara przed startem, nie po.
- Dopiero teraz dobierz narzędzie. Czasem wyjdzie, że wystarczy integracja.
- Uruchom na wąskim zakresie, z warunkiem przejścia dalej ustalonym z góry.
- Zaplanuj, kto utrzymuje rozwiązanie po odbiorze.
Punkt trzeci jest tym, na którym najczęściej wykłada się projekt, bo bez miary każdy wynik da się opowiedzieć jako sukces. Rozwinięcie tej kolejności opisujemy w tekście wdrożenie AI, od czego zacząć.
Co dalej
Jeśli chcesz sprawdzić, czy Twoja organizacja jest gotowa na którykolwiek z tych scenariuszy, zaczynamy od audytu procesów i danych, nie od narzędzia. Zakres pracy opisujemy na stronie wdrożenia AI, a gotowe scenariusze dla konkretnych obszarów firmy znajdziesz w rozwiązaniach.
Jeśli natomiast szukasz firmy, która to poprowadzi, i chcesz wiedzieć, o co ją zapytać, przygotowaliśmy listę pytań na stronie o wyborze partnera OpenAI.
— NASZ STATUS W PROGRAMIE
YES FOR sp. z o.o., spółka stojąca za yesfor.ai, ma status OpenAI Select Partner. Co ten status znaczy, a czego nie znaczy.
Najczęstsze pytania
- Czy ChatGPT wystarczy firmie, czy potrzebne jest rozwiązanie na API?
- ChatGPT sprawdza się w pracy indywidualnej: pisanie, streszczanie, analiza dokumentu na biurku jednej osoby. Rozwiązanie na API jest potrzebne wtedy, gdy wynik ma trafić do systemu firmy, powtarzać się setki razy dziennie albo podlegać kontroli i logowaniu. Granica przebiega przy pytaniu, czy efekt kończy się na ekranie pracownika.
- Gdzie modele OpenAI dają firmie największy efekt?
- Tam, gdzie ludzie przetwarzają tekst w powtarzalny sposób: obsługa zapytań, przygotowanie dokumentów, wyszukiwanie w rozproszonej wiedzy firmowej, wstępna klasyfikacja zgłoszeń. Wspólny mianownik to duża liczba podobnych spraw i wynik, który człowiek i tak sprawdza.
- Kiedy AI nie jest firmie potrzebne?
- Gdy proces da się opisać regułami, dane są ustrukturyzowane, a wynik musi być zawsze taki sam. Wtedy skrypt, formularz albo integracja między systemami są tańsze, szybsze i pewniejsze. Model wprowadza zmienność, za którą nie warto płacić, jeśli zmienność nie jest potrzebna.
- Czy dane firmy wysyłane do OpenAI służą do trenowania modeli?
- Zasady zależą od tego, z jakiego produktu i planu firma korzysta, więc odpowiedzi trzeba szukać w warunkach konkretnej usługi, a nie w ogólnym haśle. Praktyczna reguła przy wdrożeniu jest inna: zanim ustalisz, co dostawca robi z danymi, ustal, które dane w ogóle mają prawo opuścić firmę.
- Ile kosztuje korzystanie z modeli OpenAI w firmie?
- Koszt składa się z licencji na narzędzia, zużycia modeli rozliczanego za przetworzony tekst, pracy wdrożeniowej i utrzymania. Zużycie rośnie z liczbą użytkowników i z długością przetwarzanych dokumentów, więc rachunek z pilotażu na dziesięciu osobach nie skaluje się liniowo.
- Czy trzeba mieć własnego partnera, żeby wdrożyć OpenAI?
- Nie, firma może wdrożyć samodzielnie, jeśli ma zespół, który rozumie dane i integracje. Partner ma sens tam, gdzie brakuje czasu, doświadczenia z podobnym wdrożeniem albo kogoś, kto powie, że akurat ten proces modelu nie potrzebuje.
- Od czego zacząć?
- Od jednego procesu, który boli, i od sprawdzenia, czy dane, które ten proces zostawia, nadają się do użycia. Wybór modelu jest ostatnią decyzją, nie pierwszą.
Źródła i dalsza lektura
- OpenAI dla biznesu, strona produktowaOpis produktów kierowanych do firm.
- OpenAI Partner Network, strona programuProgram partnerski i role partnerów we wdrożeniach.
- Cennik API OpenAIAktualne stawki rozliczania zużycia modeli.
Kto to napisał
Arleta Marczyńska, założycielka YES FOR sp. z o.o., prezeska spedycji międzynarodowej EXPORTSY, agentka celna z piętnastoletnim doświadczeniem w branży transportowej, ekspertka Europejskiego Instytutu Transportu Drogowego. OpenAI Select Partner.
Czytaj dalej
Sprawdźmy, czy Twój proces nadaje się pod model
Rozmowa wstępna trwa trzydzieści minut. Czasem kończy się wnioskiem, że wystarczy integracja, i to też jest odpowiedź.