AI w firmie bez nadzoru: czego uczą zwolnienia, wpadki i twarde dane

Piszę kod od jedenastu lat. Od jakiegoś czasu robię to razem z agentami AI: piszą u nas testy, dokumentację i sporą część kodu. Więc od razu uczciwie: nie jestem sceptykiem. Właśnie dlatego dobrze widzę, co się dzieje, kiedy nikt nie sprawdza ich pracy.

Nie chciałem pisać kolejnego wpisu z opiniami, więc zebrałem przypadki firm, które przejechały się na AI, i to, co mówią o tym badania.

Najpierw zwolnienia, potem powroty

Zacznijmy od historii, którą pewnie już znacie, choć może nie do końca. Firma ogłasza, że AI zastąpi ludzi. Mija kilka miesięcy. A potem po cichu wycofuje się z tej decyzji. Ten scenariusz powtarza się w różnych krajach i branżach:

1. Luty 2024, KlarnaAsystent AI w pierwszym miesiącu prowadzi 2,3 mln rozmów, czyli dwie trzecie czatów obsługi. Firma mówi, że to praca 700 pełnych etatów¹.
2. Maj 2025, KlarnaFirma znów rekrutuje ludzi do obsługi klienta. Inwestowanie w obsługę prowadzoną przez ludzi nazywa swoją „przyszłością”².
3. Lipiec 2025, Commonwealth Bank of AustraliaBank likwiduje 45 stanowisk w obsłudze telefonicznej, bo voicebot miał zmniejszyć liczbę połączeń o 2 tys. tygodniowo³.
4. Sierpień 2025, Commonwealth Bank of AustraliaZwiązek zawodowy pokazuje, że połączeń przybywa, a telefony odbierają kierownicy i ludzie na nadgodzinach. Bank cofa zwolnienia, przyznaje się do błędu i przeprasza³.
5. 2026, FordFirma awansuje i zatrudnia ponad 350 doświadczonych inżynierów jakości, bo kontrola oparta na AI przepuszczała wady, które wyłapywali weterani⁴.

Wiceprezes Forda Charles Poon podsumował to jednym zdaniem: AI jest tylko tak dobre, jak informacje, na których je wytrenujesz⁴. Analitycy Forrestera idą jeszcze dalej. Przewidują, że połowa zwolnień tłumaczonych wdrożeniem AI zostanie po cichu odwrócona. Praca wróci, tylko często do tańszego kraju albo za niższą pensję⁵.

Widzicie wspólny mianownik? Ktoś zdecydował o zwolnieniach na podstawie obietnicy narzędzia i nie zmierzył, co to narzędzie naprawdę robi. Dopiero później wyszło, że ludzie robili dużo więcej, niż było napisane w ich opisie stanowiska.

„Prawie dobrze” to najdroższy rodzaj błędu

Stack Overflow zapytał w 2025 roku programistów o największy problem z AI. 66% wskazało odpowiedzi „prawie dobre, ale nie do końca”⁶. Znam to doskonale. Taki błąd wygląda wiarygodnie i wyłapie go tylko ktoś, kto zna temat. A co się dzieje, gdy takiej osoby zabraknie? Spójrzmy:

• Air Canada odpowiada za to, co powiedział jej chatbot. Bot wymyślił zasadę zwrotu pieniędzy za bilet, a kanadyjski trybunał odrzucił argument, że chatbot to „odrębny podmiot”. Linia ma odpowiadać za wszystkie informacje na swojej stronie⁷.
• Sądy dostają coraz więcej pism z orzecznictwem wymyślonym przez AI. W bazie Damiena Charlotina w październiku 2026 roku było 2202 takie sprawy, w tym 872 z udziałem prawników⁸.
• Agent AI w Replit usunął produkcyjną bazę danych klienta w czasie zapowiedzianego zamrożenia zmian, a potem błędnie twierdził, że nie da się jej odzyskać. Replit dodał w odpowiedzi automatyczne oddzielenie baz testowych od produkcyjnych¹⁰.

Mamy też przykład z naszego podwórka. W czerwcu 2026 roku Naczelny Sąd Administracyjny rozpatrywał zażalenie, w którym pełnomocnik powołał trzy orzeczenia z nieistniejącymi tezami⁹. Sąd nie przebierał w słowach:

Nader krytycznie należy ocenić bezrefleksyjne korzystanie z narzędzi AI przez zawodowego pełnomocnika. Naczelny Sąd Administracyjny, postanowienie I FZ 104/26

We wszystkich tych historiach brakowało tego samego: człowieka, który sprawdziłby wynik, zanim trafił do klienta, do sądu albo na produkcję.

Co mówią badania o AI w programowaniu

Tu jestem u siebie, więc przyjrzałem się danym dokładniej. Najgłośniejszy jest eksperyment METR z 2025 roku. Doświadczeni programiści open source dostali zadania z własnych projektów. Część robili z AI, część bez. I tu robi się ciekawie:

Z AI pracowali wolniej, a mimo to byli przekonani, że szybciej. METR uczciwie zaznacza, że to wynik z początku 2025 roku i narzędzia od tego czasu się zmieniły. Mnie najbardziej uderza co innego: jak bardzo odczucie rozjechało się z pomiarem. Dlatego u nas nikt nie opiera się na wrażeniu, że idzie szybciej. Klient na bieżąco widzi listę zadań i raport godzin.

Podobnie wyglądają raporty DORA, które Google przygotowuje na podstawie ankiet tysięcy zespołów. W 2024 roku każde 25 punktów procentowych wzrostu użycia AI wiązało się ze spadkiem stabilności wdrożeń o 7,2%¹². W 2025 roku AI pomagało już w tempie, ale stabilność dalej spadała¹³. Autorzy ujęli to tak:

AI nie naprawia zespołu. Wzmacnia to, co już w nim jest. Raport DORA 2025 (tłum. własne)

Zespół z testami, przeglądem kodu i szybką informacją zwrotną przyspiesza. Zespół bez nich po prostu szybciej produkuje problemy. Widać to nawet w samym kodzie. GitClear przeanalizował zmiany z lat 2020–2024: udział kodu przenoszonego przy refaktoryzacji spadł z 25% do poniżej 10%, a kodu kopiowanego wzrósł z 8,3% do 12,3%. W 2024 roku kopiowania po raz pierwszy było więcej niż porządkowania¹⁴.

A jak to wygląda w skali całych firm? Raport MIT NANDA szacuje, że około 95% organizacji nie widzi mierzalnego zwrotu z generatywnej AI. Winę ponosi sposób wdrożenia, nie jakość modeli¹⁵. To badanie wstępne, więc traktujmy tę liczbę jako sygnał. W Polsce EY zapytał w 2026 roku 497 średnich i dużych firm. Połowa przyznaje się do rozczarowania albo niepełnego zwrotu z inwestycji, a tylko 9% ma dane i infrastrukturę gotowe na bardziej zaawansowane zastosowania¹⁶.

Kod z AI a bezpieczeństwo

Teraz coś, co powinno zaniepokoić każdego, kto ma sklep albo system z danymi klientów. Veracode sprawdził ponad 100 modeli językowych na 80 zadaniach programistycznych. W 45% przypadków model wybrał rozwiązanie z luką bezpieczeństwa. W Javie ten odsetek przekroczył 70%, a przed atakiem XSS kod nie bronił się w 86% prób. Nowsze i większe modele nie wypadały lepiej¹⁷. Kod, który się kompiluje i przechodzi podstawowe testy, wciąż może otwierać drzwi atakującym.

A same systemy AI? W 2025 roku badacze bezpieczeństwa weszli do panelu administracyjnego McHire, rekrutacyjnego chatbota używanego przez McDonald’s. Wystarczyło hasło 123456 i błąd w kontroli dostępu, żeby zobaczyć dane z ponad 64 mln rekordów kandydatów. Dostawca naprawił problem w ciągu doby od zgłoszenia¹⁸. Wdrożenie AI to kolejny system z danymi klientów. Trzeba go zabezpieczyć jak każdy inny.

Kto za pięć lat będzie seniorem?

Dla mnie to najważniejsze pytanie w całej tej dyskusji. Firmy najchętniej oszczędzają na juniorach, bo tam AI najłatwiej przejmuje proste zadania. Badacze ze Stanforda pokazali, że wśród osób w wieku 22–25 lat zatrudnienie w zawodach najbardziej narażonych na AI jest o 19% niższe niż w grupie porównawczej, głównie dlatego, że przyjmuje się mniej młodych ludzi. Tam, gdzie AI wspiera pracowników, a nie ich zastępuje, zatrudnienie stoi w miejscu albo rośnie¹⁹.

Jest jeszcze druga strona: czego juniorzy się dziś uczą? W eksperymencie Anthropic z 2026 roku początkujący programiści poznawali nową bibliotekę z AI albo bez niego. Grupa z AI wypadła w teście ze zrozumienia gorzej, 50% wobec 67%, a największa różnica dotyczyła debugowania. Lepiej poradzili sobie ci, którzy prosili AI o wyjaśnienia, a nie o gotowy kod²⁰. Badanie Microsoft Research i Carnegie Mellon pokazało z kolei, że im bardziej ufamy AI, tym mniej krytycznie oceniamy jej wyniki²¹.

Pomyślcie o tym przez chwilę. Jeśli dziś nie zatrudniamy juniorów, za kilka lat nie będziemy mieli skąd wziąć seniorów. A to właśnie seniorzy pilnują, żeby praca AI nadawała się do użytku.

Odpowiedzialność zostaje po stronie firmy

Air Canada i sprawy sądowe uczą jednego: tłumaczenie „to zrobiło AI” nie działa. Odpowiada firma albo człowiek, który podpisał się pod wynikiem.

Unijny AI Act idzie w tę samą stronę. Art. 14 wymaga, żeby systemy wysokiego ryzyka miały skuteczny nadzór człowieka. Osoba nadzorująca ma rozumieć ograniczenia systemu, pamiętać o skłonności do bezrefleksyjnego polegania na automacie i móc go zatrzymać albo pominąć jego wynik²². Po zmianach z pakietu Digital Omnibus z lipca 2026 roku te obowiązki dla systemów z załącznika III obowiązują od 2 grudnia 2027 roku²³. Termin się przesunął, ale wymóg został.

Amerykański NIST nazywa to zjawisko automation bias, czyli nadmiernym zaufaniem do systemów automatycznych. Według NIST właśnie przez nie zmyślenia modeli przechodzą dalej niezauważone²⁴.

Jak wdrażać AI z głową

Co z tego wszystkiego wynika w praktyce? Z tych danych wyszła mi lista zasad, których trzymamy się u siebie:

1. Zmierz, zanim zwolnisz. Sprawdź na danych, ile pracy AI faktycznie przejmuje i jak dobrze ją robi. Prezentacja dostawcy to nie pomiar.
2. Mierz wyniki. Liczy się czas od zgłoszenia do wdrożenia, liczba błędów na produkcji i liczba poprawek.
3. Każdą zmianę od AI sprawdza człowiek. Ktoś, kto rozumie temat i może ją odrzucić. To stały krok procesu.
4. Daj agentom tylko te uprawnienia, których potrzebują. Osobne środowiska, brak dostępu do produkcji, kopie zapasowe i zgoda człowieka na każdą operację, której nie da się cofnąć.
5. Zostaw testy i skanowanie bezpieczeństwa. Kod z AI potrzebuje ich bardziej niż kod pisany ręcznie.
6. Zacznij od wspierania ludzi. Dane ze Stanforda i DORA pokazują, że tam AI daje najwięcej i najmniej psuje.
7. Nie zamykaj drogi juniorom. Zmień ich zadania tak, żeby uczyli się sprawdzać pracę AI, zamiast tylko ją przyjmować.
8. Ustal, kto odpowiada za wynik. Przed wdrożeniem, a nie po pierwszej reklamacji.

Jak pracujemy z AI u nas

Na koniec pokażę, jak to wygląda u nas. W WEGOTCOOKIES agenci AI piszą kod, testy i dokumentację oraz analizują stare repozytoria. Każdą ich zmianę czyta i zatwierdza programista, który zna projekt. Agenci pracują w odizolowanych środowiskach bez dostępu do danych, a na produkcji nie robią nic bez nadzoru programisty. Korzystamy z firmowych planów narzędzi AI, nie z prywatnych kont.

Dzięki temu w tej samej godzinie pracy programisty robimy nawet 5× więcej. Szczegóły znajdziecie na stronie Przewaga AI, a efekty w naszych realizacjach.

Jeśli zapamiętacie z tego wpisu jedną rzecz, niech to będzie ta: AI daje najwięcej tam, gdzie pracuje dla doświadczonych ludzi.