Sztuczna inteligencja miała być ostatecznym lekarstwem na ludzką subiektywność. Wystarczy podpiąć zaawansowany model językowy lub system predykcyjny, a chłodna, matematyczna logika wyeliminuje chaos, uprzedzenia i błędy w podejmowaniu decyzji. Brzmi jak obietnica idealnego środowiska biznesowego. Narzędzia AI nie działają jednak w próżni. Funkcjonują w symbiozie z najbardziej nieprzewidywalnym elementem każdego ekosystemu: ludzkim umysłem.

Prawda jest taka, że algorytmy wcale nie eliminują naszych błędów poznawczych. Wręcz przeciwnie – stają się dla nich nowym, niezwykle sprawnym rezonatorem. Jako ludzie wykazujemy specyficzne tendencje psychologiczne, które sprawiają, że w starciu z generatywną technologią nasz wewnętrzny filtr krytyczny potrafi pójść na bardzo długi urlop.

Ślepe zaufanie, czyli błąd automatyzacji w praktyce

Dlaczego mamy skłonność do uznawania decyzji systemów komputerowych za z góry poprawne, nawet gdy intuicja podpowiada nam coś zupełnie innego? W psychologii zjawisko to opisuje się jako błąd automatyzacji (automation bias). Kamień milowy w badaniach nad tym procesem stanowią prace Parasuramana i Manzeya (2010), którzy udowodnili, że obecność zautomatyzowanego wsparcia drastycznie usypia naszą czujność. Przechodzimy w tryb poznawczego lenistwa – uznajemy, że skoro algorytm przeliczył tysiące danych, jego wynik musi być bezbłędny.

W biznesie ten mechanizm to pole minowe. Gdy menedżer bezrefleksyjnie akceptuje strategię marketingową czy raport finansowy wygenerowany przez AI, ignorując sprzeczne sygnały płynące z rynku, ulega właśnie tej iluzji. Co ciekawe, badania nad tzw. aprecjacją algorytmów pokazują, że w wielu sytuacjach zawodowych menedżerowie wykazują wręcz wyższe zaufanie do rekomendacji matematycznych niż do rad doświadczonych kolegów z zespołu (Logg i in., 2019). Ta bezkrytyczność sprawia, że zamiast zarządzać technologią, dajemy się jej prowadzić na smyczy.

Efekt potwierdzenia na sterydach promptów

Kolejną pułapką jest sposób, w jaki rozmawiamy ze sztuczną inteligencją. Każdy z nas rodzi się z wbudowanym efektem potwierdzenia (confirmation bias) – podświadomie szukamy wyłącznie tych informacji, które pasują do naszej z góry założonej tezy (Kahneman, 2012). Jak to wygląda w erze AI? Wyobraź sobie, że chcesz przeforsować w firmie ryzykowny projekt. Konstruując prompt do wielkiego modelu językowego (LLM), prawdopodobnie sformułujesz pytanie tak: „Napisz, dlaczego wprowadzenie produktu X na rynek w tym kwartale to świetny pomysł i jakie przyniesie zyski”.

Ze względu na swoją naturę, nastawioną na maksymalne zadowolenie użytkownika, AI potulnie wygeneruje listę genialnych argumentów. Dostajesz dokładnie to, o co prosiłeś. Zjawisko to potęguje klasyczny mechanizm, w którym obecność komputerowych podpowiedzi zwalnia człowieka z obowiązku poszukiwania dodatkowych, niezależnych źródeł weryfikacji (Skitka i in., 1999). W efekcie sztuczna inteligencja działa jak cyfrowe lustro, które bezlitośnie odbija i wzmacnia nasze własne, biznesowe uprzedzenia.

Cyfrowy narcyzm i iluzja kompetencji

Dzięki AI bariera wejścia do jakiejkolwiek dziedziny wiedzy przestała istnieć. Potrzebujesz kodu w Pythonie? Strategii SEO? Analizy prawnej kontraktu? Wystarczy sekunda, by na ekranie pojawił się gładki, profesjonalnie brzmiący tekst. Tyle tylko, że ta łatwość rodzi groźną mutację efektu Dunninga-Krugera: iluzję wiedzy.

Mylimy łatwość pozyskania informacji z ich głębokim, systemowym zrozumieniem. Menadżer, który dzięki trzem promptom generuje zarys architektury IT, może ulec złudzeniu, że posiada kompetencje inżynierskie. Bez twardej wiedzy bazowej nie jest on jednak w stanie zauważyć tzw. halucynacji algorytmu – momentów, w których sztuczna inteligencja z pełną pewnością siebie po prostu zmyśla fakty.

Zanim wdrożysz AI, zbadaj ludzkie nawyki

Większość porażek projektów technologicznych wcale nie wynika ze zbyt małej mocy obliczeniowej procesorów. Wynika z ignorowania ludzkiej psychiki i braku rzetelnych badań UX. W North by Design Lab powtarzamy to jak mantrę: bezpieczeństwo i efektywność systemu kończą się tam, gdzie zdezorientowany lub zbyt pewny siebie człowiek zaczyna bezkrytycznie klikać „akceptuj”.

Jeśli planujesz wdrożenie narzędzi sztucznej inteligencji w swoich strukturach, nie zaczynaj od kupowania subskrypcji. Zacznij od audytu procesów i zachowań poznawczych swoich pracowników. W North by Design Lab mapujemy te krytyczne punkty styku. Projektujemy badania i procedury debiasingu (neutralizowania błędów poznawczych), które uczą zespoły zdrowego sceptycyzmu i krytycznego myślenia w pracy z algorytmami. AI to potężny partner, ale ostateczny filtr jakościowy zawsze musi należeć do człowieka. Pomożemy Ci zadbać o to, by ten filtr działał bez zarzutu.

Bibliografia:

Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114–126. https://doi.org/10.1037/xge0000033

Kahneman, D. (2012). Pułapki myślenia. O myśleniu szybkim i wolnym. Media Rodzina.

Logg, J. M., Minson, J. A., & Moore, D. A. (2019). Algorithm appreciation: People prefer algorithmic to human judgment. Organizational Behavior and Human Decision Processes, 151, 90–103. https://doi.org/10.1016/j.obhdp.2018.12.005

Parasuraman, R., & Manzey, D. H. (2010). Complacency and bias in human use of automation. Human Factors, 52(3), 381–410. https://doi.org/10.1177/0018720810376055

Skitka, L. J., Mosier, K. L., & Burdick, M. (1999). Does automation bias decision-making? International Journal of Human-Computer Studies, 51(5), 991–1006. https://doi.org/10.1006/ijhc.1999.0252

Obraz autorstwa freepik

Sztuczna inteligencja miała zrewolucjonizować łańcuchy dostaw. Wystarczy podpiąć odpowiedni model predykcyjny, a system sam zoptymalizuje zamówienia, policzy mleko, ziarna i syropy. Brzmi jak sen każdego dyrektora operacyjnego. Starbucks, globalny gigant, też w to uwierzył. I właśnie boleśnie wybudził się z tego snu, wycofując się z zaawansowanego systemu AI do zarządzania magazynem.

Dlaczego algorytm za miliony dolarów poległ na liczeniu kubków do kawy?

Z najnowszych doniesień (o których pisał m.in. Komputer Świat) wynika, że wdrożony w kawiarniach Starbucksa system oparty na AI miał zautomatyzować inwentaryzację i zamawianie towaru. W teorii miał odciążyć baristów. W praktyce? Stworzył chaos.

Sztuczna inteligencja generowała zamówienia, które całkowicie rozmijały się z realnym zapotrzebowaniem konkretnych lokali. W efekcie w kawiarniach brakowało kluczowych produktów, a pracownicy byli zmuszeni do ręcznego korygowania błędów maszyny. Zamiast oszczędzać czas, system dołożył im pracy i stresu. Nowy CEO firmy ostatecznie uderzył pięścią w stół i zarządził powrót do podstaw: technologia ma służyć baristom, a nie odwrotnie. To podręcznikowy przykład sytuacji, w której potężne narzędzie IT zderza się z brutalną rzeczywistością „pierwszej linii” frontu.

Ślepota algorytmiczna i potęga wiedzy ukrytej

Gdzie leży źródło tej porażki? Problem nie polega na tym, że sztuczna inteligencja nie potrafi liczyć. Problem w tym, że brakuje jej kontekstu, który nauka określa mianem „wiedzy ukrytej” (tacit knowledge). To wszystkie te nieformalne, trudne do skwantyfikowania informacje, które pracownik nabywa poprzez doświadczenie.

Badania nad zarządzaniem algorytmicznym rzucają na ten przypadek bardzo ostre światło. Kellogg wraz z zespołem udowadniają, że gdy systemy zautomatyzowane ignorują lokalny kontekst i odbierają pracownikom autonomię decyzyjną, dochodzi do tzw. cichego sabotażu lub całkowitego załamania procesów (Kellog 2020)

Jeszcze trafniej zjawisko to tłumaczy klasyczne już badanie z 2015 roku . Naukowcy udowodnili w nim, że ludzie błyskawicznie i trwale tracą zaufanie do algorytmów, gdy tylko zobaczą, że maszyna popełnia błędy – nawet jeśli statystycznie algorytm myli się rzadziej niż człowiek (Dietvorst i in., 2015). W Starbucksie system AI popełniał błędy w obszarze krytycznym dla baristy. Utrata zaufania była więc natychmiastowa. Ludzie zaczęli walczyć z systemem, zamiast z nim współpracować.

UX ważniejszy niż moc obliczeniowa

Porażka Starbucksa to nie jest porażka analityki danych. To spektakularna porażka użyteczności (UX) i braku badań z realnymi użytkownikami.

Projektanci systemu założyli, że centralny algorytm wie lepiej od pracownika lokalu. Zapomnieli, że to człowiek na miejscu widzi, że za rogiem otwarto nową szkołę, przez co zeszło dwa razy więcej syropu karmelowego. Kiedy oprogramowanie nie zostawia miejsca na ludzką korektę i nie jest intuicyjne, staje się wrogiem. To właśnie to uciążliwe zjawisko, o którym mówimy w North by Design Lab: bezpieczeństwo i płynność działania systemu kończą się tam, gdzie sfrustrowany pracownik musi szukać „ścieżki na skróty”, by w ogóle wykonać swoją pracę.

Zanim zapłacisz za AI, zbadaj grunt

Przypadek Starbucksa to twarda lekcja dla każdego zarządu, który ulega magii efektownych nowinek technologicznych.

Jeśli zastanawiasz się nad wdrożeniem automatyzacji w swojej firmie, nie zaczynaj od kupowania technologii. Zacznij od weryfikacji rzeczywistości. W North by Design Lab badamy właśnie takie krytyczne punkty styku. Szukamy luk między tym, co system zakłada w teorii, a tym, jak zachowa się żywy człowiek pod presją czasu w czwartkowe popołudnie.

Projektujemy badania, testujemy procesy i analizujemy dane, by dać Ci pewność, że nowa technologia faktycznie rozwiąże problem Twojego biznesu, a nie tylko wygeneruje spektakularne koszty. Technologia to tylko narzędzie. Bez rzetelnej, opartej na dowodach wiedzy o użytkowniku, nawet najdroższa sztuczna inteligencja nie będzie w stanie po prostu zaparzyć dobrej kawy.

Bibliografia:

Kellogg, K. C., Valentine, M. A., & Christin, A. (2020). Algorithms at work: The new contested terrain of control. Academy of Management Annals, 14(1), 366–410. https://doi.org/10.5465/annals.2018.0174

Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114–126. https://doi.org/10.1037/xge0000033

Komputer Świat: https://www.komputerswiat.pl/nauka-i-technika/sztuczna-inteligencja/starbucks-rezygnuje-z-ai-mialo-pomoc-w-zarzadzaniu-magazynem/e3w6es6

„Dodajmy tam jakiegoś chatbota AI!” – to zdanie pada dziś na niemal każdym spotkaniu zarządu. W pogoni za technologiczną modą firmy masowo wdrażają rozwiązania oparte na sztucznej inteligencji, wierząc, że sam napis „AI-powered” magicznie przyciągnie klientów i podwoi zyski. Rzeczywistość bywa jednak brutalna. Bezrefleksyjne wciskanie sztucznej inteligencji wszędzie tam, gdzie nie ma to głębszego sensu, generuje dziś gigantyczne straty finansowe, ekologiczne oraz zwykłą stratę czasu.

Zaczyna dochodzić do absurdów. Głośny stał się przypadek Amazona, który tak bardzo chciał wymusić korzystanie z AI, że zaczął monitorować zużycie tokenów przez swoich programistów i tworzyć wewnętrzne tabele wyników. Efekt? Pracownicy zaczęli sztucznie nabijać statystyki (tzw. tokenmaxxing), uruchamiając zapytania AI bez żadnego sensu i potrzeby, byle tylko dobrze wypaść przed menedżerami.

Bezsensowne wrzucanie AI gdzie popadnie generuje ogromne koszty!

Zamiast oszczędności, firmy na całym świecie zderzają się dziś ze ścianą kosztów. Uber i Nvidia otwarcie przyznają, że wydatki na moc obliczeniową potrzebną do zasilania narzędzi AI zaczynają drastycznie przewyższać pensje samych pracowników. Dyrektor ds. technologii (CTO) w Uberze przyznał wprost, że pierwotny budżet na asystentów AI został błyskawicznie „rozbity w pył” i musiał pisać go od nowa. Głośne są też przypadki mniejszych startupów, które za jeden miesiąc testów nowego modelu potrafią otrzymać rachunek na… 113 tysięcy dolarów. Do tego dochodzą gigantyczne koszty środowiskowe związane z ogromnym poborem prądu przez centra danych oraz fakt, że blisko 40% rzekomo zaoszczędzonego dzięki AI czasu pracownicy i tak marnują na poprawianie błędów i halucynacji generowanych przez algorytmy. Badania MIT dowodzą, że w aż 77% zadań opartych na analizie obrazu praca ludzka wciąż okazuje się po prostu tańsza i bardziej efektywna niż automatyzacja.

Magia efektownych nowinek.

Gdzie leży źródło tego problemu? Bardzo często ulegamy po prostu magii efektownych nowinek. Wspólnie z naszym zespołem badałyśmy to zjawisko u samych jego korzeni. W naszej publikacji “Ghiblified by AI”: Viral AI-generated image trend in press narratives analizowałyśmy, jak media i opinia publiczna zachłysnęły się nagłą, wiralową modą na generowanie za pomocą AI obrazów stylizowanych na kultowe japońskie studio Ghibli. To uroczy i fascynujący trend, który pokazuje niesamowity potencjał kreatywny generatywnej sztucznej inteligencji.

Problem pojawia się jednak wtedy, gdy tę samą logikę „fajnego gadżetu z internetu” chcemy bez głębszej analizy przenieść do krytycznych, twardych systemów biznesowych. W naszej kolejnej pracy naukowej, opublikowanej w 2025 roku w prestiżowym czasopiśmie IEEE Transactions on Learning Technologies, przyjrzałyśmy się z bliska temu, jak modele generatywne radzą sobie z tworzeniem skomplikowanych, merytorycznych struktur. Wnioski są jednoznaczne: to, co świetnie wygląda jako wiral w mediach społecznościowych, w zderzeniu z rygorystycznymi wymaganiami biznesowymi napotyka na twarde bariery wydajnościowe i ograniczenia strukturalne. Bez rzetelnego przetestowania tych narzędzi w Waszym konkretnym środowisku łatwo wpaść w pułapkę długu technologicznego i generowania pustych kosztów.

Wdrażać czy nie wdrażać? Oto jest pytanie!

Jeśli zastanawiasz się, jak mądrze wdrożyć nowoczesne technologie, by rzeczywiście przynosiły zysk, a nie tylko generowały puste koszty – nie musisz działać po omacku. W North by Design Lab łączymy naukowe podejście z biznesową praktyką. Wyjaśniamy i dostarczamy twardych, mierzalnych dowodów.

I nie, absolutnie nie jesteśmy przeciwniczkami AI. Uwielbiamy je! Ale pomagamy firmom zweryfikować, czy planowane wdrożenia AI mają sens biznesowy, czy są bezpieczne dla danych i jak wpłyną na codzienne doświadczenia Waszych klientów. Robimy to po to, by technologia przestała być tylko modnym, kosztownym gadżetem, a stała się bezpiecznym i opłacalnym wsparciem dla Waszego biznesu.

Bibliografia

Hale, C. (2026). Amazon workers are apparently 'tokenmaxxing’ AI platforms to hit arbitrary usage targets. TechRadar.

Rutecka, P., Cicha, K., Rizun, M., & Strzelecki, A. (2025). Generative AI in Curriculum Design: Empirical Insights Into Model Performance and Educational Constraints. IEEE Transactions on Learning Technologies, 18, 757–768.

The Economic Times. (2026). Replacing humans with AI is turning out to be costlier than expected, Uber, Nvidia execs say.

Obraz T Hansen z Pixabay

Wyobraź sobie, że właśnie otwierasz swój nowy sklep internetowy lub wypuszczasz na rynek nową aplikację. Zatrudniłeś świetnego grafika, który stworzył w Figmie prawdziwe arcydzieło. Układ jest nowoczesny, kolory modne, a animacje płynne. Czekasz na lawinę zamówień… i nic. Klienci wchodzą, klikają bez celu przez kilkanaście sekund, po czym bezpowrotnie zamykają kartę. Co poszło nie tak? Czy projekt był za brzydki?

Bynajmniej! Problem polega na tym, że produkt został zaprojektowany pod kątem estetyki, a nie działania ludzkiego mózgu.

W epoce, w której narzędzia takie jak Claude Design, Google Stitch czy wbudowane asystenty Figma AI potrafią automatycznie wygenerować poprawny wizualnie interfejs w kilka minut, tradycyjna rola projektanta UI (skupionego na rysowaniu makiet) drastycznie się kurczy. Jednak tym, czego algorytmy nie potrafią skopiować, jest głębokie zrozumienie ludzkiej psychologii. To zjawisko napędza renesans badania doświadczeń użytkownika (UX Research). Według rynkowych analiz z lat 2025–2026, to właśnie wyspecjalizowani badacze UX – są dziś kluczowymi architektami sukcesu cyfrowego.

Badacz UX, wykorzystując rygorystyczne metody naukowe, analizuje procesy poznawcze, jakie zachodzą w głowie klienta podczas kontaktu z technologią. Dr Elizabeth Rodwell zwraca uwagę, że wprowadzanie zaawansowanych systemów cyfrowych (takich jak chatboty czy systemy rekomendacji AI) bez zrozumienia ludzkich zachowań generuje ogromny opór i tzw. tarcie poznawcze. Krótko mówiąc: jeśli zmuszasz swojego użytkownika do myślenia i zastanawiania się, jak ma coś zrobić – właśnie go straciłeś.

Współczesne badania naukowe pokazują, że sztuczna inteligencja staje się dla badacza potężnym asystentem, ale nie zastępuje człowieka. Jak dowodzi Zhou w swoich badaniach nad wykorzystaniem ChatGPT w procesach UX, sztuczna inteligencja potrafi świetnie wspierać fazę koncepcyjną, jednak bez ludzkiego nadzoru generuje rozwiązania oderwane od rzeczywistych bólów użytkownika.

Większość agencji zaproponuje Ci po prostu „odświeżenie layoutu”. My w North by Design Lab uważamy, że to strata Twojego czasu i budżetu. Jako laboratorium badawczo-strategiczne badamy to, co naprawdę dzieje się po drugiej stronie ekranu. Przeprowadzamy rzetelne audyty użyteczności (UX) i badamy rynek w oparciu o twarde dowody i najnowszą wiedzę akademicką. Identyfikujemy niewidoczne bariery poznawcze, przez które tracisz pieniądze, i pomagamy przeobrazić Twój produkt w intuicyjne narzędzie, którego ludzie po prostu chcą używać.

Bibliografia

• Rodwell, E. (2024). Pain points and personality: Bringing anthropology to conversational UX design. W: J. M. Spears & C. Z. Miller (Red.), The Routledge Companion to Practicing Anthropology and Design (s. 189–201). Taylor & Francis.
• Gnatovych, V. (2025). Simulating the studio: How designers orchestrate AI across UX and product workflows. Lira-K.
• Mei, Y., Wu, Z., Yu, J., Li, W., & Zhou, Z. (2025). GeneyMAP: Exploring the potential of GenAI to facilitate mapping user journeys for UX design. W: Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems.
• Zhou, Z., Li, Y., & Yu, J. (2024). Exploring the application of LLM-based AI in UX design: An empirical case study of ChatGPT. Human–Computer Interaction, 1–33.

Obraz Brigitte Werner z Pixabay

Wyobraź sobie firmę, która właśnie wydała setki tysięcy złotych na najnowocześniejsze systemy antywirusowe, zaawansowane szyfrowanie i zapory sieciowe. Cyfrowa twierdza wydaje się absolutnie nie do zdobycia. A jednak zaledwie kilka tygodni później dochodzi do poważnego wycieku wrażliwych danych. Czy to zasługa genialnego hakera piszącego złośliwe oprogramowanie w mrocznym pokoju? Prawie nigdy. Najczęściej scenariusz jest boleśnie prosty: kluczowy pracownik podał dane logowania na fałszywej stronie, ponieważ ta oryginalna była tak skomplikowana, że z czystej frustracji odruchowo szukał jakiegokolwiek „uproszczenia”.

To klasyczny problem współczesnego biznesu. Choć organizacje inwestują ogromne budżety w zaawansowaną technologię, najczęstszą przyczyną incydentów nie są błędy w kodzie oprogramowania, lecz mechanizmy inżynierii społecznej i błędy behawioralne użytkowników. Badania naukowe z zakresu bezpieczeństwa informacji bezlitośnie obnażają tę prawdę. Wybitni badacze, tacy jak dr S. Chaudhary, od lat dowodzą, że budowanie realnej odporności organizacji wymaga wdrożenia tzw. bezpieczeństwa zorientowanego na użytkownika (user-centric security). Z kolei analizy dr. I. Bongiovanniego nad ładem informacyjnym pokazują, że bez jasnych struktur odpowiedzialności (governance) na szczeblu zarządczym, technologia staje się po prostu bezbronna.

To dlatego obszar GRC (Governance, Risk, and Compliance) przeżywa dziś tak ogromny boom na globalnym rynku. Według oficjalnych danych amerykańskiego Bureau of Labor Statistics (BLS), zapotrzebowanie na analityków bezpieczeństwa procesowego rośnie w tempie aż 29% rocznie, a ich rynkowa mediana wynagrodzeń przekracza 124 000 USD rocznie. Biznes zaczyna dostrzegać, że najgroźniejsze luki powstają tam, gdzie technologia styka się z regulacjami prawnymi i zwykłymi ludzkimi zachowaniami. Próba rozwiązania tego problemu za pomocą kolejnych opasłych regulaminów, których pracownicy i tak nie czytają, generuje jedynie niebezpieczne tarcie poznawcze i skłania ludzi do potajemnego omijania procedur.

W North by Design Lab podchodzimy do tego wyzwania zupełnie inaczej. Rozumiemy, że większość problemów z bezpieczeństwem nie zaczyna się od samej technologii, lecz od ludzi i braku wiedzy. Poprzez specjalistyczne audyty, badania użyteczności (UX) i analizy procesów sprawdzamy, gdzie naprawdę leży ryzyko w Twojej aplikacji, sklepie internetowym czy wewnętrznych strukturach firmy. Pomagamy zidentyfikować krytyczne punkty, w których skomplikowana komunikacja, błędy projektowe lub nienaturalne ścieżki użytkownika mogą prowokować kosztowne pomyłki Waszego zespołu lub klientów. Dajemy Wam pełną jasność co do tego, co naprawdę dzieje się po drugiej stronie ekranu, pozwalając skutecznie zabezpieczyć biznes w sposób świadomy i przewidywalny.

Gale, M., Bongiovanni, I., & Slapničar, S. (2022). Governing cybersecurity from the boardroom: Challenges, drivers, and ways ahead. Computers & Security, 121, Artykuł 102840. https://doi.org/10.1016/j.cose.2022.102840

Chaudhary, S. (2024). Driving behaviour change with cybersecurity awareness. Computers & Security, 142, Artykuł 103858. https://doi.org/10.1016/j.cose.2024.103858

Obraz: Pete Linforth z Pixabay