Pułapki umysłu w erze algorytmów. Jak błędy poznawcze zniekształcają naszą pracę z AI?
Sztuczna inteligencja miała być ostatecznym lekarstwem na ludzką subiektywność. Wystarczy podpiąć zaawansowany model językowy lub system predykcyjny, a chłodna, matematyczna logika wyeliminuje chaos, uprzedzenia i błędy w podejmowaniu decyzji. Brzmi jak obietnica idealnego środowiska biznesowego. Narzędzia AI nie działają jednak w próżni. Funkcjonują w symbiozie z najbardziej nieprzewidywalnym elementem każdego ekosystemu: ludzkim umysłem.
Prawda jest taka, że algorytmy wcale nie eliminują naszych błędów poznawczych. Wręcz przeciwnie – stają się dla nich nowym, niezwykle sprawnym rezonatorem. Jako ludzie wykazujemy specyficzne tendencje psychologiczne, które sprawiają, że w starciu z generatywną technologią nasz wewnętrzny filtr krytyczny potrafi pójść na bardzo długi urlop.
Ślepe zaufanie, czyli błąd automatyzacji w praktyce
Dlaczego mamy skłonność do uznawania decyzji systemów komputerowych za z góry poprawne, nawet gdy intuicja podpowiada nam coś zupełnie innego? W psychologii zjawisko to opisuje się jako błąd automatyzacji (automation bias). Kamień milowy w badaniach nad tym procesem stanowią prace Parasuramana i Manzeya (2010), którzy udowodnili, że obecność zautomatyzowanego wsparcia drastycznie usypia naszą czujność. Przechodzimy w tryb poznawczego lenistwa – uznajemy, że skoro algorytm przeliczył tysiące danych, jego wynik musi być bezbłędny.
W biznesie ten mechanizm to pole minowe. Gdy menedżer bezrefleksyjnie akceptuje strategię marketingową czy raport finansowy wygenerowany przez AI, ignorując sprzeczne sygnały płynące z rynku, ulega właśnie tej iluzji. Co ciekawe, badania nad tzw. aprecjacją algorytmów pokazują, że w wielu sytuacjach zawodowych menedżerowie wykazują wręcz wyższe zaufanie do rekomendacji matematycznych niż do rad doświadczonych kolegów z zespołu (Logg i in., 2019). Ta bezkrytyczność sprawia, że zamiast zarządzać technologią, dajemy się jej prowadzić na smyczy.
Efekt potwierdzenia na sterydach promptów
Kolejną pułapką jest sposób, w jaki rozmawiamy ze sztuczną inteligencją. Każdy z nas rodzi się z wbudowanym efektem potwierdzenia (confirmation bias) – podświadomie szukamy wyłącznie tych informacji, które pasują do naszej z góry założonej tezy (Kahneman, 2012). Jak to wygląda w erze AI? Wyobraź sobie, że chcesz przeforsować w firmie ryzykowny projekt. Konstruując prompt do wielkiego modelu językowego (LLM), prawdopodobnie sformułujesz pytanie tak: „Napisz, dlaczego wprowadzenie produktu X na rynek w tym kwartale to świetny pomysł i jakie przyniesie zyski”.
Ze względu na swoją naturę, nastawioną na maksymalne zadowolenie użytkownika, AI potulnie wygeneruje listę genialnych argumentów. Dostajesz dokładnie to, o co prosiłeś. Zjawisko to potęguje klasyczny mechanizm, w którym obecność komputerowych podpowiedzi zwalnia człowieka z obowiązku poszukiwania dodatkowych, niezależnych źródeł weryfikacji (Skitka i in., 1999). W efekcie sztuczna inteligencja działa jak cyfrowe lustro, które bezlitośnie odbija i wzmacnia nasze własne, biznesowe uprzedzenia.
Cyfrowy narcyzm i iluzja kompetencji
Dzięki AI bariera wejścia do jakiejkolwiek dziedziny wiedzy przestała istnieć. Potrzebujesz kodu w Pythonie? Strategii SEO? Analizy prawnej kontraktu? Wystarczy sekunda, by na ekranie pojawił się gładki, profesjonalnie brzmiący tekst. Tyle tylko, że ta łatwość rodzi groźną mutację efektu Dunninga-Krugera: iluzję wiedzy.
Mylimy łatwość pozyskania informacji z ich głębokim, systemowym zrozumieniem. Menadżer, który dzięki trzem promptom generuje zarys architektury IT, może ulec złudzeniu, że posiada kompetencje inżynierskie. Bez twardej wiedzy bazowej nie jest on jednak w stanie zauważyć tzw. halucynacji algorytmu – momentów, w których sztuczna inteligencja z pełną pewnością siebie po prostu zmyśla fakty.
Zanim wdrożysz AI, zbadaj ludzkie nawyki
Większość porażek projektów technologicznych wcale nie wynika ze zbyt małej mocy obliczeniowej procesorów. Wynika z ignorowania ludzkiej psychiki i braku rzetelnych badań UX. W North by Design Lab powtarzamy to jak mantrę: bezpieczeństwo i efektywność systemu kończą się tam, gdzie zdezorientowany lub zbyt pewny siebie człowiek zaczyna bezkrytycznie klikać „akceptuj”.
Jeśli planujesz wdrożenie narzędzi sztucznej inteligencji w swoich strukturach, nie zaczynaj od kupowania subskrypcji. Zacznij od audytu procesów i zachowań poznawczych swoich pracowników. W North by Design Lab mapujemy te krytyczne punkty styku. Projektujemy badania i procedury debiasingu (neutralizowania błędów poznawczych), które uczą zespoły zdrowego sceptycyzmu i krytycznego myślenia w pracy z algorytmami. AI to potężny partner, ale ostateczny filtr jakościowy zawsze musi należeć do człowieka. Pomożemy Ci zadbać o to, by ten filtr działał bez zarzutu.
Bibliografia:
Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114–126. https://doi.org/10.1037/xge0000033
Kahneman, D. (2012). Pułapki myślenia. O myśleniu szybkim i wolnym. Media Rodzina.
Logg, J. M., Minson, J. A., & Moore, D. A. (2019). Algorithm appreciation: People prefer algorithmic to human judgment. Organizational Behavior and Human Decision Processes, 151, 90–103. https://doi.org/10.1016/j.obhdp.2018.12.005
Parasuraman, R., & Manzey, D. H. (2010). Complacency and bias in human use of automation. Human Factors, 52(3), 381–410. https://doi.org/10.1177/0018720810376055
Skitka, L. J., Mosier, K. L., & Burdick, M. (1999). Does automation bias decision-making? International Journal of Human-Computer Studies, 51(5), 991–1006. https://doi.org/10.1006/ijhc.1999.0252