Algorytm nie zrobi Ci kawy. Czego uczy nas bolesna porażka AI w Starbucksie?
Sztuczna inteligencja miała zrewolucjonizować łańcuchy dostaw. Wystarczy podpiąć odpowiedni model predykcyjny, a system sam zoptymalizuje zamówienia, policzy mleko, ziarna i syropy. Brzmi jak sen każdego dyrektora operacyjnego. Starbucks, globalny gigant, też w to uwierzył. I właśnie boleśnie wybudził się z tego snu, wycofując się z zaawansowanego systemu AI do zarządzania magazynem.
Dlaczego algorytm za miliony dolarów poległ na liczeniu kubków do kawy?
Z najnowszych doniesień (o których pisał m.in. Komputer Świat) wynika, że wdrożony w kawiarniach Starbucksa system oparty na AI miał zautomatyzować inwentaryzację i zamawianie towaru. W teorii miał odciążyć baristów. W praktyce? Stworzył chaos.
Sztuczna inteligencja generowała zamówienia, które całkowicie rozmijały się z realnym zapotrzebowaniem konkretnych lokali. W efekcie w kawiarniach brakowało kluczowych produktów, a pracownicy byli zmuszeni do ręcznego korygowania błędów maszyny. Zamiast oszczędzać czas, system dołożył im pracy i stresu. Nowy CEO firmy ostatecznie uderzył pięścią w stół i zarządził powrót do podstaw: technologia ma służyć baristom, a nie odwrotnie. To podręcznikowy przykład sytuacji, w której potężne narzędzie IT zderza się z brutalną rzeczywistością „pierwszej linii” frontu.
Ślepota algorytmiczna i potęga wiedzy ukrytej
Gdzie leży źródło tej porażki? Problem nie polega na tym, że sztuczna inteligencja nie potrafi liczyć. Problem w tym, że brakuje jej kontekstu, który nauka określa mianem „wiedzy ukrytej” (tacit knowledge). To wszystkie te nieformalne, trudne do skwantyfikowania informacje, które pracownik nabywa poprzez doświadczenie.
Badania nad zarządzaniem algorytmicznym rzucają na ten przypadek bardzo ostre światło. Kellogg wraz z zespołem udowadniają, że gdy systemy zautomatyzowane ignorują lokalny kontekst i odbierają pracownikom autonomię decyzyjną, dochodzi do tzw. cichego sabotażu lub całkowitego załamania procesów (Kellog 2020)
Jeszcze trafniej zjawisko to tłumaczy klasyczne już badanie z 2015 roku . Naukowcy udowodnili w nim, że ludzie błyskawicznie i trwale tracą zaufanie do algorytmów, gdy tylko zobaczą, że maszyna popełnia błędy – nawet jeśli statystycznie algorytm myli się rzadziej niż człowiek (Dietvorst i in., 2015). W Starbucksie system AI popełniał błędy w obszarze krytycznym dla baristy. Utrata zaufania była więc natychmiastowa. Ludzie zaczęli walczyć z systemem, zamiast z nim współpracować.
UX ważniejszy niż moc obliczeniowa
Porażka Starbucksa to nie jest porażka analityki danych. To spektakularna porażka użyteczności (UX) i braku badań z realnymi użytkownikami.
Projektanci systemu założyli, że centralny algorytm wie lepiej od pracownika lokalu. Zapomnieli, że to człowiek na miejscu widzi, że za rogiem otwarto nową szkołę, przez co zeszło dwa razy więcej syropu karmelowego. Kiedy oprogramowanie nie zostawia miejsca na ludzką korektę i nie jest intuicyjne, staje się wrogiem. To właśnie to uciążliwe zjawisko, o którym mówimy w North by Design Lab: bezpieczeństwo i płynność działania systemu kończą się tam, gdzie sfrustrowany pracownik musi szukać „ścieżki na skróty”, by w ogóle wykonać swoją pracę.
Zanim zapłacisz za AI, zbadaj grunt
Przypadek Starbucksa to twarda lekcja dla każdego zarządu, który ulega magii efektownych nowinek technologicznych.
Jeśli zastanawiasz się nad wdrożeniem automatyzacji w swojej firmie, nie zaczynaj od kupowania technologii. Zacznij od weryfikacji rzeczywistości. W North by Design Lab badamy właśnie takie krytyczne punkty styku. Szukamy luk między tym, co system zakłada w teorii, a tym, jak zachowa się żywy człowiek pod presją czasu w czwartkowe popołudnie.
Projektujemy badania, testujemy procesy i analizujemy dane, by dać Ci pewność, że nowa technologia faktycznie rozwiąże problem Twojego biznesu, a nie tylko wygeneruje spektakularne koszty. Technologia to tylko narzędzie. Bez rzetelnej, opartej na dowodach wiedzy o użytkowniku, nawet najdroższa sztuczna inteligencja nie będzie w stanie po prostu zaparzyć dobrej kawy.
Bibliografia:
Kellogg, K. C., Valentine, M. A., & Christin, A. (2020). Algorithms at work: The new contested terrain of control. Academy of Management Annals, 14(1), 366–410. https://doi.org/10.5465/annals.2018.0174
Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114–126. https://doi.org/10.1037/xge0000033
Komputer Świat: https://www.komputerswiat.pl/nauka-i-technika/sztuczna-inteligencja/starbucks-rezygnuje-z-ai-mialo-pomoc-w-zarzadzaniu-magazynem/e3w6es6