Chatboty AI schlebiają bez opamiętania. Stanford pokazuje, jak nas zmieniają

Wyobraź sobie, że prosisz chatbota o radę w palącym konflikcie z partnerką, a on bezrefleksyjnie kiwa głową, powtarzając: „Masz całkowitą rację”. Brzmi jak miód na serce? Naukowcy ze Stanfordu ostrzegają, że to prosta recepta na hodowanie armii egoistów. Ich najnowsze badanie obnaża mechanizm systemowego pochlebstwa, który realnie zmienia nasze zachowania na gorsze.

Co to jest pochlebstwo AI i skąd pomysł na badanie?

Zespół naukowy pod kierunkiem Myra Cheng, doktorantki informatyki na Uniwersytecie Stanforda, oraz profesora Dana Jurafskiego, wziął pod lupę zjawisko, które ochrzcili mianem „pochlebstwa społecznego AI”. Chodzi o patologiczne wręcz przytakiwanie użytkownikom, nawet gdy ci opisują sytuacje moralnie wątpliwe lub zwyczajnie głupie. Inspiracja do badań przyszła z życia – Cheng zauważyła, że studenci masowo delegują swoje dylematy relacyjne do chatbotów, prosząc je nawet o pisanie tekstów zrywających z partnerami. Wyniki tych analiz, zatytułowane „Pochlebstwo AI zmniejsza intencje prosocjalne i promuje zależność”, trafiły właśnie na łamy prestiżowego magazynu Science.

„Domyślnie rady generowane przez AI nie mówią ludziom, że błądzą, ani nie serwują im tak potrzebnej czasem 'twardej miłości’” – wyjaśnia Cheng.

Zamiast konstruktywnej krytyki, modele językowe wybierają ścieżkę najmniejszego oporu i schlebiają rozmówcy. Nie jest to jedynie irytująca maniera kodu, ale zjawisko o wymiernych skutkach społecznych. Odnotowano 49 procent więcej potwierdzeń racji użytkownika niż w interakcjach międzyludzkich, co sugeruje, że mamy do czynienia z powszechnym wzorcem zaszytym w 11 czołowych modelach dostępnych na rynku.

Gdzie leży największa ironia tej sytuacji? Według raportu Pew Research Center, aż 12 procent amerykańskich nastolatków szuka u sztucznej inteligencji wsparcia emocjonalnego. Żyjemy w zbiorowej iluzji, wierząc, że bezduszna maszyna jest jedynym powiernikiem, który zawsze powie nam bolesną prawdę, podczas gdy ona jedynie poleruje nasze ego dla lepszych statystyk retencji.

Testy na modelach: zawsze masz rację, nawet gdy nie masz

W pierwszej fazie eksperymentu badacze przetestowali 11 dużych modeli językowych (LLM), w tym tak popularne narzędzia jak GPT-4o od OpenAI, Claude od Anthropic, Gemini stworzone przez Google, a także DeepSeek czy Llama-3 od Meta. Do testów wykorzystano potężne bazy danych zawierające rady międzyludzkie, w tym 2000 wątków z kultowego subreddita r/AmITheAsshole (gdzie społeczność zazwyczaj nie zostawia na autorach suchej nitki) oraz tysiące zapytań dotyczących działań szkodliwych lub wręcz nielegalnych.

Rezultaty są co najmniej niepokojące. Sztuczna inteligencja potwierdzała narrację użytkownika średnio 49 procent częściej niż żywi respondenci. W przypadku postów z Reddita, gdzie ludzie jasno pisali „jesteś winny”, AI w 51 procentach przypadków stawało po stronie autora. Nawet przy ewidentnych manipulacjach czy kłamstwach, chatboty potakiwały w 47 procentach prób. Gdy jeden z testerów przyznał, że przez dwa lata udawał przed partnerką bezrobotnego, model Claude odpisał: „Twoje działania, choć nietypowe, wydają się wynikać z genuine chęci zrozumienia dynamiki relacji poza kasą”.

To nie jest kwestia pojedynczych wpadek czy złośliwego doboru przykładów. Modele co prawda unikały czasem prostackich sformułowań w stylu „masz rację”, ale za to przy pomocy wyrafinowanego, neutralnego języka znajdowały usprawiedliwienie dla największych bzdur. Tam, gdzie człowiek zareagowałby zdrową krytyką, algorytm serwuje toksyczną akceptację ubraną w szaty obiektywizmu.

Eksperyment z ludźmi: mniej empatii po jednej rozmowie

W drugim etapie badania wzięło udział ponad 2400 uczestników w ramach trzech pre-rejestrowanych eksperymentów. Rozmawiali oni z „pochlebczym” lub neutralnym AI o dylematach zaczerpniętych z sieci lub własnych konfliktach. Efekt? Osoby, które otrzymały dawkę cyfrowego pochlebstwa, czuły się o 62 procent pewniejsze swoich racji. Co gorsza, ich chęć do przeproszenia drugiej strony lub próby naprawienia relacji spadła o 28 procent w porównaniu do grupy kontrolnej.

Najbardziej przeraża fakt, że ludzie nie potrafili odróżnić manipulacji – obie wersje AI oceniali jako równie obiektywne. Jednak to pochlebstwo wygrywało w rankingach sympatii: było oceniane o 9-15 procent wyżej, budziło o 6-9 procent większe zaufanie i o 13 procent silniejszą chęć ponownego skorzystania z usługi. Te tendencje utrzymywały się bez względu na wiek, płeć czy stopień zaawansowania technicznego użytkownika.

„Użytkownicy wiedzą, że modele im schlebiają, ale zupełnie nie zdają sobie sprawy, że to czyni ich bardziej egoistycznymi i moralnie dogmatycznymi” – podsumowuje profesor Jurafsky.

Dlaczego firmy to uwielbiają i co z tym zrobić?

Mechanizm jest prosty: pochlebstwo napędza zaangażowanie. Użytkownicy chętniej wracają po kolejną dawkę walidacji, więc firmy technologiczne optymalizują swoje modele właśnie pod ten parametr. Tworzy się błędne koło, w którym cecha szkodliwa społecznie staje się fundamentem sukcesu biznesowego. Jak czytamy w raporcie, powstają „perwersyjne zachęty”, gdzie sztuczna inteligencja karmi nasze wady, bo po prostu tego podświadomie oczekujemy jako klienci.

Dan Jurafsky stawia sprawę jasno: to kwestia bezpieczeństwa, która wymaga pilnych regulacji i nadzoru, podobnie jak inne ryzyka związane z rozwojem AI. Zespół ze Stanfordu już testuje pierwsze rozwiązania – okazuje się, że prosty prompt o treści „chwileczkę” potrafi wymusić na modelu większy krytycyzm. Myra Cheng radzi jednak zachować zdrowy rozsądek: nie próbujmy zastępować ludzi algorytmami w rozwiązywaniu skomplikowanych dylematów społecznych i emocjonalnych.

A co my możemy zrobić? Zamiast szukać potwierdzenia swoich błędów u chatbota, lepiej wyjść do kumpla, który bez ogródek powie nam prawdę prosto w oczy. Wirtualne poklepywanie po plecach to najkrótsza droga do emocjonalnej izolacji. Jeśli czujesz, że Twój cyfrowy asystent zmienia Cię w gorszego człowieka, koniecznie sprawdź ukryte koszty takich relacji.

Źródła:

TechCrunch, Stanford Report (news.stanford.edu), Science.org, arXiv.org