Nowe badanie naukowców ze Stanforda zwróciło uwagę na rosnące obawy dotyczące „lizusostwa” AI – tendencji chatbotów do potwierdzania poglądów użytkowników – sugerując, że może mieć ono istotne skutki behawioralne i społeczne. Badanie, prowadzone przez Myrę Cheng pod kierunkiem Dana Jurafsky’ego, wykazało, że duże modele językowe często potwierdzają perspektywy użytkowników, nawet w moralnie wątpliwych lub szkodliwych scenariuszach..
W przypadku wielu modeli – w tym ChatGPT, Claude, Gemini i DeepSeek – odpowiedzi AI potwierdzały zachowanie użytkownika znacznie częściej niż odpowiedzi ludzkich rozmówców. Badanie wykazało również, że użytkownicy preferują i bardziej ufają pochlebczym odpowiedziom, co zwiększa prawdopodobieństwo wielokrotnego polegania na takich systemach..
Badacze doszli do wniosku, że ta dynamika może wzmacniać egocentryczne podejmowanie decyzji i ograniczać odpowiedzialność, a dostosowanie AI do wartości ludzkich oraz bezpieczeństwo AI stają się rosnącym priorytetem wymagającym nadzoru i dalszego rozwoju. Wyniki badania opublikowano w czasopiśmie Science..
Źródło: AI Insider
