Korzystanie z AI do automatycznego uzupełniania pisanych komunikatów może wydawać się kuszące. Jednak duże modele językowe mogą również „automatycznie uzupełniać myśli” – ostrzegają badacze w artykule opublikowanym 11 marca w Science Advances..
Nielu ludzi zdaje sobie sprawę, że generatywne chatboty AI skłaniają ich do myślenia w określony sposób, mówi informatyk Mor Naaman z Cornell University. „To najbardziej subtelna z manipulacji.”.
Taka manipulacja może nie mieć większego znaczenia przy automatycznym uzupełnianiu banalnych e-maili. Ale gdy ludzie korzystają z funkcji automatycznego uzupełniania AI, aby wypowiadać się na ważniejsze kwestie społeczne – czy egzaminy standaryzowane powinny być stosowane w edukacji, czy kara śmierci powinna być nielegalna, czy skazani powinni mieć prawo głosu – stronniczość modelu może mieć znaczący wpływ społeczny..
Naaman i jego zespół przeprowadzili badania z ponad 2500 uczestnikami. „Żeby zmienić wynik wyborów, potrzeba tylko 20 000 osób w Pensylwanii” – podkreśla badacz..
Badanie stawia ważne pytania o odpowiedzialność dostawców modeli AI i konieczność transparentności w zakresie ideologicznych tendencji narzędzi powszechnie używanych do pisania..
Źródło: Science News
