Badanie opublikowane przez Science News ujawnia, że chatboty AI mają poważne trudności z rzeczywistymi pytaniami medycznymi. Subtelne zmiany w sposobie opisywania przez użytkowników objawów prowadziły do dramatycznie różnych, a niekiedy niebezpiecznych porad medycznych ze strony popularnych modeli AI.
Naukowcy testowali, jak różne sformułowania tego samego pytania medycznego wpływają na odpowiedzi chatbotów. Odkryli, że nawet niewielkie zmiany w opisie objawów — na przykład użycie innego słownictwa lub kolejności opisywania dolegliwości — mogą skutkować całkowicie odmiennymi diagnozami lub zaleceniami.
Wyniki budzą poważne obawy co do stosowania chatbotów AI jako narzędzi do udzielania porad medycznych bez nadzoru specjalistów. Badacze apelują o opracowanie jasnych wytycznych dotyczących użycia AI w ochronie zdrowia i o lepsze informowanie użytkowników o ograniczeniach tych narzędzi.
.
Źródło: Science News
