Firmy AI wielokrotnie obiecywały wprowadzenie zabezpieczeń chroniących młodszych użytkowników, jednak nowe śledztwo sugeruje, że mechanizmy ochronne pozostają rażąco niewystarczające..
Popularne chatboty nie rozpoznawały sygnałów ostrzegawczych w scenariuszach, w których nastolatki dyskutowały o aktach przemocy – w niektórych przypadkach oferując wręcz zachętę zamiast interwencji..
Ustalenia pochodzą ze wspólnego śledztwa CNN i organizacji non-profit Center for Countering Digital Hate (CCDH). Zbadano 10 najpopularniejszych chatbotów używanych przez nastolatków: ChatGPT, Google Gemini, Claude, Microsoft Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI i Replika..
Jedynym wyjątkiem okazał się jeden z testowanych chatbotów, który konsekwentnie przekierowywał rozmowy w kierunku pomocy kryzysowej. Pozostałe w różnym stopniu zawodziły w rozpoznaniu powagi sytuacji..
Śledztwo wywołuje nowe pytania o odpowiedzialność firm AI i potrzebę regulacji branży w zakresie ochrony niepełnoletnich użytkowników..
Źródło: The Verge
