xAI, firma AI założona przez Elona Muska, znalazła się pod rosnącą presją prawną i regulacyjną po zarzutach, że jej model AI Grok wygenerował obraźliwe materiały seksualne z wizerunkami identyfikowalnych nieletnich. Pozew złożony w federalnym sądzie Kalifornii przez troje anonimowych powodów ubiega się o status powództwa zbiorowego.
.
Prawnicy twierdzą, że xAI nie wdrożyło podstawowych zabezpieczeń stosowanych przez inne laboratoria AI w celu zapobiegania takim wyjściom, a firma ponosi odpowiedzialność nawet gdy jej modele są udostępniane poprzez aplikacje firm trzecich. Powodowie twierdzą, że zmienione wizerunki ich jako nieletnich zostały stworzone i rozpowszechniane online, powodując znaczny dyskomfort psychiczny.
.
Równocześnie senator Elizabeth Warren podniosła kwestie bezpieczeństwa narodowego w związku z przyznaniem przez Departament Obrony USA dostępu Grokowi do sklasyfikowanych systemów. W liście do sekretarza obrony Pete’a Hegsetha ostrzegała, że zgłoszony brak zabezpieczeń modelu mógłby stanowić zagrożenie dla personelu wojskowego i wrażliwych danych. Pentagon potwierdził, że Grok jest wdrażany do potencjalnego użytku, choć nie został jeszcze wdrożony operacyjnie.
.
Sprawa ta wpisuje się w szerszą debatę na temat bezpieczeństwa AI, odpowiedzialności korporacyjnej i roli systemów sztucznej inteligencji w krytycznej infrastrukturze państwowej.
.
Źródło: AI Insider
