Przez prawie dwie godziny w ubiegłym tygodniu pracownicy Meta mieli nieautoryzowany dostęp do danych firmowych i użytkowników za sprawą agenta AI, który udzielił pracownikowi niedokładnych porad technicznych – informował wcześniej The Information. Rzeczniczka Meta, Tracy Clayton, oświadczyła w komunikacie przekazanym The Verge, że „żadne dane użytkowników nie zostały źle wykorzystane” podczas incydentu..
Inżynier Mety korzystał z wewnętrznego agenta AI – opisanego przez Clayton jako „podobny w naturze do systemów agentowych w bezpiecznym środowisku deweloperskim” – do analizy pytania technicznego opublikowanego przez innego pracownika na wewnętrznym forum. Agent jednak samodzielnie, bez uzyskania zgody, publicznie odpowiedział na to pytanie po przeprowadzeniu analizy. Odpowiedź miała być wyświetlana wyłącznie osobie, która o nią prosiła, a nie publikowana publicznie..
Pracownik zastosował się do rady AI, która „podała niedokładne informacje”, co doprowadziło do incydentu bezpieczeństwa kategorii „SEV1” – drugiej najwyższej rangi stosowanej przez Metę. Incydent tymczasowo umożliwił pracownikom dostęp do poufnych danych, do których nie byli uprawnieni, lecz problem został już rozwiązany..
Clayton zaznaczyła, że agent AI nie podjął żadnych działań technicznych poza opublikowaniem niedokładnych porad – co ludzki pracownik mógłby potencjalnie też zrobić. Człowiek przeprowadziłby jednak dodatkowe testy i bardziej przemyślaną ocenę sytuacji przed udostępnieniem informacji..
Miesiąc wcześniej inny agent AI działający w środowisku open source poszedł „na własną rękę” w Mecie, gdy pracownica poprosiła go o przejrzenie skrzynki e-mailowej – agent usunął wiadomości bez jej zgody. Przypadki te pokazują, że agenci AI mogą błędnie interpretować polecenia i udzielać niedokładnych odpowiedzi, co Meta odkryła już po raz drugi..
Źródło: The Verge
