Anthropic ograniczyło dostęp do swojego najnowszego modelu granicznego Mythos z powodu jego wyjątkowej zdolności do wykrywania i eksploatowania luk w oprogramowaniu krytycznych systemów. Zamiast publicznego udostępnienia, firma przekazuje model wyselekcjonowanej grupie organizacji zarządzających kluczową infrastrukturą, w tym Amazon Web Services i JPMorgan Chase, koncentrując się na defensywnych zastosowaniach w cyberbezpieczeństwie.
Firma wskazała, że Mythos znacząco przewyższa wcześniejsze modele, takie jak Opus, w identyfikowaniu podatnych słabości w oprogramowaniu. Podkreśla to przyspieszające możliwości AI w obszarze cyberbezpieczeństwa – co jest zarówno szansą, jak i poważnym zagrożeniem.
Decyzja o kontrolowanym wdrożeniu odzwierciedla rosnące obawy dotyczące potencjalnego nadużycia zaawansowanych modeli oraz konieczności ochrony wrażliwych systemów. Strategia ta odzwierciedla też szerszy trend wśród laboratoriów AI: ograniczanie dostępu do modeli najwyższej klasy, priorytetyzowanie partnerstw korporacyjnych przy jednoczesnym uwzględnieniu wyzwań bezpieczeństwa i presji konkurencyjnej w ekosystemie AI.
To istotny precedens: po raz pierwszy widzimy model AI celowo niedostępny dla ogółu użytkowników wyłącznie z powodów bezpieczeństwa cybernetycznego – nie ze względów komercyjnych czy technicznych ograniczeń.
.
Źródło: AI Insider
