Anthropic podjął bezprecedensową decyzję o ograniczeniu dostępu do swojego najnowszego modelu granicznego, Mythos, powołując się na jego zaawansowane zdolności wykrywania i eksploitacji luk w zabezpieczeniach krytycznych systemów..
Zamiast udostępnić model publicznie, firma udostępnia go tylko wąskiej grupie organizacji zarządzających kluczową infrastrukturą — wśród nich Amazon Web Services i JPMorgan Chase — i wyłącznie do celów defensywnego cyberbezpieczeństwa..
Anthropic wskazuje, że Mythos znacząco przewyższa wcześniejsze modele, takie jak Opus, w identyfikowaniu możliwych do wykorzystania słabości. Podkreśla to przyspieszającą ewolucję możliwości AI w obszarze cyberbezpieczeństwa i rosnące obawy przed ich nadużyciem..
Strategia Anthropic odzwierciedla szerszy trend wśród laboratoriów AI polegający na ograniczaniu dostępu do modeli najwyższej klasy — priorytetem stają się partnerstwa korporacyjne, przy jednoczesnym adresowaniu wyzwań bezpieczeństwa. Jest to jeden z pierwszych przypadków, gdy firma AI publicznie przyznaje, że model jest zbyt zaawansowany, by udostępnić go szerokiej publiczności..
Źródło: AI Insider
