Po uderzeniu militarnym USA i Izraela na Iran w sobotę, dziennik Wall Street Journal doniósł, że narzędzia wywiadowcze oparte na modelu Claude firmy Anthropic były używane przez kilka wojskowych centrów dowodzenia podczas operacji. Informacja zaskoczyła opinię publiczną, gdyż zaledwie kilka dni wcześniej Pentagon oficjalnie oznaczył Anthropic jako „ryzyko dla łańcucha dostaw”..
Nie wiadomo, w jaki sposób Pentagon użył Claude’a podczas konkretnej operacji w Iranie, a takie informacje są tajne. Jednak doniesienia wskazują, że Claude był głęboko wbudowany w technologie wykonujące „oceny wywiadowcze, identyfikację celów i symulacje scenariuszy bitewnych”..
Hamza Chaudhry, szef działu AI i bezpieczeństwa narodowego w Future of Life Institute, wskazał na pojawienie się „dyadycznego problemu zautomatyzowanej wojny”: dwóch systemów AI skutecznie komunikujących się za pośrednictwem działań kinetycznych, z których każdy optymalizuje i reaguje szybciej niż ludzcy decydenci mogą nadążyć..
Eksperci ostrzegają również, że AI stopniowo podważa stabilność nuklearną — technologie umożliwiające precyzyjne uderzenia coraz lepiej lokalizują okręty podwodne z bronią jądrową, mobilne wyrzutnie i infrastrukturę dowodzenia, co może skłonić państwa do rozbudowy arsenałów lub przyjęcia strategii „strzał przy ostrzeżeniu”..
Równocześnie pojawiają się pytania o prawne ramy kontraktu OpenAI z Pentagonem, który odwołuje się do istniejących przepisów prawa, w tym Czwartej Poprawki i ustawy FISA, nie określając jednak nowych ograniczeń dla systemów AI w zastosowaniach wojskowych..
Źródło: The Verge
