Podobnie jak wiele osób, reżyserka Valerie Veatch była zainteresowana, gdy OpenAI w 2024 roku udostępniło publicznie swój model generatywny tekst-na-wideo Sora. Choć nie w pełni rozumiała tę technologię, była ciekawa jej możliwości i widziała, jak inni artyści tworzą społeczności online, by dzielić się swoimi dziełami AI. Nadzieja na nawiązywanie kontaktów przyciągnęła Veatch do świata AI, ale gdy już się w nim znalazła, była wstrząśnięta tym, jak często technologia generowała obrazy ociekające rasizmem i seksizmem..
Veatch była jeszcze bardziej niepokojona tym, że jej nowi entuzjaści AI zdawali się nie przejmować faktem, że maszyna wypłuwała bez jawnych poleceń nienawistną, zacofaną treść. Ta sytuacja odciągnęła Veatch od wczesnych eksperymentów z generatywną AI. Ale zainspirow ała ją też do nakręcenia dokumentu ‘Ghost in the Machine’ o technologiach i nurtach myślowych, które położyły fundamenty pod generatywną AI..
Zamiast skupiać się na potencjalnych korzyściach dla społeczeństwa, które zapowiadają akceleratorzy AI, ‘Ghost in the Machine’ bada historię tej technologii, wyjaśniając, dlaczego działa ona tak, jak działa. Jak podkreśla film, fraza ‘sztuczna inteligencja’ została ukuta w 1956 roku przez informatyka Johna McCarthy’ego, który starał się pozyskać więcej funduszy na swoje projekty..
Francis Galton, kuzyn Karola Darwina, był twórcą eugeniki — rasistowskiej i zdyskredytowanej teorii o doskonaleniu ludzkości poprzez systematyczne eliminowanie ras ‘gorszych’. Jego praca z wielowymiarowym modelowaniem ukształtowała myślenie ucznia Karla Pearsona, który opracował narzędzia statystyczne takie jak regresja logistyczna, będąca jednym z fundamentalnych elementów nowoczesnego uczenia maszynowego..
Zamiast próbować obalić tezę, że modele generatywnej AI produkują mowę nienawiści, bo były na niej trenowane (zjawisko znane jako GIGO), ‘Ghost in the Machine’ używa analizy historycznej, by wyjaśnić, dlaczego firmy budujące tę technologię są tak mało zainteresowane rozwiązaniem jej problemów. Veatch sama zgłosiła OpenAI rasistowskie i seksistowskie outputy Sory i usłyszała w odpowiedzi, że nic nie można z tym zrobić..
Dokument będzie dostępny do streamingu przez Kinema od 26 do 28 marca, a jesienią zostanie wyemitowany na PBS..
Źródło: The Verge AI
