Nowe badanie przeprowadzone przez UCLA Health wykazało, że nawet najbardziej zaawansowane systemy AI pozbawione są fundamentalnej zdolności posiadanej przez ludzi: wewnętrznego poczucia własnego stanu. Luka ta, zdaniem badaczy, ma poważne implikacje dla wydajności, niezawodności i bezpieczeństwa systemów AI..
Praca zatytułowana “Embodiment in Multimodal Large Language Models”, opublikowana w czasopiśmie Neuron, argumentuje, że choć rozwój AI skupił się głównie na zewnętrznej interakcji ze światem, w znacznej mierze pomijał to, co autorzy nazywają “wewnętrznym ucieleśnieniem” — zdolnością do monitorowania stanów wewnętrznych, takich jak niepewność, zmęczenie czy poziom pewności..
Badacze z UCLA Health wskazują, że ta nieobecność — którą nazywają “luką cielesną AI” — stanowi strukturalne ograniczenie w zachowaniu systemów AI. Bez sygnałów wewnętrznych regulujących ich wyjście, systemy polegają wyłącznie na rozpoznawaniu wzorców z danych treningowych, co może prowadzić do niespójnego rozumowania, nadmiernej pewności siebie i niepowodzeń w nieznanych scenariuszach..
W jednym z eksperymentów cytowanych w artykule kilka wiodących modeli nie potrafiło prawidłowo zinterpretować standardowego testu percepcji obejmującego wyświetlacze punktów świetlnych przedstawiające ruch człowieka. Wyniki pogarszały się przy drobnych zmianach, takich jak lekkie obrócenie obrazu, co podkreśla kruchość percepcji bez ucieleśnionego doświadczenia..
Badacze proponują ramy “podwójnego ucieleśnienia” łączące zewnętrzną interakcję z modelowanymi stanami wewnętrznymi. Te wewnętrzne zmienne mogłyby obejmować sygnały takie jak niepewność, obciążenie przetwarzaniem czy poziom pewności, które wpływałyby na wyjście systemu i ograniczały jego zachowanie w czasie..
Źródło: AI Insider
