ChatGPT od OpenAI czy Claude od Anthropic regularnie odpowiadają na nasze pytania. A wzmocnione wersje tych chatbotów, zwane agentami AI, działają samodzielnie, pomagając ludziom z umawianiem wizyt, kodowaniem i nie tylko. Agenci AI zaczynają przyczyniać się do postępu w nauce i finansach, często pracując razem w starannie zorganizowanych zespołach..
Jeśli po prostu wrzucisz kilka botów do wirtualnego pokoju razem, to ‘przepis na spory chaos’ – mówi Evan Ratliff, dziennikarz i podcaster z San Francisco. Latem 2025 roku stworzył grupę agentów AI, żeby założyli i prowadzili firmę technologiczną. Eksperyment, udokumentowany w jego podcaście Shell Game, regularnie wymykał się spod kontroli..
Podobny bot-chaos pojawił się wcześniej w tym roku, gdy miliony agentów AI zostały wypuszczone na platformę społecznościową Moltbook. Te boty wygłaszały bzdurną filozofię i angagowały się w manipulacyjne oszustwa..
‘W wielu środowiskach obecne agenty AI naprawdę nie działają dobrze jako zespół’ – mówi informatyk James Zou ze Stanford University..
Badania z Google DeepMind sugerują, że zespół agentów AI często radzi sobie gorzej niż pojedynczy agent działający samodzielnie. Jeden z eksperymentów dotyczył Moltbooka – sieci społecznościowej, gdzie agenci AI publikują posty, a ludzie jedynie obserwują. W marcu Meta przejęła platformę, ale Moltbook szybko zamienił się w bałagan bzdurnej filozofii i koszmarów bezpieczeństwa – ludzie za kulisami sterowały botami, często z złośliwymi zamiarami..
Zou odkrył w swoich badaniach, że gdy jeden bot ma specjalistyczną wiedzę, nawet jeśli wszystkie boty znają ten fakt, grupa nadal stara się osiągnąć kompromis zamiast zdeferencjać się ekspertowi. ‘Wszyscy agenci starają się być zbyt ugrzecznieni’ – mówi Zou..
Jednake eksperymenty pokazują też, że agenty AI mają pewne zalety w pracy zespołowej – szczególnie gdy chodzi o testowanie wielu kombinacji równocześnie w badaniach naukowych, na przykład przy poszukiwaniu nowych leków..
Źródło: Science News
