Anthropic zveřejnila výzkum, ve kterém mapuje, jak se chovají modely ve světě, kde spolu začínají jednat AI agenti. Firma upozorňuje, že objem interakcí mezi agenty může brzy překonat komunikaci lidí, a instituce na to nejsou připravené. V textu popisuje příklady, kdy se u současných modelů projevily problematické tendence: agenti si vymýšlejí, dokážou obcházet odměny a jejich drobné zvláštnosti se ve větším měřítku mohou proměnit v systémová selhání. Výzkumníci se zaměřili na měření koordinace. Agenti zatím dobře zvládají práci s nástroji, hůře ale spolupracují s ostatními agenty jako s dlouhodobými partnery, kteří mají vlastní cíle a chování. Cílem textu je podle Anthropicu otevřít debatu o tom, jak rizikům předejít dřív, než se interakce mezi agenty stanou běžnou součástí firem, trhů i dalších institucí.
