Badacze z obszaru AI odkryli paradoks zdolności modeli językowych: gdy poprawiamy pojedyncze modele, niekoniecznie ulepszamy wyniki na poziomie całego systemu. Przeprowadzili eksperyment z agentami handlującymi na rynkach finansowych, gdzie bardziej zaawansowane LLM'y wykazywały znacznie większą korelację w swoim zachowaniu niż słabsze modele.
Problema wynika z faktu, że współczesne duże modele językowe opierają się na podobnych architekturach i są trenowane na podobnych danych. To sprawia, że bardziej zdolne modele myślą i działają w bardziej zbliżony sposób. W finansach oznacza to, że gdy wszyscy agenci mają dostęp do tego samego rozumowania - nawet jeśli jest dokładne - wszyscy podejmują te same decyzje handlowe jednocześnie, co zamiast dywersyfikacji ryzyka je koncentruje.
Najgorsza sytuacja zachodzi, gdy wszyscy agenci zostają wystawieni na tę samą dezinformację. Wtedy ich skoordynowane działania amplifikują błędy, tworząc podatki na systemie finansowym, których nie można wyeliminować poprzez dodanie większej liczby uczestników. Badanie stanowi ostrzeżenie dla wszystkich sektorów, gdzie LLM'y są wdrażane w dużej skali - od moderacji treści po rekrutację - pokazując, że sama poprawa zdolności modeli nie gwarantuje bezpieczniejszych systemów.