Nowe badania analizują rojem jako formę skalowania wnioskowania w modelach AI, pokazując że najważniejszą zaletą jest przyspieszenie wykonania zadań. Czteragentowy rój potrzebuje około dwukrotnie więcej całkowitych tokenów niż pojedynczy agent, aby osiągnąć identyczne wyniki, ale ponieważ agenty działają równolegle, mogą wykonać zadanie w połowie czasu. To oznacza, że na każdy agent pada tylko połowa liczby tokenów - znaczna oszczędność w przeliczeniu na działającą jednostkę.
Jednakże skalowanie roju nie przebiega idealnie. Wraz ze wzrostem liczby agentów w roju pojawia się efekt malejących przychodów - im więcej agentów, tym mniejszy przyrost wydajności z każdego kolejnego. To zjawisko jest znane ekonomistom jako "parametr stąpania sobie na nogi" - cena jaką się płaci za koordynację rosnących zespołów ludzi. Agenty AI wykazują podobne zachowanie, co sugeruje istnienie fundamentalnych ograniczeń w koordynacji rozproszczonych systemów.
To odkrycie ma istotne implikacje dla przyszłości AI. Roję mogą być wartościowe dla podmiotów potrzebujących szybkich wyników i posiadających dostęp do obfitych zasobów obliczeniowych, ale nie stanowią panaceum. Wybór między pojedynczym zaawansowanym agentem a rojem zależy od konkretnego przypadku użycia - czasu krytycznego versus efektywności zasobów.