Metoda ACE (amplified chain-of-thought engineering) umożliwia modelom AI lepsze wykonywanie skomplikowanych zadań wymagających rozumowania wieloetapowego. Team Hugging Face opracował sposób na zastosowanie tej techniki przy znacznie mniejszym zużyciu tokenów, co bezpośrednio przekłada się na szybszość przetwarzania i obniżenie kosztów.
AC jest wariantem chain-of-thought, który nakłania modele do bardziej szczegółowego wyjaśniania swoich rozumowań. Tradycyjne podejście jednak wymaga dużo dodatkowych tokenów - każdy etap rozumowania generuje nowy tekst, który musi być przetworzony. Naukowcy wykazali, że można osiągnąć podobne rezultaty przy znacznie efektywniejszym wykorzystaniu zasobów, używając bardziej zwięzłych form instrukcji i strukturyzacji problemu.
To odkrycie ma praktyczne znaczenie dla deploymentu dużych modeli językowych, szczególnie w aplikacjach wymagających zaawansowanego rozumowania, ale pracujących na ograniczonych zasobach. Mniejsza liczba tokenów oznacza szybsze odpowiedzi, niższe zużycie energii i dostępność takich rozwiązań dla szerszego grona użytkowników. Wynik sugeruje, że efektywność metod AI wcale nie musi kolidować z ich mocą.