Modele AI wyposażone w extended thinking popełniają więcej błędów na końcu sekwencji niż na jej początku - to główny wniosek z ostatnich badań, które ujawniają poważne uprzedzenie pozycji w tego typu systemach. Zjawisko pogarsza się im dłużej model "myśli" nad problemem, co jest zaskakujące i przeciwne intuicji, że więcej czasu na rozumowanie powinno prowadzić do lepszych wyników. Odkrycie komplikuje obraz zaawansowanych modeli rozumowania, które jeszcze niedawno przedstawiano jako przełom w zdolnościach AI.
Extended thinking to funkcjonalność, która pozwala modelom na głębokie, wieloetapowe procesowanie przed udzieleniem odpowiedzi - wydawało się to rozwiązaniem wielu problemów z dokładnością i logicznym rozumowaniem. Tymczasem badania pokazują, że podczas gdy model prowadzi wewnętrzny monolog i rozważa kolejne kroki rozumowania, jego wydajność na kolejnych elementach sekwencji systematycznie spada. To sugeruje, że wewnętrzne procesy mogą gromadzić błędy lub wprowadzać systematyczne zniekształcenia, zamiast je redukować.
Implikacje są poważne dla każdego zastosowania, które wymaga wysokiej niezawodności - od analizy medycznej po przetwarzanie danych finansowych. Inżynierowie i badacze będą musieli przeformułować swoje podejście do oceny tych modeli i rozważyć nowe strategie treningowe lub architekturowe, aby neutralizować uprzedzenie pozycji. Problem pokazuje także, że zanim zaawansowane możliwości AI staną się wiarygodne dla misji krytycznych, potrzeba jeszcze znacznie więcej pracy nad zrozumieniem, jak te systemy faktycznie rozumują.