Zespół Together Computer opracował nowy typ agentów AI, które łączą dwa tryby myślenia - pracy w ukrytej przestrzeni wektorowej modelu oraz werbalizacji działań w naturalnym języku. Ta hybryda pozwala agentom na szybszą i bardziej efektywną konsultację swoich wewnętrznych reprezentacji, zanim podejmą konkretne kroki dostępne dla użytkownika.
Tradicyjne LLM-agenty operują głównie przez generowanie tekstu na każdym kroku, co jest wolne i wymaga ciągłego parsowania odpowiedzi. Nowe podejście umożliwia modelowi myślenie w przestrzeni latentnej - czyli pracę z wewnętrznymi reprezentacjami numerycznymi - co jest szybsze i mniej podatne na błędy formatowania. Dopiero końcowe decyzje i akcje są wyrażane w tekście zrozumiałym dla człowieka i systemów.
Oceny badawcze dostępne na arXiv pokazują poprawę wydajności na różnych benchmarkach. Projekt jest open-source'owy, co oznacza, że naukowcy i deweloperzy mogą eksperymentować z tą architekturą. Zainteresowanie na Hacker News - 130 punktów i 72 komentarze - sugeruje, że społeczność widzi potencjał w tym podejściu jako kierunku ewolucji bardziej wydajnych i niezawodnych agentów AI.