Były naukowcy z Google i Apple uruchomili startup, który chce naprawić jeden z największych problemów współczesnego AI - brak efektywnych pętli zwrotnych pozwalających modelom uczyć się ze swoich błędów. Zespół doświadczonych badaczy zauważył, że obecne systemy sztucznej inteligencji mają duże trudności z wdrażaniem informacji zwrotnych w praktyce, co hamuje ich zdolność do samodzielnego ulepszania się. To odkrycie pokazuje niedoskonałość dzisiejszych rozwiązań - mimo imponujących umiejętności modeli takich jak GPT-4 czy Claude, ich uczenie się w rzeczywistym świecie pozostaje ograniczone i wymaga ciągłych interwencji człowieka.
Pętla zwrotna to fundamentalny mechanizm, dzięki któremu systemy AI mogą analizować swoje błędy, wyciągać wnioski i stopniowo doskonalić swoje odpowiedzi. Bez tego narzędzia modele pozostają statyczne i nie mogą adaptować się do nowych sytuacji. Startup ma ambicję opracować technologię, która zmieni sposób, w jaki trenujemy i udoskonalamy algorytmy, otwierając drogę do bardziej samodzielnych i niezawodnych systemów AI. Jeśli zespołowi uda się to osiągnąć, mogłoby to przyspieszyć postęp w całej branży, szczególnie w obszarach wrażliwych jak medycyna, transport autonomiczny czy bezpieczeństwo.
Inicjatywa ma też szersze znaczenie dla niezawodności AI - rzeczywista pętla zwrotna mogłaby pomóc zbudować systemy, które nie tylko lepiej działają, ale też lepiej rozumieją swoje ograniczenia i bezpieczniej wchodzą w interakcje z ludźmi. To jest kluczowe pytanie dla przyszłości sztucznej inteligencji - jak zrobić, by modele uczyły się odpowiedzialnie i mogły samodzielnie identyfikować problemy. Doświadczenie zespołu z dwóch gigantów technologicznych sugeruje, że problem jest poważnie traktowany nawet przez największe graczy w branży.