Terry Tao, jeden z najwybitniejszych matematyków współczesnych, zwrócił uwagę na poważne problemy w zastosowaniu sztucznej inteligencji do matematyki. W artykule opublikowanym na jego blogu wskazuje na niedostosowanie istniejących modeli AI do specyficznych wymogów matematycznego rozumowania.
Problematyka dotyczy fundamentalnych różnic między tym, jak AI jest trenowane, a tym, jak matematycy faktycznie pracują. Modele sztucznej inteligencji mają tendencję do polegania na wzorcach statystycznych i aproksymacjach, podczas gdy matematyka wymaga precyzji, rygorystycznych dowodów i głębokich konceptualnych powiązań. To niedostosowanie może prowadzić do rozwiązań, które wydają się przekonujące, ale są logicznie błędne.
Oserwacje Tao mają znaczenie dla całego ekosystemu AI, szczególnie dla badaczy pracujących nad autonomicznymi systemami rozwiązywania problemów. Jeśli AI ma kiedykolwiek stać się rzeczywistym narzędziem w badaniach matematycznych, konieczne będą zasadnicze zmiany w architekturze i metodach trenowania modeli - aby mogły one operować w logicznym świecie matematyki, a nie tylko w świecie probabilistycznych predykcji.