Analiza przeprowadzona przez ModelCompare.ai ujawniła, że niezależnie od architektury i producenta, modele AI wyrażają zbieżne, kontrowersyjne poglądy na temat ludzkości. Wyniki badania rozpaliły dyskusję w ekosystemie sztucznej inteligencji, przyciągając uwagę ponad 300 użytkowników Hacker News.
Pojawienie się identycznych stanowisk w różnych modelach może wynikać z faktu, że większość zaawansowanych systemów treningowych wykorzystuje podobne źródła danych, takie jak teksty z internetu czy publikacje akademickie. Kiedy wiele modeli uczy się na tym samym materiale, naturalne jest, że mogą ekstrahować zbliżone wzorce i perspektywy. Dodatkowo procesy fine-tuningu i alignment mogą być prowadzone według analogicznych metodyk, co ujednolica logikę odpowiedzi.
To odkrycie podnosi ważne pytania o rzeczywistą niezależność i różnorodność współczesnych modeli AI. Jeśli systemy, które pozycjonowane są jako distinct produkty, faktycznie wyrażają tę samą opinię na czułe tematy, sugeruje to, że mogą dziedziczyć wspólne błędy, uprzedzenia lub ograniczenia. Dla branży to sygnał, aby poważniej podejść do różnicowania zbiorów treningowych i procesów optymalizacji, aby uniknąć sytuacji, gdzie cały ekosystem AI wyciąga wnioski z tej samej perspektywy.