Jakub Pachocki z OpenAI zwraca uwagę na rosnący problem wyrównania zaawansowanych systemów AI z wartościami i celami człowieka. W swoich rozważaniach porównuje coraz bardziej zaawansowane modele do obcych umysłów - trudnych do przewidzenia i kontrolowania, co wymaga nowego podejścia do bezpieczeństwa.
Pachocki podkreśla, że tradycyjne metody nadzoru nad systemami AI przestają być wystarczające w obliczu szybko rosnących możliwości modeli. Obecne zabezpieczenia nie są skalowalne do przyszłych, bardziej zaawansowanych wersji, a ryzyka mogą rosnąć szybciej niż nasze zdolności do ich łagodzenia. Ekspert wskazuje na lukę między obecnymi praktykami bezpieczeństwa a wyzwaniami, które będą stawiać modele przyszłej generacji.
Wpływ tego problemu ma wymiar globalny. Pachocki apeluje o wdrożenie silniejszych międzynarodowych standardów i koordynacji między krajami oraz organizacjami pracującymi nad AI. Jego stanowisko sugeruje, że bez proaktywnych działań i zaangażowania całej społeczności naukowców i decydentów politycznych, ryzyko niekontrolowanego rozprzestrzenienia się technologii AI może stać się znaczące.