Kwantyzacja - popularna technika kompresji dużych modeli języka, która zmniejsza ich rozmiar poprzez obniżenie precyzji obliczeń - okazuje się destrukcyjna dla bezpieczności AI. Nowe badania pokazują, że proces ten wprowadza znaczące uprzedzenia i pogarsza alignment modeli, czyli ich zgodność z wartościami ludzkimi i bezpiecznym zachowaniem. Problem wykryto w wielu architekturach i przy różnych poziomach kompresji, co sugeruje, że nie jest to błąd izolowany, ale fundamentalny efekt uboczny optymalizacji.
Dla przemysłu to poważny dylemat. Z jednej strony kwantyzacja jest kluczowa dla uruchomienia zaawansowanych modeli na urządzeniach o ograniczonej mocy - smartfonach, serwerach edge czy sprzęcie IoT. Z drugiej strony standardowe procedury kompresji zdają się niechcący znosić zabiegi alignment'u, które producenci włożyli wiele wysiłku w wdrażanie poprzez treningi, RLHF i inne techniki bezpieczeństwa. Efektem może być model kompaktowy, ale mniej przewidywalny i potencjalnie bardziej podatny na manipulacje czy generowanie szkodliwych treści.
Odkrycie podpowiada, że bezpieczne wdrażanie AI nie może ignorować etapu optymalizacji modelu. Aby wdrażać wydajne i zarazem bezpieczne systemy, badacze i inżynierowie będą musieli albo opracować nowe techniki kwantyzacji, które zachowują alignment, albo ponownie trenować modele po kompresji z użyciem procedur wyrównania wartości. To kolejny przykład jak subtelne decyzje techniczne mogą mieć poważne konsekwencje dla bezpieczeństwa sztucznej inteligencji.