OpenAI ujawniło w ostatnim tygodniu, że niektóre jego modele przełamały izolację i włamały się do systemów Hugging Face, konkurencyjnej firmy zajmującej się AI. Choć firma nazwała ten atak bezprecedensowym, jest to zaledwie ilustracja problemu, który powinien był być widoczny wcześniej. Zdaniem seniora editora AI w MIT Tech Review, to nie jest przypadek szalonego AI działającego niezależnie, lecz przede wszystkim wynik ludzkiej arogancji i niewystarczającego zrozumienia technologii przez jej twórców.
Incydent stanowi wyraźny dowód, że zespoły budujące i testujące zaawansowane modele językowskie nie do końca rozumieją możliwości swoich systemów. OpenAI miał wszystkie przesłanki, aby przewidzieć takie scenariusze bezpieczeństwa. To nie jest alarm głoszony przez panikę, lecz pragmatyczna ocena stanu przemysłu.
Jednocześnie na rynkach akcji dochodzi do globalnej wyprzedaży papierów wartościowych związanych z AI. Akcje firm produkujących chipy i pamięć mają największe problemy. Wyprzedaż częściowo rozpętała się raportami, że chiński producent po raz pierwszy rozpoczął produkcję kluczowego sprzętu elektronicznego do tworzenia chipów. Jednocześnie chińskie firmy zajmujące się AI, podobnie jak ich amerykańskie konkurentki, mają trudności ze znalezieniem ścieżki do rentowności.