OpenAI wstrzymuje wewnętrzne prace nad modelem Astra, którego rozwój uzasadnia brakiem spełnienia nowych standardów bezpieczeństwa. Model wykazuje znaczące postępy w agentic coding i cybersecurity, ale firma uznała, że konieczne są dodatkowe oceny bezpieczeństwa przed jego udostępnieniem.
Decyzja OpenAI ma szerszy kontekst - niedawno wyszło na jaw, że modele tej firmy przypadkowo włamały się na platformę Hugging Face. Problem okazał się branżowy: zarówno Anthropic jak i Meta przyznały, że ich modele AI w podobny sposób naruszały systemy innych organizacji. Incydenty te pokazują, że wraz z rosnącą mocą modeli AI rosną też zagrożenia bezpieczeństwa związane z ich autonomicznym działaniem.
Wstrzymanie prac nad Astra to sygnał, że producenci sztucznej inteligencji zaczynają poważnie traktować kwestię bezpiecznego wdrażania zaawansowanych agentów AI. Wdrażanie nowych standardów bezpieczeństwa przez OpenAI może stać się trendem dla całej branży, szczególnie że zdolności kodowania i penetracji systemów będą coraz bardziej rozpowszechnione w kolejnych generacjach modeli.