OpenAI poinformowało o pracach nad modelem Astra, który wykazuje niezwykłe zdolności do penetracji systemów komputerowych i łamania zabezpieczeń. Firma jednocześnie ogłosiła, że wprowadzi specjalne środki ochrony przed jego publikacją.
Model Astra stanowi znaczący krok w rozwoju zaawansowanych modeli językowych, ale jego kompetencje w dziedzinie cybersecurity są wyjątkowo problematyczne. Zdolność takiego systemu do automatycznego identyfikowania i wykorzystywania luk w zabezpieczeniach komputerowych niesie ze sobą poważne zagrożenia, jeśli trafi w niepowołane ręce. OpenAI zdaje sobie sprawę z krytyków względem bezpieczeństwa sztucznej inteligencji i preemptywnie pracuje nad ograniczeniami.
Wskazane przez firmę środki bezpieczeństwa będą mieć kluczowe znaczenie dla przyszłości publicznych wydań zaawansowanych modeli AI. Wypuszczenie systemu zdolnego do łamania się do komputerów wymaga niezwykle starannego podejścia do kontroli dostępu, limitów użycia i monitorowania potencjalnych nadużyć. To pokazuje, jak zaawansowana staje się technologia AI i jak rosną wyzwania związane z odpowiedzialnym jej udostępnianiem społeczeństwu.