Anthropic zaprezentował model Mythos, ale już pojawił się problem - eksperci od bezpieczeństwa obawiają się, że nowy AI może być niezwykle użytecznym narzędziem dla hakerów. Chodzi tu o możliwości tego modelu w automatyzacji i wspomaganiu zaawansowanych ataków cybernetycznych, które dotychczas wymagały znacznie większych umiejętności od potencjalnych sprawców. Obawy pojawiły się zaraz po zapowiedzi produktu, co sugeruje, że nawet w fazie testowania AI wykazuje zdolności mogące stanowić poważne zagrożenie dla cyberbezpieczeństwa.
Stoi za tym pewna ironia - Anthropic słynie z konserwatywnego podejścia do bezpieczeństwa sztucznej inteligencji, a jego poprzednie modele, jak Claude, były projektowane z myślą o ograniczeniu potencjalnych nadużyć. Mythos natomiast ma sobie przypisywane cechy "turboładowanego" asystenta, który radzi sobie znacznie lepiej w zadaniach wymagających precyzji i logicznego myślenia. To właśnie zwiększona zdolność do analizy systemów, pisania złożonego kodu oraz rozwiązywania skomplikowanych problemów technicznych robi z niego atrakcyjny cel dla osób o złych intencjach.
Problem polega na klasycznym dylemcie sztucznej inteligencji - im potężniejszy model, tym więcej dobrego potrafi zrobić, ale tym większy potencjał wykorzystania do celów niegodziwych. Eksperci bezpieczeństwa wzywają do wzmożonej czujności i wprowadzenia bardziej restrykcyjnych mechanizmów kontroli dostępu do tego modelu, zanim trafi on do szerszego użytku. Pytanie brzmi: czy Anthropic zdecyduje się na ograniczenie możliwości Mythos, czy opowie się za pełnym udostępnieniem, zakładając odpowiedzialność użytkowników?