Anthropic przyznała organizacji METR dostęp na poziomie pracownika wewnętrznego do oceny ryzyka związanego z jej modelami AI. Zespół METR, zakorzeniony w siedzibie twórcy Claude'a, uzyskał dostęp do infrastruktury sprzętowej i wewnętrznych systemów firmy. To wdrażanie wcześniejszych zobowiązań Anthropic dotyczących wzmocnienia zabezpieczeń.
METR to nonprofit, który już współpracuje z głównymi laboratoriami AI, w tym OpenAI, Googlem i Metą. Rola niezależnych ewaluatorów stała się jednym z kluczowych konkretnych kroków proponowanych przez duże laboratorium AI w odpowiedzi na rosnące obawy dotyczące potencjalnych zagrożeń związanych z bardziej zaawansowanymi systemami. Eksperci wyrażają niepokój o możliwe konsekwencje dla gospodarki, cyberbezpieczeństwa i ludzkości na szeroką skalę.
Zdanie Anthropic pozwolić zewnętrznym obserwatorom na dostęp na takim poziomie oznacza istotny krok w kierunku przejrzystości branży AI. Daje to niezależnym instytucjom możliwość głębszej oceny bezpieczeństwa rozwijanych technologii zanim zostaną wdrożone w szerszej skali.