Anthropic publikuje ogłoszenia o pracę dla enforcement analysts - pracowników, których głównym obowiązkiem będzie monitorowanie i uniemożliwienie modelom AI nauczania użytkowników, jak konstruować broń masowego rażenia. Zamiast tradycyjnych misji dotyczących postępu technologicznego, ogłoszenia brzmią raczej jak lista najpoważniejszych zagrożeń, jakie firma identyfikuje w swoich systemach.
Ta strategia rekrutacyjna ujawnia skalę wyzwań bezpieczeństwa stojących przed Anthropic. Firma nie tylko buduje coraz bardziej zaawansowane modele AI, ale równocześnie musi zatrudniać specjalistów, którzy będą je testować pod kątem możliwości do potencjalnie niebezpiecznych czynności. Rzeczywistość jest taka, że duże modele językowe mogą zawierać w swojej wiedzy szeroki zakres informacji technicznych, a oddzielenie pożądanych zastosowań od potencjalnie szkodliwych stanowi fundamentalny problem inżynierii bezpieczeństwa.
To podkreśla, jak poważnie wybitniejsi gracze w branży AI podchodzą do odpowiedzialności. Zamiast ukrywać te obawy, Anthropic jawnie szuka talentów do walki z nimi - jest to zarówno przejaw wewnętrznej uczciwości, jak i pragmatyczne przyznanie, że problem istnieje i wymaga dedykowanego zespołu. Trend ten będzie prawdopodobnie rosnąć w całej branży, gdy modele stają się coraz bardziej wydajne.