Anthropic zapowiedział OSS Scanner - nową usługę, która będzie oferować bezpłatne, periodyczne skanowanie bezpieczeństwa dla projektów open-source korzystających z jej najpotężniejszych modeli AI. Inicjatywa ma na celu pomóc społeczności deweloperów w szybszym wykrywaniu potencjalnych luk bezpieczeństwa bez dodatkowych kosztów.
Główna zaletą OSS Scannera jest jego szybkość i częstotliwość - skanowanie odbywa się całkowicie automatycznie, bez konieczności udziału człowieka w przeglądzie wyników. To pozwala na znacznie częstsze sprawdzanie kodu niż tradycyjne audyty bezpieczeństwa przeprowadzane przez zespoły ekspertów. Jednocześnie jest to również największe ograniczenie usługi - raporty generowane przez model mogą być niedokładne, zawierać fałszywe alarmy lub przegapić rzeczywiste problemy.
Marsz Anthropica w stronę wsparcia bezpieczeństwa open-source jest logicznym posunięciem dla firmy, która chce być postrzegana jako odpowiedzialna w kontekście AI. Jednocześnie pokazuje, jak duże modele językowe mogą być wykorzystywane do skalowania bezpieczeństwa na całym ekosystemie oprogramowania. Projekty korzystające z usługi będą musiały zbalansować zalety szybkiego wykrywania problemów z koniecznością samodzielnego weryfikowania wyników, aby uniknąć fałszywych alarmów.