Nowy model Fable od Anthropic spotyka się z falą krytyki ze strony specjalistów od cyberbezpieczeństwa. Główny problem to guardrails — zabezpieczenia — które według badaczy są tak restrykcyjne, że praktycznie uniemożliwiają wykorzystanie modelu do rzeczywistych prac na polu bezpieczeństwa informatycznego. Naukowcy skarżą się, że nie mogą przeprowadzać ważnych eksperymentów i testów przy użyciu tego narzędzia.
Problem tkwi w fundamentalnej sprzeczności. Bezpieczeństwo systemów informatycznych wymaga dogłębnego rozumienia podatności, sposobów ataków i technik hakerskich. Badacze muszą móc eksperymentować z różnymi scenariuszami i potencjalnymi zagrożeniami, aby znaleźć sposoby obrony. Zbyt restrykcyjne ograniczenia mogą paradoksalnie utrudnić pracę nad ochroną przed rzeczywistymi zagrożeniami.
To stanowi dla Anthropic prawdziwą dylemat. Z jednej strony firma chce zapobiegać nadużyciom modelu do celów niezgodnych z prawem, z drugiej strony mocne guardrails mogą alienować profesjonalistów z branży, którzy potrzebują bardziej elastycznych narzędzi. W kontekście rosnącej roli AI w cyberbezpieczeństwie, ta sprawa pokazuje jak trudne są decyzje dotyczące balansu między zabezpieczeniami a praktyczną użytecznością.