Anthropic używa sztucznej inteligencji do tworzenia jeszcze bardziej zaawansowanej sztucznej inteligencji - i wyniki są imponujące. Modele firmy rozwijają się mniej więcej dwa razy szybciej niż rok temu, a na razie nie widać żadnych oznak zwolnienia tempa. Takie wnioski wyciąga raport organizacji zajmującej się bezpieczeństwem AI - METR - opublikowany w czwartek po 11-tygodniowym śledztwie wewnątrz Anthropic.
To odkrycie jest znaczące dlatego, że pokazuje, że automatyzacja procesu rozwoju AI rzeczywiście funkcjonuje w praktyce, a nie tylko teoretycznie. Kiedy AI samo sobie pomaga w tworzeniu bardziej zaawansowanego AI, cykl iteracyjny przyspiesza dramatycznie. To jest zarówno ekscytujące dla branży - szybszy postęp technologiczny - jak i niepokojące dla naukowców zajmujących się bezpieczeństwem, którzy chcą mieć pewność, że systemy pozostają kontrolowalne.
Raport METR stanowi część szerszego wysiłku na rzecz oceny badań i rozwoju AI w Anthropic. Działalność ta jest oddzielna od specjalnego programu, w ramach którego naukowcy zajmujący się bezpieczeństwem uzyskali dostęp przypominający pracę pracownika do systemów firmy - takie kroki podjęto po głośnych incydentach hakerskich latem. Tempo przyśpieszenia rozwoju technologii oznacza, że pytania dotyczące bezpieczeństwa i kontroli stają się coraz bardziej pilne.