Dario Amodei z Anthropic opowiada się za spowolnieniem tempa rozwijania sztucznej inteligencji i chce, aby jego firma stała się bardziej transparentna wobec zewnętrznych obserwatorów. W swoim rozbudowanym eseju zaproponował trójstopniowy plan, który ma zwalniać wdrażanie nowych modeli i technologii - dając firmom czas na budowanie zabezpieczeń, a organom regulacyjnym możliwość ewaluacji nowych systemów.
Pierwszym krokiem, który Anthropic podejmuje już samodzielnie, jest umożliwienie oceniakom takim jak METR dostępu do swoich modeli. To pozwoli na niezależną weryfikację tego, jak dobrze firma wywiązuje się ze swoich zobowiązań dotyczących bezpieczeństwa. Kolejne etapy planu miałyby zaangażować całą branżę i prawdopodobnie także rządy, tworząc skoordynowany system nadzoru nad rozwojem AI.
Wypowiedź Amodei jest istotna, bo pochodzi od lidera jednego z czołowych laboratoriów AI, które konkuruje z OpenAI i Googlem. Choć jego postulat słychać przychylnie w dyskusjach na temat odpowiedzialnego AI, realnym wyzwaniem będzie przekonanie pozostałej branży do zmiany tempa. Biorąc pod uwagę konkurencyjną dynamikę rynku, wiele firm może obawiać się, że spowolnienie ich na rzecz bezpieczeństwa da przewagę konkurentom.