Dario Amodei, szef Anthropic, wezwał do spowolnienia tempa rozwoju modeli języka naturalnego, wymieniając zagrożenia od cyberataków i bioterroryzmu po potencjalne ekonomiczne konsekwencje. Co zaskakujące, jego stanowisko poparli rivalowie - Sam Altman z OpenAI, Demis Hassabis z Google DeepMind i Elon Musk, który napisał na platformie X: Dario ma rację.
Zagranie to jest zaskakujące ze względu na burzliwą historię między tymi osobami. Jeszcze kilka miesięcy temu Musk i Altman stanęli naprzeciw siebie w sądzie, kiedy Musk pozwał swojego byłego kolegę z OpenAI w sprawie dotyczącej (przynajmniej na papierze) wiarygodności Altmana jako opiekuna niebezpiecznej technologii. Konflikt Amodeia z OpenAI jest jeszcze głębszy - Anthropic została założona w 2021 roku właśnie dlatego, że Amodei uważał, iż Altman nie traktuje poważnie ryzyka związanego z budowaną technologią. Od tamtej pory Anthropic i OpenAI konkurują w wyścigu winner-takes-all.
Nagle wszystkie czołowe laboratoria AI zgodnie przyznają, że najnowsze generacje modeli językowych nie są bezpieczne i wszyscy muszą znaleźć rozwiązanie. Publiczny przekaz tych firm rzeczywiście przybiera pesymistyczny ton. Pytanie pozostaje otwarte - czy to szczera zmiana podejścia do bezpieczeństwa, czy sprytna strategia PR, i jakie konkretne działania będą wymagane, aby rzeczywiście spowolnić rozwój.