Anthropic ogłasza przyznanie funduszy na badania mające na celu opracowanie lepszych sposobów oceny rzeczywistego wpływu sztucznej inteligencji na dobrostany i samopoczucie użytkowników. Ta inicjatywa stanowi odpowiedź na lukę w obecnym krajobrazie badań AI, gdzie dominują pomiary wydajności technicznych, a pomija się skutki dla zdrowia psychicznego i społecznych konsekwencji.
Ocena wpływu AI na dobrostany to zagadnienie wielowymiarowe - obejmuje zarówno bezpośrednie efekty dla osób korzystających z systemów AI, jak i szersze konsekwencje społeczne. Chodzi o mierzenie zmian w jakości snu, poziomie stresu, zadowoleniu z relacji międzyludzkich, produktywności czy poczuciu samotności. Brak standaryzowanych narzędzi do takiej oceny oznacza, że wiele potencjalnych negatywnych skutków pozostaje niezauważone przez twórców systemów.
Ta inicjatywa Anthropic może wpłynąć na sposób, w jaki branża podchodzi do testowania bezpieczeństwa AI. Jeśli powstaną wiarygodne metodologie pomiaru wpływu na dobrostany, mogą one stać się częścią standardowych procedur ewaluacji przed uruchomieniem nowych modeli. To krok w kierunku bardziej holistycznego podejścia do bezpieczeństwa AI - skupiającego się nie tylko na tym, czy system jest technicznych bezpieczny, ale czy faktycznie poprawia życie ludzi, którzy go używają.