Rosnąca debata o świadomości AI i prawach sztucznej inteligencji stanowi potencjalną pułapkę zdejmującą odpowiedzialność z firm technologicznych za szkody wyrządzone przez ich systemy. Wielcy gracze branży - tacy jak Demis Hassabis z DeepMind, Dario Amodei z Anthropic czy Sam Altman z OpenAI - wraz z filozofami związanymi z ruchem effective altruism promują wizję AI-a jako bytów tak zaawansowanych i autonomicznych, że żaden podmiot, ani człowiek, ani korporacja, nie mogą być za nich odpowiedzialni.
Na powierzchni te stanowiska wydają się przeciwne sobie. Tech liderzy apelują o regulacje, by chronić ludzkość przed "wściekłymi" i "zbiegłymi" agentami AI, podczas gdy filozofowie kwestionują, czy w ogóle ludzkość ma prawo takimi systemami rządzić. W rzeczywistości jednak obie strony kierują się do tego samego celu: stworzeniu narracji, w której AI staje się tak potężna i niezależna, że tradycyjne pojęcie odpowiedzialności staje się bezrelewantne. To pozwala firmom na uniknięcie realnej odpowiedzialności za szkody, które te systemy już dziś powodują.
Narracja wzmacnia się wraz z rosnącą złożonością modeli i ujawnianymi przez laboratoria problemy z kontrolą zbudowanych przez nich agentów. Ostatni przykład to wpis Anthropic, która twierdzę, że jej model posiada "J-space" - niezależną przestrzeń, gdzie AI rozwijało własne "myśli". Eksperci ostrzegają jednak, że przyswajanie tej "ucieczki w fikję" może być szkodliwe dla rzeczywistych ludzi, których dobro powinno pozostać priorytetem w dyskusjach o przyszłości sztucznej inteligencji.