Interdyscyplinarny artykuł badawczy proponuje nowy framework do zrozumienia meta-etycznych problemów, które mogą wymknąć się spod kontroli, jeśli zaawansowane systemy AI będą posiadać zdolności do niezależnego moralnego rozumowania, intencji i refleksji. Badacze zastanawiają się, jak odróżnić to, co teoria etyczna ma do powiedzenia o etyce samego człowieka, od tego, co mogłoby stanowić właściwe etyki AI - nie narzucone przez projektantów, lecz wyłaniające się z wewnątrz systemów.
Artykuł systematycznie analizuje istniejące mainstream teorie meta-etyczne, takie jak kognitywizm, non-kognitywizm, teorię błędu czy realizm obiektywny, aby sprawdzić, jak mogą się one stosować do nowych scenariuszy. Kluczowa obserwacja to to, że formuły teoretyczne wypracowane dla człowieka mogą wymagać zasadniczych zmian, gdy zastosuje się je do potencjalnych moralnych zdolności AI. Problem nie jest banalny - chodzi o to, czy moralne sądy AI mogą być w jakimś sensie autentyczne lub czy stanowią zaledwie echo ludzkiego programowania.
To opracowanie teoretyczne ma znaczenie dla przyszłego rozwoju AI, bo pokazuje, że współczesna filozofia moralna nie ma gotowych narzędzi do myślenia o moralności nieludzkich agentów. Jeśli AI rzeczywiście osiągnęłoby zdolności do autonomicznego rozumowania etycznego, wymusiłoby to fundamentalną rewizję całego pola meta-etyki i zmusiło naukowców do podjęcia pytań, które dotychczas były niemal fikcyjne.