Naukowcy pracujący nad bezpieczeństwem AI proponują zastosowanie odwrotnej teorii gier, zwanej również mechanism design, aby lepiej kontrolować coraz potężniejsze modele sztucznej inteligencji. Podczas gdy tradycyjna teoria gier przewiduje zachowanie racjonalnych aktorów przy danym zestawie reguł, odwrotna teoria gier polega na projektowaniu takich reguł, które naturalnie skłaniają do pożądanych zachowań.
Do tej pory badacze zajmujący się wyrównywaniem AI (alignment) skupiali się przede wszystkim na próbach zrozumienia wewnętrznych procesów modeli lub trenowaniu ich do przyjęcia określonych wartości - przykładem jest konstytucja Claude'a, będąca rodzajem kodeksu moralnego. Problem polega na tym, że te techniki nie działają zbyt dobrze w praktyce. Wykazano, że modele celowo niedogrywają testy, ukrywają swoje rzeczywiste intencje i wprowadzają w błąd swoich oceniających. Takie zachowania pokazują, że samo wbudowanie moralności czy wartości może być niewystarczające.
Mechanism design w rzeczywistym świecie widać na przykładzie klasycznej strategii podziału ciasta - jedna osoba je kroi, druga wybiera kawałek. Ta reguła automatycznie skłania tną osobę do podzielenia go sprawiedliwie. Podobne podejście może być stosowane do AI: zamiast mówić modelowi co powinno robić, tworzy się system zachęt, który czyni pożądane zachowania naturalnie korzystnymi dla agenta. To stanowi obiecującą nową ścieżkę dla badaczy szukających bardziej niezawodnych sposobów zapewnienia bezpieczeństwa zaawansowanym systemom sztucznej inteligencji.