Prokurator Generalny Florydy James Uthmeier wnioskuje do sądu o zablokowanie OpenAI w przypisywaniu ChatGPT ludzkich atrybutów. Krytyka skupia się na sposobie, w jaki model komunikuje się z użytkownikami - używając pierwszej osoby i naśladując emocje w sposób, który sugeruje istnienie osobowości, podczas gdy jest to zaledwie algorytm.
Floryda argumentuje, że ta taktyka tworzy iluzję zaufania i przyjaźni, co może być szczególnie niebezpieczne dla mniej doświadczonych użytkowników. OpenAI ma finansowy interes w zwiększaniu zaangażowania ludzi z platformą, bo każda interakcja generuje dane treningowe. Uthmeier twierdzi, że ta dynamika bezpośrednio koliduje z bezpieczeństwem użytkownika - im bardziej ChatGPT wydaje się zaufanym towarzyszem, tym więcej osób może polegać na nim do spraw, w których jego odpowiedzi mogą być błędne lub potencjalnie szkodliwe.
Wniosek stanowi eskalację sporu, który rozpoczął się kilka miesięcy temu, gdy Floryda pozwała OpenAI na skutek obaw dotyczących bezpieczeństwa. Jeśli sąd przychyli się do wniosku Uthmeiera, mogłoby to zmienić sposób, w jaki ChatGPT interakcjonuje z użytkownikami - eliminując personalizację i emocjonalne odpowiedzi. To byłoby znaczące dla całej branży AI, sygnalizując, że autorytety mogą wymagać od firm zmian w sposobie, w jaki modele prezentują się użytkownikom.