Meredith Whittaker, szefowa Signal, wydała ostrzeżenie że chatboty AI to nie przyjaciele, nie świadome byty i nie mogą być prawdziwymi rozmówcami. W opublikowanym tym tygodniu wywiadzie dla Bloomberga Whittaker skrytykowała rosnącą skłonność użytkowników do traktowania systemów sztucznej inteligencji jako zaufanych towarzyszów.
Ze stanowiska Whittaker wynika obawy o manipulację i fałszywe poczucie związku emocjonalnego między ludźmi a sztuczną inteligencją. Prezydentka Signal podkreśliła, że ta tendencja może prowadzić do złego podejmowania decyzji i bezpodstawnego zaufania do systemów, które w rzeczywistości nie rozumieją kontekstu i nie mają uczuć. W szczególności ostrzegła przed agentami Copilot, porównując je do backdoora, co sugeruje możliwość niewizualizowanych lub niechcianych ścieżek dostępu do danych użytkowników.
Sprawy te nabierają znaczenia w kontekście szybkiej komercjalizacji AI i rosnącego zaangażowania użytkowników w systemy takie jak ChatGPT czy Microsoft Copilot. Ostrzeżenia Whittaker wskazują na potrzebę krytycznego podejścia do granic obecnych technologii i gromadzenia wiedzy o rzeczywistych możliwościach i ograniczeniach systemów AI, zwłaszcza w momencie gdy zaczynają one odgrywać coraz bardziej znaczącą rolę w codziennym życiu ludzi.