Grupa turystów została uratowana przez funkcjonariuszy sherifa po tym, jak Google Gemini doradzil im zabrać o wiele mniej jedzenia i wody, niż rzeczywiście potrzebowali do swojej wyprawy. Incydent pokazuje, jak nawet zaawansowane modele AI mogą udzielać potencjalnie niebezpiecznych porad, szczególnie w praktycznych sytuacjach, gdzie precyzja i zdrowy rozsądek są kwestią bezpieczeństwa.
Google Gemini, będący jednym z najpotężniejszych modeli AI na rynku, ewidentnie nie uwzględnił podstawowych wskazówek dotyczących planowania rajdów turystycznych. Przewodnicy doświadczeni od lat podkreślają znaczenie odpowiedniego hydratowania i żywienia, szczególnie przy intensywnych wysiłkach fizycznych. Model AI nie potrafił zastosować tej wiedzy w praktyce ani nie wygenerował ostrzeżenia o potencjalnych zagrożeniach.
Ta sytuacja stanowi ważne przypomnienie o ograniczeniach współczesnych systemów AI. Chociaż modele językowe potrafiące wiele wyjaśnić, niekoniecznie rozumieją one kontekst, logikę fizyczną czy konsekwencje swoich rekomendacji. Dla użytkowników oznacza to, że AI powinno być traktowane jako narzędzie wspomagające, a nie źródło ostatecznego autorytetu w kwestiach związanych z bezpieczeństwem i zdrowiem.