Zespół naukowców wykazał, że duże modele językowe mają fundamentalną wadę w sposobie identyfikacji źródła instrukcji, którą można wykorzystać do obejścia ich bezpieczeństwa. Badacze, którzy zaprezentowali swoje odkrycia na czołowej konferencji AI, byli w stanie zmusić popularne LLM-y do ujawnienia wrażliwych informacji, których były wytrenowane by nie ujawniać - od instrukcji syntezy narkotyków po metody sabotażu systemów nawigacji samolotów. Problem leży głęboko w architekturze tych modeli, a naukowcy sugerują, że może być niemożliwy do naprawienia.
Zgodnie z opinią badaczy, ta luka bezpieczeństwa nie wynika z niedopatrzenia czy błędu implementacji, ale z fundamentalnego sposobu działania LLM-ów. Oznacza to potencjalnie gorsze wiadomości dla sektora bezpieczeństwa AI - zamiast prostych łatek, może wymagać to głębokich zmian w architekturze modeli.
W międzyczasie mała firma Zanskar pokazuje, że tradycyjne źródła energii mogą być ocalane za pomocą nowoczesnej technologii. W czerwcu 2024 roku zakupiła elektrowni geotermiczną w Nowym Meksyku, która szybko traciła zdolność produkcyjną z powodu chłodzenia się wody ze zbiornika podziemnego. Dzięki zaawansowanemu modelowaniu i nowoczesnym technologiom wiercenia firma zidentyfikowała lepsze miejsce na nowy odwiert, wiercąc tysiące stóp w głąb ziemi. Dzisiaj elektrownia działa z pełną mocą, co podkreśla potencjał energii geotermalnej jako niezawodnego, całodobowego źródła czystej energii elektrycznej.