Google DeepMind i Isomorphic Labs oficjalnie ujawniły program bioresilience zmierzający do kontroli potencjalnego nadużywania zaawansowanej sztucznej inteligencji w badaniach biologicznych. Partnerstwo, które funkcjonowało dyskretnie przez ostatni rok, rozrosło się do ponad 15 współpracowników obejmujących instytucje rządowe, organizacje zajmujące się biosecurity i ośrodki badawcze. Wśród wymienionych partnerów znalazły się Lawrence Livermore National Laboratory, UK AI Security Institute, CEPI i Francis Crick Institute.
Heart problemu leży w fundamentalnym paradoksie. Modele graniczne takie jak Gemini zdobywają coraz bardziej zaawansowaną wiedzę z zakresu biologii. DeepMind przyznaje, że integracja tych systemów z wyspecjalizowanymi modelami biologicznymi, agentami typu Antigravity oraz bazami danych od firm trzecich tylko pogłębi te możliwości. Taka sama wiedza, która pozwala naukowcowi zidentyfikować cel szczepionki, mogłaby teoretycznie pomóc aktorowi zagrażającemu w uzupełnieniu swoich luk w wiedzy.
Program opiera się na trzech filarach: zapobieganiu nadużyciom, szybszym wykrywaniu ognisk chorób i reagowaniu na sytuacje kryzysowe. Ponad 15 partnerów zbudowanych w ciągu roku dotyczy wszystkich trzech obszarów, choć firmy dostarczyły ograniczone szczegóły dotyczące zaangażowanych organizacji. Inicijatywa reprezentuje próbę zbilansowania otwartego dostępu do potencjału naukowego nowoczesnej AI z niezbędnymi mechanizmami bezpieczeństwa.