Clarifai, platforma zajmująca się sztuczną inteligencją i przetwarzaniem obrazów, usunęła 3 miliony zdjęć użytkowników portalu randkowego OkCupid, które były wykorzystywane do trenowania modeli rozpoznawania twarzy. Decyzja firmy przyszła za późno - fotografie rozpowszechniały się już w sieci bez jakiejkolwiek zgody użytkowników, którzy nie wiedzieli, że ich portrety trafiły do zbiorów treningowych dla sztucznej inteligencji.
Historia ujawnia kolejny przykład bezprawnego wykorzystywania danych biometrycznych. OkCupid udostępnił te zdjęcia Clarifai bez uprzedzenia swoich użytkowników, narażając je na ryzyko związane z niekontrolowanym dostępem do ich wizerunku. Problem stał się szczególnie poważny, ponieważ dane biometryczne - jak twarze - są niezmiennym identyfikatorem. Raz wyciekłe, będą stanowić potencjalne zagrożenie dla bezpieczeństwa i prywatności tych osób przez całe życie. Clarifai niemal rok czekał z usunięciem danych odkąd sprawę ujawniono publicznie, co budzi wiele pytań o wewnętrzne procedury bezpieczeństwa w sektorze AI.
Sprawa pokazuje, jak łatwo dane biometryczne mogą zostać wykorzystane do celów, na które nigdy nie wyrazili zgody użytkownicy. Stanowi to poważne ostrzeżenie dla całej branży technologicznej, gdzie trenowanie modeli AI na obszernych zbiorach danych to standard. Regulacje takie jak RODO już karają tego rodzaju praktyki, jednak przypadek OkCupid-Clarifai dowodzi, że wiele firm wciąż operuje w szarej strefie, traktując zgody użytkowników marginalnie.