System76 formalnie zakazał kodu generowanego przez AI w większości swojej bazy kodowej, w tym w projektach związanych z Cosmic. Zakaz dotyczy wielu komponentów rozpowszechnianych przez dystrybucję Pop!_OS i sygnalizuje zmianę postawy wobec automatyzacji programowania.
Decyzja wynika z szeregu obaw dotyczących niezawodności kodu generowanego przez modele AI. Zespół System76 wskazuje na problemy z bezpieczeństwem, testowalością i długoterminową konserwacją takiego kodu. Zauważyli też, że kod generowany przez AI może zawierać niewidoczne błędy, trudne do wykrycia w mniejszych projektach, a ich naprawa odbija się negatywnie na wydajności zespołu. Problem pogłębia się w open-source'owych projektach, gdzie odpowiedzialność za potencjalne zagrożenia rozciąga się na całą społeczność użytkowników.
Zakaz System76 uwidacznia rosnący dyskurs w środowisku programistów na temat roli AI w tworzeniu oprogramowania. Choć narzędzia takie jak GitHub Copilot czy ChatGPT mogą przyspieszać pracę, społeczność open-source tradycyjnie kładzie nacisk na przejrzystość kodu i osobistą odpowiedzialność - wartości, które według System76 AI-generated code podważa. Decyzja ta może inspirować inne projekty do przyjęcia podobnych polityk i prowadzić do szerszej dyskusji o standardach jakości w erze generatywnej AI.