Badanie pokazuje, że entropia adnotacji w danych treningowych może przewidywać dynamikę uczenia się poszczególnych przykładów podczas fine-tuning modeli z użyciem LoRA. Odkrycie ma znaczenie dla optym