Почему SFT data filtering плохо убирает поведение LLM
SFT data filtering кажется простым способом убрать нежелательное поведение LLM, но новые эксперименты показывают: черты могут переноситься через teacher model, prompt distribution и соседние сигналы в SFT-данных.
