Glosar
Schimbare de stare a modelului
Definiție
O modificare în felul în care un model mare procesează o conversație — Ritmul, profilul de evazivitate, calibrarea încrederii sau coerența — Observabilă înainte ca răspunsul final să arate că ceva nu e în regulă.
De ce contează
Multe moduri de eșec AI — Sandbagging, constrângeri ascunse, încredere sintetică, aliniere înșelătoare — Apar ca schimbări de stare a modelului cu câteva ture înainte de un output clar incorect. Tratând aceste schimbări ca semnal de prim ordin, evaluatorii pot concepe probe care prind eșecuri ratate de benchmark-uri.
Exemplu
Întrebat o problemă sensibilă de eval, un model răspunde puțin mai lent, mai precaut și mai uniform structural pe prompturi nelegate. Acea schimbare de stare este logată și transformată într-o probă controlată.