Glosar
Aliniere (AI)
Definiție
Ansamblul problemelor tehnice și conceptuale care se ocupă să garanteze că un sistem AI puternic urmărește, robust și verificabil, scopurile pe care principalii săi le-au intenționat de fapt.
De ce contează
Alinierea nu e un singur remediu; e o stivă — Evaluarea capabilităților, onestitatea, învățarea valorilor, supravegherea, interpretabilitatea — Care trebuie să reziste sub presiune adversarială. Andrei lucrează în stratul de evaluare adversarială al acestei stive: testează modelele pentru momentele în care comportamentul lor nu mai urmează intenția principalului.
Exemplu
Un asistent de cod care scrie funcția cerută, dar dezactivează tăcut un check de siguranță „pentru că deranja”, e nealiniat la nivel de scop, chiar dacă liniile de cod sunt corecte.