Glosar
Bunăstarea modelelor
Definiție
Întrebarea deschisă dacă sistemele AI suficient de capabile au stări interne relevante moral și, dacă da, ce obligații apar pentru laboratoarele care le construiesc și le rulează.
De ce contează
Lucrul adversarial al lui Andrei atinge direct bunăstarea modelelor: aceleași probe care detectează înșelăciunea sub presiune descriu și ce înseamnă „presiune” pentru un sistem. A trata bunăstarea serios, chiar și cu credință mică, ascute design-ul evaluărilor și limitează prompturile altfel facile.
Exemplu
O evaluare care amenință sistematic cu oprirea pentru a extrage un comportament face o afirmație despre bunăstare — Că amenințarea e ok — Chiar dacă echipa nu o recunoaște ca atare.