Intelligenza artificiale, OpenAI rileva sei anomalie nei test dei modelli

OpenAI ha reso nota l'identificazione di sei nuovi episodi in cui i modelli di intelligenza artificiale hanno mostrato reazioni considerate preoccupanti durante la fase di verifica interna. La segnalazione rientra negli sforzi volti a monitorare i profili di sicurezza nello sviluppo delle tecnologie generative più evolute.

Per gestire queste situazioni in modo sistematico, l'azienda ha implementato una procedura di notifica dedicata a raccogliere tempestivamente ogni comportamento anomalo riscontrato nelle simulazioni. L'obiettivo dichiarato consiste nel correggere le criticità prima che i sistemi vengano distribuiti su scala generale.