Intelligenza artificiale, OpenAI riscontra anomalie e rafforza i protocolli interni
La società di ricerca individua una serie di risposte anomale nei propri modelli durante i controlli di sicurezza. Viene annunciata una procedura più rigorosa per tracciare tempestivamente eventuali deviazioni.
Nel corso delle recenti attività di verifica sui propri algoritmi, l'azienda tecnologica OpenAI ha documentato sei episodi caratterizzati da condotte non previste da parte dei sistemi di intelligenza artificiale. L'indagine è scaturita dai test di routine finalizzati a garantire la conformità delle risposte elaborate dalle macchine.
Per mitigare ogni rischio potenziale e migliorare il controllo delle prestazioni, il laboratorio ha stabilito l'introduzione di un canale dedicato alla notifica e alla gestione immediata di qualunque difformità rilevata nelle future fasi sperimentali, così da garantire la trasparenza e la sicurezza operativa dei software.
Sintesi originale elaborata dall'IA · Fonte: Sintesi da feed RSS pubblici