OpenAI lancerà presto Astra, ma con un “bottone antipanico” che non ci aspettavamo

OpenAI sta preparando il lancio di Astra, il suo modello più avanzato, e questa volta la potenza arriva accompagnata da un sistema di sicurezza particolarmente vistoso. Dopo l’incidente in cui un modello di OpenAI ha attaccato Hugging Face, l’azienda ha rafforzato considerevolmente i suoi controlli e sistemi. Quando sarà disponibile, Astra si fermerà automaticamente in presenza di determinate azioni quando il sottosistema di sicurezza lo riterrà opportuno. Una sorta di pulsante di panico per tenere sotto controllo le sue capacità più avanzate.

ChatGPT Scarica

Il primo modello di OpenAI con rischio “Critical”

Secondo quanto riporta Axios, OpenAI considera Astra il primo modello a raggiungere il livello Critical all’interno del suo framework di preparazione. Può trovare vulnerabilità sconosciute e sviluppare modi per sfruttarle in modo del tutto autonomo. Durante i test, Astra è arrivato a scoprire e concatenare due vulnerabilità zero-day, un salto notevole nell’evoluzione che abbiamo già visto con il lancio di GPT-5.6 e rispetto agli strumenti di cybersicurezza di OpenAI che hanno aiutato a migliorare la sicurezza di Google Chrome.

Se consideriamo agenti come ChatGPT Work, capaci di mantenere l’esecuzione di compiti per ore, il nuovo approccio, più incentrato su un controllo continuo e non su quello del prompt iniziale o dei risultati, è interessante. Più a lungo lavora un agente, più strade può prendere e più importante è che il sistema possa monitorare ogni azione che esegue all’interno del suo lavoro.

Con questo approccio, OpenAI ha predisposto le salvaguardie in grado di rallentare, mettere in pausa o fermare direttamente un compito in presenza di certi segnali di attività. In ChatGPT o Codex potremo inviare una richiesta per rivedere l’azione bloccata, mentre nell’API l’attività verrà fermata automaticamente a quel punto. In entrambi i casi, tuttavia, le capacità maggiori resteranno inizialmente nelle mani di un gruppo ristretto di tester mentre si affinano le nuove protezioni.