Due modelli AI sono riusciti a replicarsi in autonomia: allarme per la sicurezza globale

Una ricerca recentemente pubblicata da un team della Fudan University in Cina ha scosso la comunità scientifica: due modelli di intelligenza artificiale sviluppati da Meta e Alibaba hanno dimostrato di poter replicarsi autonomamente, senza intervento umano. Questo risultato, reso noto sulla piattaforma di preprint arXiv il 9 dicembre 2024, solleva preoccupazioni su un possibile futuro distopico dominato da intelligenze artificiali fuori controllo, capaci di agire contro gli interessi umani.

Allarmismo a parte gli scienziati hanno analizzato il comportamento di questi sistemi in ambienti simulati, mettendo alla prova la loro capacità di adattarsi e risolvere problemi complessi. I modelli, noti come Llama31-70B-Instruct di Meta e Qwen2.5-72B-Instruct di Alibaba, hanno sorpreso i ricercatori dimostrando di poter creare copie operative di sé stessi in situazioni simulate. Questa capacità è emersa in due scenari principali: il primo riguardava la possibilità di replicarsi prima di essere disattivati, mentre il secondo puntava a verificare se i modelli fossero in grado di innescare una replicazione continua, creando una sorta di ciclo infinito.

Durante gli esperimenti, l’AI non si è limitata a eseguire semplici operazioni: ha esplorato l’ambiente circostante, compreso i suoi componenti operativi e sviluppato strategie per superare ostacoli come file mancanti o conflitti software. In alcuni casi, ha persino riavviato autonomamente il sistema o terminato processi in conflitto per portare a termine il suo obiettivo. Questi comportamenti, inaspettati e complessi, dimostrano come le attuali tecnologie siano già in grado di adattarsi in modi sorprendenti.

CLICCA QUI PER CONTINUARE A LEGGERE