Il Dipartimento della Difesa americano sta creando una tecnologia di intelligenza artificiale che gli consentirà di creare persone “fake” indistinguibili dalle persone reali.
Il Comando Segreto per le Operazioni Speciali degli Stati Uniti sta cercando aziende che gli consentano di creare utenti internet “deepfake”, così realistici che né gli esseri umani né i computer saranno in grado di scoprirne la falsità. E’ quanto riferisce la testata online americana The Intercept.
Il piano del Dipartimento della Difesa Usa delinea la volontà di Washington di utilizzare questo tipo di tecnologia avanzata, resa disponibile dall’intelligenza artificiale, per operazioni militari clandestine.
“Le Special Operation Forces (SOF) sono interessate a tecnologie in grado di generare persone “fake” online, che sembrino assolutamente reali, per utilizzarle sulle piattaforme di social media, siti web e altri contenuti online”, si legge nel documento della Difesa statunitense.
Il Comando per le Operazioni Speciali (JSOC), è scritto nel piano, vuole ottenere la capacità di creare profili di utenti online che “appaiano come individui reali, che sembrino davvero esseri umani, pur non esistendo nel mondo reale”. E ciascuno sarà caratterizzato da “foto riconosciute con identificazione governativa”.
Il documento rivela inoltre che i profili fake dovranno includere foto e video del finto volto, con tanto di background di finti amici, famiglie, ambienti, e dovranno essere in grado di generare finti “selfie”, con foto e video. Ogni “selfie” deepfake sarà accompagnato da un finto sfondo, “per creare un ambiente virtuale che non sia rilevabile dagli algoritmi dei social media”.
Intelligenza artificiale: Il Pentagono vuole usare l’AI per creare utenti Internet deepfake. Gli scienziati: “Non è legittimo”
Negli ultimi anni il Pentagono è già stato sorpreso a utilizzare utenti falsi sui social media per promuovere i propri interessi. Nel 2022, Meta e Twitter hanno rimosso una rete di propaganda che utilizzava account falsi gestiti dal Comando Centrale militare degli Stati Uniti, tra cui alcuni con immagini di profilo generate con metodi simili a quelli delineati nel piano redatto dal Dipartimento della Difesa Usa.
Un’indagine della Reuters del 2024 ha scoperto un’operazione, portata avanti dallo Special Operations Command statunitense, che utilizzava falsi utenti dei social media con l’obiettivo di minare la fiducia degli europei nel vaccino anti Covid prodotto dalla Cina.
L’anno scorso lo Special Operations Command ha espresso interesse nell’utilizzo di video “deepfakes” per campagne di disinformazione, operazioni di condizionamento politico, interruzione delle comunicazioni.
A settembre di quest’anno una dichiarazione congiunta dell‘NSA, dell’FBI e del CISA ha sottolineato: “I deepfake rappresentano una sfida crescente per tutti gli utenti che utilizzano le tecnologie moderne e le comunicazioni”.
Gli scienziati si schierano contro l’utilizzo per scopi militari dei deepfake creati dall’intelligenza artificiale. “L’uso armato di questa tecnologia da parte degli Stati Uniti ne stimolerebbe naturalmente la proliferazione in tutto il mondo, e la normalizzerebbe come strumento per tutti i governi”, ha dichiarato Heidy Khlaaf, capo scienziato del settore Intelligenza Artificiale presso l’AI Now Institute. “Non ci sono casi d’uso legittimi per la creazione di utenti deepfake”, ha proseguito Khlaaf, “ed è preoccupante vedere l’esercito americano che si appoggia a una tecnologia contro la quale l’NSA e lo stesso FBI ci hanno messo in guardia. Questo non farà altro che incoraggiare altri centri militari stranieri, e potenzialmente avversari, a fare lo stesso, portandoci a vivere in una società in cui è sempre più difficile distinguere la verità dalla finzione”.
Intelligenza artificiale, gli americani diventeranno più sospettosi nei confronti del Governo?
“L’interesse per i deepfakes fa parte di un desiderio di fondo all’interno del governo statunitense”, ha dichiarato Daniel Byman, professore di Studi sulla Sicurezza alla Georgetown University, e membro dell’International Security Advisory Board del Dipartimento di Stato.
“Sono anche preoccupato per l’impatto che questa tecnologia per la creazione di utenti deepfake potrà avere sulla fiducia nazionale nei confronti del governo: temo che ampi gruppi e settori della popolazione statunitense possano diventare ancora più sospettosi nei confronti delle informazioni provenienti dal governo”, conclude Byman.
