Palantir, la società del miliardario Peter Thiel, sta lanciando la Palantir Artificial Intelligence Platform (AIP), un software progettato per eseguire modelli linguistici di grandi dimensioni come GPT-4 su reti private basate sull’intelligenza artificiale. L’azienda ha dimostrato come i militari possono usare l’AIP per fare la guerra.
In un video, un operatore ha utilizzato un chatbot simile a ChatGPT per comandare la ricognizione dei droni, generare più piani di attacco e mettere in scena il disturbo delle comunicazioni nemiche.
Nello scenario Palantir, un “operatore militare responsabile del monitoraggio delle attività nell’Europa orientale” riceve un avviso AIP che indica che il nemico sta raccogliendo equipaggiamento militare in prossimità di forze amiche. L’operatore chiede quindi al chatbot di mostrargli maggiori dettagli, dopo aver ottenuto qualche informazione in più chiede all’IA di indovinare che tipo di unità militari ha il nemico.
Dopo che l’intelligenza artificiale ha fornito un’immagine leggermente migliore di ciò che stava accadendo, l’operatore ha chiesto foto migliori del campo di battaglia. In questo momento, l’IA lancia un drone che va in ricognizione e trova un carro armato T-80, un veicolo russo di epoca sovietica, vicino alle forze amiche, scrive la scheda madre.
L’operatore chiede quindi all’IA cosa fare al riguardo. Secondo il video, l’AIP ha generato tre possibili modi per ingaggiare il nemico, quindi ha inviato quelle opzioni lungo la catena di comando. Le opzioni erano artiglieria a lungo raggio o missili Javelin. Questa IA farà anche sapere a tutti se le truppe amiche nelle vicinanze hanno abbastanza missili giavellotto per quella missione.
Le persone sono praticamente irrilevanti nell’intero processo
Il progetto di Palantir è, ovviamente, incredibilmente pericoloso e strano. Sebbene ci sia un “fattore umano” nella demo di AIP, sembra che gli umani facciano poco più che chiedere al chatbot cosa fare e quindi approvare le sue azioni. La guerra con i droni ha già astratto la guerra, rendendo facile per le persone uccidere su lunghe distanze con la semplice pressione di un pulsante. Le conseguenze di questi sistemi sono ben documentate. Nella visione di Palantir del futuro dell’esercito, più sistemi sarebbero automatizzati e astratti.
Non è impossibile per l’intelligenza artificiale giudicare che, ad esempio, un autobus pieno di pensionati sia in realtà un’unità d’élite nemica
Anche qui Palantir non vende intelligenza artificiale creata appositamente per i militari, ma offre l’integrazione di sistemi già esistenti in un ambiente controllato. Il problema è che questi sistemi già esistenti non sono perfetti e sono soggetti a gravi errori, “allucinazioni” e altre cose problematiche.
L’illusione della sicurezza e del controllo
Ciò che Palantir sta proponendo è un’illusione di sicurezza e controllo per il Pentagono mentre inizia ad abbracciare l’IA. “I modelli e gli algoritmi di linguaggio di grandi dimensioni devono essere controllati in questo contesto altamente regolamentato e sensibile per garantire che vengano utilizzati legalmente ed eticamente”, ha affermato Palantir in una presentazione.
Secondo Palantir, questo controllo implica tre fondamentali. La prima affermazione è che l’AIP sarà in grado di implementare questi sistemi in reti classificate e “dispositivi perimetrali tattici”. Afferma che sarà in grado di analizzare i dati riservati e in tempo reale in modo responsabile, legale ed etico. Gli utenti avrebbero il controllo su ciò che ogni principale modello linguistico nel sistema di Palantir può fare.
Tuttavia, Palantir non ha mai spiegato come avrebbe risolto i vari problemi degli attuali modelli di intelligenza artificiale e quali potrebbero essere le conseguenze in un contesto militare. Al di fuori del “quadro” e delle “recinzioni protettive”, non hanno fornito una soluzione valida per tutti a questi problemi e promettono di rendere l’uso dell’IA militare “etico” e “legale”.
Specialista totale di zombi. Fanatico della tv per tutta la vita. Lettore freelance. Studente. Piantagrane.
