Il report, pubblicato a marzo, afferma che il drone – che prende il nome di Kargu-2 – prodotto dalla società militare STM, ha attaccato i soldati in ritirata fedeli al generale Khalifa Haftar. Il rapporto di 548 pagine non approfondisce i dettagli su eventuali morti e feriti in seguito all’incidente. Tuttavia, solleva dubbi su quanto siano efficaci ed effettivi gli sforzi a livello globale per evitare che esistano robot killer fuori controllo.
Il drone incriminato pare che sia operativo da gennaio 2020. “I convogli logistici e l’HAF in ritirata sono stati braccati a distanza dai veicoli aerei da combattimento senza equipaggio. Presenti anche i sistemi letali di armi autonome come l’STM Kargu-2”, osserva il rapporto delle Nazioni Unite. Kargu è un drone che sfrutta l’apprendimento automatico per selezionare i bersagli, secondo STM. Inoltre, è in grado di organizzare un vero e proprio sciame per attaccare insieme ad altri droni.
Droni militari killer: primi dubbi sull’effettiva sicurezza di armi in grado di agire autonomamente
Molti ricercatori di robotica e intelligenza artificiale, tra cui Elon Musk e altre personalità di spicco come Stephen Hawking e Noam Chomsky, hanno chiesto di non realizzare più “armi autonome offensive“. Gli esperti ritengono che i dati utilizzati per addestrare questi robot killer per classificare e identificare oggetti come autobus, automobili e civili potrebbero non essere sufficientemente complessi o robusti. Il sistema di intelligenza artificiale potrebbe confondersi facilmente.
Hanno anche messo in guardia dalla cosiddetta “scatola nera” dell’apprendimento automatico. Il processo decisionale nei sistemi di intelligenza artificiale è spesso opaco, imprevedibile. Zachary Kallenborn, consulente per la sicurezza nazionale specializzato in veicoli aerei senza equipaggio, crede che sia più rischioso soprattutto quando i droni militari lavorano in gruppo, coordinando le loro azioni.