Pessimismo dei ricercatori di IA

Questa risposta proviene da un sondaggio condotto nei mesi di maggio e giugno di quest’anno su 327 ricercatori di questo tipo, selezionati tra coloro che negli ultimi anni sono co-autori di uno o più studi sull’elaborazione automatica del linguaggio (elaborazione del linguaggio naturale), un’area dove si trovava il teatro Progressi notevoli.

L’espressione “sulla scala della guerra nucleare” può essere vista come una metafora, ma può anche essere presa alla lettera: questi ricercatori anticipano le applicazioni militari dell’IA, e quindi la possibilità che con questi recenti sviluppi, l’IA svolga un ruolo maggiore nella il processo decisionale. “Ci sono scenari plausibili che potrebbero portarci così lontano”, Commenta nuovo mondo Il ricercatore di sicurezza Paul Char. Ma ciò richiederà alle persone di fare cose davvero pericolose con gli usi militari dell’IA. »

Nel sondaggio condotto da un team del New York University Center for Data Science e dai suoi risultati Inserito in precedenza Il 26 agosto il numero di ricercatori coinvolti era più alto tra le donne (46%) ei membri delle minoranze visibili (53%).

Senza arrivare alla guerra nucleare, alcuni intervistati hanno affermato che sarebbero stati d’accordo con l’ipotesi che l’IA ponga seri rischi, se lo scenario discusso fosse stato meno estremo. Ad esempio, l’indagine cita i rischi posti dalle armi guidate dall’intelligenza artificiale o quelli posti dalla sorveglianza di massa.

È chiaro che questi ricercatori non hanno estratto queste preoccupazioni solo dalla loro ricerca. I rischi degli abusi dell’IA sono stati discussi per diversi anni, Ad esempio in termini di discriminazione. Ma i pericoli che mettono in gioco il futuro dell’umanità sono stati oggetto di ulteriori riflessioni, ad esempio in un report per il 2018 da un gruppo di pensatori negli Stati Uniti, o in il libro Da un ricercatore dell’Università di Oxford nel 2014. Migliaia di persone hanno firmato Una lettera aperta dello scienziato informatico britannico Stuart Russell, nel 2015, che chiedeva “una ricerca più ampia volta a garantire che i sistemi di intelligenza artificiale sempre più avanzati siano sia potenti che utili”.

Chi invece non cede al pessimismo evoca l’esempio di un’auto a guida autonoma che è ancora lontana dal poter prendere decisioni informate in ogni circostanza, nonostante le ingenti somme che vi sono state investite.

Se negli anni 2000 queste riflessioni si concentrano sulle capacità teoriche della “superintelligenza”, si sono radicate più saldamente nella pratica con i moderni concetti di machine learning (apprendimento automatico) e l’elaborazione automatica del linguaggio, che ha aperto nuovi orizzonti su ciò che possiamo fare con l’IA e ancora non ne conosciamo il potenziale. Gli avvocati chiedono anche: Comitato Intelligenza Artificiale Il Consiglio d’Europa ha in particolare giudicato l’importanza di normative che lasciano il processo decisionale all’uomo “e non ai modelli matematici”. Ma resta da scrivere tali leggi …