Quando si parla dei rischi dell’IA, l’immaginazione corre facilmente a scenari da fantascienza: macchine che sviluppano una volontà propria e decidono di ribellarsi all’essere umano.
Forse, però, il problema più concreto è un altro.
Un sistema di intelligenza artificiale non ha bisogno di odiare, desiderare o avere una coscienza per diventare pericoloso. Può bastare che persegua con estrema efficienza un obiettivo formulato male o incompleto, senza possedere quel senso del limite che noi esseri umani introduciamo attraverso esperienza, dubbio, prudenza e responsabilità.
Più cresce l’autonomia dei sistemi, quindi, più diventa importante stabilire non soltanto che cosa devono fare, ma anche che cosa non devono fare per raggiungere un obiettivo.
Quando abbiamo sviluppato automobili sempre più potenti, non ci siamo limitati a migliorare i motori: abbiamo costruito semafori, guardrail, regole, responsabilità e limiti di velocità. Con l’intelligenza artificiale la sfida è simile, anche se molto più complessa.
La vera questione non è rendere l’IA “buona”, ma costruire un quadro umano, etico e politico capace di governarne la potenza.
La domanda decisiva, allora, non è:
L’intelligenza artificiale diventerà cattiva?
Ma piuttosto:
Saremo capaci di darle limiti adeguati prima di affidarle troppo potere?
Più aumenta la capacità dell’IA di agire, più deve aumentare la nostra capacità di governarla.
Nessun commento:
Posta un commento