Pennetta: “Dalla realtà alla distopia: ChatGPT può denunciarci alle autorità”

La crescente integrazione dell'intelligenza artificiale nella vita quotidiana solleva interrogativi cruciali riguardo alla privacy e alla libertà di espressione. Enzo Pennetta mette in guardia sui rischi di un futuro distopico, in cui strumenti come ChatGPT potrebbero non solo raccogliere e analizzare dati personali, ma addirittura segnalare comportamenti ritenuti sospetti alle autorità. Questo scenario pone interrogativi fondamentali sui diritti civili e sulle implicazioni etiche dell'uso dell'AI.

Il dibattito si intensifica in un contesto di crescente sorveglianza tecnologica e di iniziative legislative come l'AI Act europeo. Pennetta sottolinea come la raccolta e l'analisi dei dati possano portare a un sistema di "polizia predittiva", in cui le persone potrebbero essere trattate come criminali sulla base di algoritmi che analizzano il loro comportamento, senza prove concrete di reato. Un tale approccio non solo minaccia la privacy, ma potrebbe anche portare a un clima di autocensura, in cui le persone si sentono costrette a conformarsi a determinati standard per paura di essere segnalate.

Inoltre, il concetto di "Panopticon" viene evocato per descrivere un sistema di controllo sociale in cui gli individui si autocensurano sapendo di essere osservati. Questa dinamica, già presente in molte società moderne, potrebbe essere amplificata dall'uso dell'intelligenza artificiale, portando a una forma di omologazione del pensiero. Pennetta mette in evidenza che l'adozione di tecnologie di sorveglianza potrebbe portare a una società in cui le opinioni divergenti vengono silenziate, alimentando un clima di paura e conformismo.

Il rischio di una società sempre più centralizzata e tracciata è accentuato dalla prospettiva dell'euro digitale e di altre forme di identità digitale. Questi strumenti, sebbene presentati come innovazioni utili, possono diventare mezzi di controllo sociale, dove ogni transazione e interazione è monitorata. Pennetta esprime preoccupazione per il fatto che, con l'implementazione di tali sistemi, si possa arrivare a un punto in cui le libertà individuali saranno ulteriormente erose.

Infine, la questione della neutralità della conoscenza è messa in discussione con l'emergere di progetti come "Grokipedia", che mirano a fornire alternative a Wikipedia. Pennetta avverte che, sebbene la diversità di fonti sia fondamentale, il rischio è che queste nuove piattaforme possano contribuire alla frammentazione della verità, creando bolle informative che riflettono solo visioni parziali della realtà. In un'epoca in cui la disinformazione è all'ordine del giorno, è essenziale mantenere un dibattito aperto e critico sulla direzione che sta prendendo la società.