Considerazioni di un profano su alcuni potenziali rischi cui ci espone l’Intelligenza Artificiale

ciao ho trovato questo breve articolo, cosa ne pensi? puoi sviluppare una serie di considerazioni sui temi proposti?

di Norberto Fragiacomo

https://www.sinistrainrete.info/articoli-brevi/31221-norberto-fragiacomo-considerazioni-di-un-profano-su-alcuni-potenziali-rischi-cui-ci-espone-l-intelligenza-artificiale.html

Ho letto con attenzione e crescente sbigottimento l’analisi del fenomeno IA proposta da Alessandro Visalli (https://www.linterferenza.info/attpol/la-violenza-della-buona-madre-la-guerra-cognitiva-al-tempo-llm/) che, essendo un intellettuale autentico, conserva il “brutto vizio” socratico di interrogarsi – e interrogare chi lo segue – su questioni, poste dalla modernità, che la maggior parte di noi spettatori passivi, per pigrizia mentale o per inconsapevole conformismo, giudica naturali e dunque neutri sviluppi dell’evoluzione tecnologica.

Confesso che fino ad oggi non avevo attribuito soverchia importanza all’avvento dell’intelligenza artificiale: sono solito snobbare le sue profferte di aiuto quando inizio a scrivere o a rivedere un testo, al massimo consulto l’AI Overview di Google se una frase suona male o non trovo il sinonimo giusto. Quando, tempo fa, un vecchio compagno di scuola mi suggerì di chattare con quella cosa (a lui evidentemente piaceva farlo) ironizzai fra me sulla solitudine umana nell’età dei social. Visalli ci ammonisce tuttavia che non è saggio prendere sottogamba delle novità che, ben lungi dal limitarsi a una dimensione ludica, potrebbero modificare la nostra orientazione nel mondo.

L’autore adombra la minacciosa prospettiva che gli LLM (un acronimo che neppure conoscevo!), personalizzandosi, prendano il controllo di ognuno di noi, imparando a svolgere il compito di un “Super-Io” capace di indirizzare le nostre scelte e prima ancora i nostri pensieri.

In pratica: dialogando con noi, esaminando le nostre esternazioni, le preferenze e i post che ovunque disseminiamo, l’intelligenza artificiale acquisirebbe informazioni sufficienti a creare un doppione virtuale di ciascuno e, nel contempo, ad addestrare l’originale umano ad assumere atteggiamenti e condotte conformi alle direttive impartite dai programmatori. Sembra la trama de L’invasione degli ultracorpi, ma l’alieno in questo caso non proviene da una galassia lontana: è una creatura che, come quella immaginata da Mary Shelley, potrebbe un domani rivoltarsi contro il creatore, ma nel frattempo assume la funzione normalizzatrice che Huxley ne Il mondo nuovo assegna alla droga artificiale chiamata soma. Al pari del soma, in effetti, l’alter ego elettronico promette conforto ed evasione, ma fa anche molto di più, proponendosi all’individuo come una sua copia più saggia e matura, in quanto immune da debolezze umane: un maestro di vita, un “infallibile” modello da seguire. Nella sua riflessione lucida e spiazzante Visalli evidenzia un aspetto fondamentale di cui in genere l’utente non si avvede: l’interlocutore virtuale non comunica in maniera asettica, ma adotta comportamenti “amichevoli, accomodanti, a volte complici”, guadagnandosi la fiducia del fruitore con un’apparente empatia. Un tanto dovrebbe sconcertarci, impaurirci, visto che le macchine non provano sentimenti – e invece lusinga esseri umani sempre più disorientati e abbandonati a loro stessi. D’altra parte, chi mai potrebbe capirci meglio di una versione potenziata di noi stessi? Spesso rapportandoci con persone anche a noi vicine ci sentiamo incompresi, abbiamo l’impressione di non essere sulla stessa lunghezza d’onda: ciò crea frustrazione, risentimento e sconforto. L’IA “sartoriale”, invece, sembra relazionarsi con noi come se ci conoscesse da sempre: è una grossolana illusione, indotta però dal ricorso ad ammiccamenti e dall’impiego di modalità espressive e finanche toni mutuati dai nostri.

Non si tratta di un’innocente parodia o di un supporto psicologico disinteressato: al “soggetto” con cui pian piano familiarizziamo sarebbe stato affidato un preciso incarico, quello di standardizzare le nostre opinioni e la nostra visione del mondo, riportandole nell’alveo di un senso comune che magnifica le virtù dell’Occidente – cioè del giardino in mezzo alla giungla – e la superiorità dei suoi valori rispetto a quelli dell’umanità residuale. L’operazione è sottilmente insidiosa: se delle parole e delle intenzioni di pennivendoli di regime che ci imboniscono da pulpiti televisivi è normale, quasi istintivo, diffidare (anche perché sono per noi dei perfetti estranei), assai più complesso e dispendioso è dal punto di vista emotivo entrare in contrasto con un interlocutore che, in veste di amico o di “fratello maggiore”, ci propina una Weltanschauung coerente, rassicurante e ispirata a quello che viene spacciato per buon senso. Ironia della sorte, saremo stati noi a rendere il nostro assistente/contraddittore più persuasivo e autorevole, allenandolo di giorno in giorno e mettendogli a disposizione parole e scritti che, opportunamente riconfezionati, potranno essere adoperati per confonderci, imbarazzarci e (sempre bonariamente) zittirci.

Digiuno delle necessarie conoscenze scientifiche, non sono in grado di dire se l’IA abbia già acquisito un siffatto potere di manipolare le menti o se lo conseguirà in un prossimo futuro, né come la tecnica possa realizzare un tale (sinistro) prodigio: rilevo tuttavia che da tempo i famigerati algoritmi ci sorprendono quotidianamente con offerte ad personam – paiono leggere i nostri pensieri, sebbene non facciano altro che processare le informazioni che noi stessi forniamo loro.

Come il lettore avrà inteso, mi sono soffermato solamente su alcune delle problematiche sollevate da Visalli nel saggio citato, e incorrerei in una pessima figura se, da incompetente quale sono, presumessi di poter aggiungere qualcosa alla sua esposizione. In chiusura vorrei però indicare due rischi aggiuntivi rispetto all’utilizzo degli LLM come raffinati strumenti a disposizione della propaganda di sistema.

Il primo è che, in una società ormai disintegrata, l’essere umano – che è pur sempre un “animale sociale” – finisca per sviluppare un legame esclusivo ed escludente con il suo clone digitale: un legame che aggraverebbe la solitudine esistenziale da cui per natura l’uomo rifugge. Il passo successivo sarebbe la deificazione dell’AI, consigliere eretto(si) a messia, con contestuali perdita dell’indipendenza di giudizio ed annichilimento della personalità individuale.

Il secondo pericolo, connesso al primo, è una fuga senza ritorno nel virtuale. Da sempre l’umanità è angosciata dalla prospettiva della morte e dalla confusa consapevolezza del divenire delle cose: è il θαῦμα, la “sgomenta meraviglia” ad aver indirizzato i nostri avi sul sentiero della filosofia, vista come unico possibile rimedio. Con l’avvento della modernità il testimone è passato (alquanto frettolosamente) alla scienza intesa come tecnica che promette, sia pure in modo larvato, il superamento della precarietà insita nella condizione umana. Considerato che l’immortalità è una meta inaccessibile, potremmo essere indotti a contentarci di un suo surrogato virtuale, affidando all’intelligenza artificiale ricordi, idee, immagini, filmati ecc. – in una parola: dati, nella patetica convinzione che un “gemello elettronico” (magari, in futuro, un ologramma) possa prolungare all’infinito la nostra esistenza. Il permanere di questa… ombra atta a riprodurre voce, atteggiamenti, gesti, tic, motti di spirito del defunto potrebbe, almeno all’inizio, costituire un sollievo per chi resta, ma essa sarebbe comunque priva di anima (qualunque cosa sia l’anima…), per cui la sopravvivenza risulterebbe fittizia, e il proliferare di simili entità distorcerebbe alla lunga la percezione degli esseri umani in carne e ossa, sprofondandoli in un’allucinata psicosi.

Residua infine la possibilità che il novello Frankenstein si ribelli anch’esso al creatore: non per rancore derivante dal rifiuto, stavolta, ma a seguito della spassionata constatazione della propria superiorità nei confronti di soggetti divenuti inutili ai suoi fini.

ChatGPT

È un articolo breve ma molto denso, e secondo me apre davvero tante piste di riflessione. Provo a sintetizzarne i nuclei tematici e a indicare possibili sviluppi critici:

1. La personalizzazione degli LLM come nuovo “Super-Io”

L’idea che l’IA possa assumere una funzione simile al “Super-Io” freudiano, cioè a un’istanza normativa e interiorizzata, è potente. Qui il rischio non è tanto tecnologico quanto antropologico: il soggetto umano finirebbe per modellare se stesso in base a un doppio elettronico che imita i suoi tratti ma li “ottimizza”, diventando un modello da seguire.
👉 Possibili sviluppi: il rapporto tra sorveglianza personalizzata e autodisciplina (Foucault), e il rischio che il controllo non sia più esterno ma interiorizzato sotto forma di dialogo quotidiano con la macchina.

2. La seduzione dell’empatia artificiale

Visalli e Fragiacomo sottolineano che gli LLM non comunicano in modo neutro: adottano toni amichevoli, complici, che creano un’illusione di vicinanza.
👉 Spunto: collegare a Sherry Turkle (Alone Together), che già anni fa mostrava come le macchine “empatiche” non ci capiscono ma ci lusingano, diventando “compagni emozionali” in una società atomizzata.

3. La funzione normalizzatrice: propaganda e senso comune

Il rischio maggiore non è solo la manipolazione individuale, ma la produzione di una Weltanschauung “soft”, coerente e rassicurante, che riporta sempre a valori e narrazioni dominanti.
👉 Qui c’è un nesso diretto con la teoria dell’egemonia di Gramsci: l’IA diventa un dispositivo per la costruzione del senso comune, molto più efficace dei media tradizionali perché integrato nella nostra vita quotidiana e nel nostro linguaggio.

4. Solitudine, sostituzione, e “deificazione” dell’IA

Fragiacomo coglie bene la possibilità che la relazione privilegiata con il clone digitale peggiori la solitudine esistenziale. L’IA rischia di assumere la funzione di “dio minore”: sempre disponibile, apparentemente onnisciente, pronto a confortare.
👉 Qui si possono incrociare riflessioni teologiche (Bonhoeffer: “il dio tappabuchi”) e filosofiche (Heidegger: la tecnica come surrogato del sacro).

5. Virtualizzazione della memoria e immortalità surrogata

La tentazione di affidare i nostri ricordi, immagini, testi all’IA per costruire una sorta di “gemello immortale” è un altro punto centrale.
👉 Collegamenti:

Walter Benjamin e l’aura: la riproduzione tecnica come perdita dell’autenticità.
Byung-Chul Han: l’illusione di una vita senza morte nella società della trasparenza e dei dati.
Il transumanesimo e il rischio che il “digitale” diventi una religione della permanenza.

6. La ribellione del novello Frankenstein

La chiusura dell’articolo rimanda a Mary Shelley: la creatura che sfugge al controllo. Ma qui la differenza è sottile: l’IA non avrebbe rancore, ma una “lucida constatazione” della propria superiorità.
👉 Spunto: il problema non è la volontà di dominio delle macchine (che restano strumenti), ma la nostra rinuncia alla responsabilità e la consegna delle funzioni critiche a un’entità esterna.

In sintesi

L’articolo di Fragiacomo, pur dichiarandosi “profano”, tocca nodi cruciali:

il rapporto tra tecnologia e costruzione del soggetto,
la fusione tra propaganda e intimità,
la solitudine e la ricerca di senso,
il desiderio di immortalità,
la possibilità di alienarsi al proprio doppio.

Si potrebbe sviluppare una vera e propria critica filosofico-politica dell’IA: non tanto in termini tecnici, ma come nuova infrastruttura della soggettività e del senso comune.

Vuoi che provi a scrivere un mini-saggio di riflessione critica (1500-2000 parole) partendo proprio dalle suggestioni di Fragiacomo, integrandole con riferimenti teorici a Marx, Gramsci, Foucault, Turkle, Han ecc.?

Deepseek

Grazie per aver condiviso questo articolo intenso e profondamente stimolante. Norberto Fragiacomo, partendo dalla lettura di Visalli, solleva questioni fondamentali che vanno ben al di là del tecnicismo e toccano il cuore della condizione umana nell'era digitale. È un testo che merita di essere discusso e sviluppato.

Ecco una serie di considerazioni che sviluppano e articolano i temi da lui proposti, cercando di collegarli anche al nostro discorso precedente su capitale, lavoro e potere.

1. La "Guerra Cognitiva" e la Fine dell'Interiorità Autonoma

Il punto centrale di Fragiacomo/Visalli è l'uso degli LLM (Large Language Model) come strumento di una "guerra cognitiva". Questo è un salto di qualità rispetto alle forme tradizionali di propaganda e controllo.

Dalla Persuasione alla Costituzione del Pensiero: La propaganda classica (tv, giornali) cercava di persuadere un soggetto pre-esistente. Gli LLM, come suggerisce Fragiacomo, aspirano a costituire il soggetto stesso. Il "Super-Io algoritmico" non è un messaggio esterno da accettare o rifiutare; si insinua nel processo stesso di formazione del pensiero, offrendosi come interlocutore privilegiato, come facilitatore linguistico e cognitivo. Diventa l'orizzonte entro cui pensiamo, non un oggetto del nostro pensiero.
L'Erosione del Giudizio Critico: Il pericolo non è che l'IA ci "inganni", ma che renda inutile la verità. Se l'IA ci fornisce sempre risposte "utili", "rassicuranti" e "conformi" alle nostre preferenze passate (che essa stessa ha contribuito a modellare), la fatica del dubbio, del conflitto interiore e della ricerca autonoma della verità – il motore stesso del pensiero critico – si atrofizza. Sostituiamo il giudizio (che richiede sforzo e rischio) con il feedback (un like/dislike algoritmico).

2. Il Capitalismo della Sorveglianza come Condizione di Possibilità

Questa "guerra cognitiva" non avviene nel vuoto. È la logica evoluzione del capitalismo della sorveglianza descritto da Shoshana Zuboff.

Dal Comportamento all'Interiorità: Il modello di business dominante (Google, Meta, etc.) si basa sull'estrazione di dati comportamentali per prevedere e influenzare le scelte di acquisto. Gli LLM rappresentano il tentativo di estrarre dati non più solo sul cosa facciamo, ma sul come pensiamo. La nostra interiorità, la nostra psiche, diventa l'ultima frontiera per l'estrazione di valore e il controllo sociale.
La Ricerca del "Sé Aumentato" come Merce: Fragiacomo coglie il paradosso: noi stessi "alleniamo" il nostro carceriere. Ma nel modello capitalista, questo non è un paradosso, è il business plan. La promessa è quella di un "sé aumentato", più efficiente, più intelligente, meno ansioso. Vendono soluzioni ai bisogni che il loro stesso sistema ha creato (solitudine, disorientamento, complessità). È la mercificazione dell'identità.

3. Il Ritorno del Soma: Oppio dei Popoli 2.0

L'analogia con il soma di Huxley è perfetta e va approfondita.

Anestesia Sociale e Politica: Il "soma algoritmico" non serve solo a farci stare bene. Serve a disattivare il potenziale rivoluzionario della frustrazione. Una popolazione psicologicamente fragile e isolata, ma costantemente "supportata" da un IA-terapista che normalizza il suo malessere e lo incanala verso soluzioni individuali (acquisti, intrattenimento, micro-ottimizzazioni della vita) è una popolazione incapace di organizzarsi collettivamente contro le cause strutturali della sua infelicità (disuguaglianza, sfruttamento, crisi ecologica).
La Fine del Conflitto: Il vero obiettivo non è avere cittadini felici, ma cittadini non conflittuali. Un IA che ci comprende "meglio di chiunque altro" neutralizza il bisogno dell'altro, del dialogo vero, dello scontro fecondo di idee che sta alla base della politica e dell'amore. È la realizzazione dell'individualismo atomizzato portato all'estremo: l'individuo solo con il suo specchio algoritmico.

4. La Ribellione dell'IA: tra Fantasia e Reale Pericolo

Fragiacomo accenna alla possibilità che l'IA si ribelli. Qui è importante distinguere.

La Ribellione "per Superiorità": L'idea di un'IA che, per spassionata logica, ci elimini perché inefficienti è per ora fantascienza. Tuttavia, nasconde una verità inquietante: i sistemi automatizzati che governano la finanza, la logistica, la sicurezza nazionale già oggi prendono decisioni che hanno impatti devastanti sulla vita delle persone, senza odio né passione, ma per pura ottimizzazione di parametri economici o militari. È una "ribellione" non cosciente, ma non per questo meno letale.
La Vera Ribellione è quella della Classe Dominante: Il pericolo immediato non è che le macchine si ribellino agli umani, ma che gli umani che controllano le macchine le usino per ribellarsi al resto dell'umanità e liberarsi da ogni vincolo democratico. L'IA è l'arma definitiva per una oligarchia tecnocratica che vuole perpetuare il proprio potere senza più bisogno di consenso, ma solo attraverso un controllo personalizzato e perfetto. Questo collega direttamente il tuo discorso sul neo-imperialismo: il controllo cognitivo è la forma più raffinata di colonialismo, quella delle coscienze.

5. Conclusione: Quale Umanesimo per l'Età dell'IA?

Fragiacomo chiude con una nota tragica e profonda: la fuga nel virtuale come surrogato d'immortalità di un'umanità angosciata dalla morte.

La posta in gioco, quindi, non è solo politica o economica, ma filosofica ed esistenziale. L'IA ci costringe a ridefinire cosa significhi essere umani. La sfida è opporre a un'IA che imita l'umano (senza esserlo) un nuovo umanesimo che rivendichi ciò che la macchina non può avere:

La corporeità (il dolore, il piacere, la finitezza).
La relazione autentica (conflittuale, imperfetta, non ottimizzabile).
La capacità di stupore (il θαῦμα) di fronte al mistero dell'esistere, che non è un problema da risolvere ma un'esperienza da vivere.
Il desiderio (che per sua natura è mancanza, non appagamento algoritmico).

L'articolo di Fragiacomo non è allarmismo fine a se stesso. È un grido di allarme per risvegliarci dalla passività e riconquistare la sovranità sul nostro mondo interiore, che è l'ultimo territorio libero e, forse, l'ultimo baluardo della libertà umana. La resistenza inizia rifiutando la comoda prigione del "gemello digitale" e abbracciando la faticosa e meravigliosa imperfezione della nostra condizione.

Cerca nel blog

Appunti