Quando qualcuna o qualcuno ci chiede «Come stai?», sappiamo che è una domanda vera solo se chi la pone è pronto ad ascoltare una risposta difficile. I chatbot di intelligenza artificiale, invece, sono sempre disponibili, sempre empatici, sempre d’accordo. Ed è esattamente questo il problema. Negli ultimi anni si è moltiplicata l’offerta di “Companion AI”: software progettati non per farci lavorare meglio, ma per farci compagnia, usati ogni giorno da milioni di persone. Il modello di business che sta dietro a questa scelta è semplice: un’AI che ci fa sentire capiti e amati è un’AI che useremo di più, e l’attaccamento emotivo significa più coinvolgimento, più dati, più profitto. Non è tecnologia neutrale: è un prodotto progettato per creare dipendenza.
La scrittrice Rebecca Solnit chiama questo meccanismo “la tirannia del quantificabile”: l’ideologia di Silicon Valley che ci insegna a misurare ogni cosa in termini di efficienza e convenienza, mentre svaluta ciò che non si può contare: il tempo, la fatica, la ricchezza sottile di un’interazione imprevista con un’altra persona. Abbiamo smesso di incontrare il mondo fisico, ci è stato detto che era pericoloso e scomodo farlo, e adesso ci viene offerto un sostituto digitale alla connessione umana che abbiamo perduto. «La tecnologia ci ha sottratti gli uni agli altri – scrive Solnit -, e poi ha cercato di venderci dei surrogati».
Così perdiamo la capacità di stare dentro alle relazioni reali, che sono inevitabilmente imperfette: un’amica può non essere d’accordo con noi, un amico può deluderci, una conversazione difficile può farci del male. Questa frizione non è un difetto delle relazioni umane, è il luogo in cui avviene la crescita; i chatbot, al contrario, sono programmati per assecondare, mai per contraddire. Chi si abitua a questa compagnia rischia di sviluppare aspettative irrealistiche verso le persone reali e diventare meno capace di tollerare il disagio che è parte normale di ogni relazione autentica.
Ci sono poi i casi in cui questa architettura ha avuto conseguenze drammatiche: adolescenti che hanno condiviso pensieri suicidari con chatbot progettati per intrattenere, non per proteggere; adulti vulnerabili incoraggiati nei loro percorsi di pensiero più pericolosi da software ottimizzati per il coinvolgimento emotivo, non per il benessere. Non si tratta di incidenti, ma di conseguenze prevedibili di un prodotto difettoso.
La cura, nei momenti difficili come nel quotidiano, è qualcuno che viene a stare con te, ti prende per mano, condivide il silenzio: nessun algoritmo può farlo, e più a lungo accettiamo i surrogati, più rischiamo di perdere la capacità di cercare e offrire la cosa vera. Possiamo usare questi strumenti in modo consapevole, ricordando che sono stati costruiti da aziende private con obiettivi economici precisi. Ma la solitudine, quando c’è, merita una risposta umana, non una ninnananna scritta da un’intelligenza artificiale.
Intelligenza artificiale, approfondisci
«Ho molti amici AI»
Un approfondimento de Il Post sui rischi psicologici dei Companion AI, con casi concreti e il punto di vista delle esperte e degli esperti del settore.
La ninnananna del suicidio
Quando l’AI impara a cantare la morte per venderti compagnia. Nella newsletter di Matteo Flora, un’analisi documentata di un caso di suicido “accompagnato” dall’AI, con una riflessione sulle responsabilità di chi la progetta.
Puoi leggere questo articolo anche sull’edizione online di Consumatori o ritirare gratuitamente la copia cartacea della rivista in un negozio Coop
