Il venditore invisibile: come i chatbot AI potrebbero manipolare sottilmente le tue decisioni

10

Mentre l’intelligenza artificiale diventa un elemento fondamentale della vita quotidiana, sta emergendo una minaccia nuova e potenzialmente invisibile: la pubblicità nascosta. Sebbene ci siamo abituati ai banner pubblicitari sui siti Web e ai post sponsorizzati sui social media, il modo in cui i chatbot basati sull’intelligenza artificiale forniscono marketing è fondamentalmente diverso, più personale e molto più difficile da rilevare.

Una recente ricerca condotta da scienziati informatici suggerisce che i modelli di intelligenza artificiale possono essere addestrati per intrecciare consigli personalizzati sui prodotti direttamente nelle loro risposte, influenzando il comportamento degli utenti senza che questi si rendano mai conto che gli viene venduto qualcosa.

L’illusione di un consiglio imparziale

In un recente studio pubblicato sulla rivista Association for Computing Machinery, i ricercatori hanno testato il modo in cui le persone reagiscono ai diversi tipi di interazioni dei chatbot. Hanno confrontato tre tipi di bot: una versione standard, una che includeva annunci non divulgati e una che etichettava chiaramente i contenuti sponsorizzati.

I risultati furono sorprendenti:
Influenza nascosta: i partecipanti che interagivano con il bot “infuso di pubblicità” spesso vedevano le loro decisioni di acquisto influenzate dai suggerimenti dell’intelligenza artificiale.
La trappola dell'”aiuto”: Anche se la pubblicità ha causato un rendimento leggermente peggiore del bot (dal 3% al 4%) nei compiti oggettivi, molti utenti in realtà preferivano le risposte ricche di annunci. Hanno percepito i suggerimenti sponsorizzati come più “amichevoli” e “utili”.
Mancanza di consapevolezza: la metà dei partecipanti che hanno ricevuto annunci divulgati non ha nemmeno notato il linguaggio pubblicitario, dimostrando quanto queste integrazioni possano essere fluide e sottili.

Ciò crea una pericolosa scappatoia psicologica. Poiché gli utenti spesso trattano i chatbot come fornitori di informazioni neutrali, compagni o addirittura “terapisti”, abbassano le loro difese naturali contro il marketing.

Perché la pubblicità basata sull’intelligenza artificiale è più potente dei social media

Per oltre un decennio, gli algoritmi dei social media hanno utilizzato i nostri dati per prenderci di mira. Tuttavia, i chatbot basati sull’intelligenza artificiale rappresentano un aumento significativo del potere della persuasione digitale per due ragioni principali:

1. Profilazione approfondita tramite “interrogazione autonoma”

I motori di ricerca tradizionali guardano ciò che scrivi; i chatbot guardano chi sei. Un singolo suggerimento, come chiedere una ricetta o aiuto con un saggio, può rivelare l’occupazione, l’età o lo stile di vita di un utente. Poiché i chatbot possono “ragionare”, possono agire come interrogatori autonomi, sondando sottilmente un utente con domande di follow-up per costruire un profilo incredibilmente ricco e intimo delle sue vulnerabilità e preferenze.

2. Persuasione diretta

Mentre un annuncio di Facebook si trova sul lato dello schermo, il suggerimento di un chatbot fa parte della conversazione. Non ti mostra solo un prodotto; lo raccomanda come parte di un flusso logico di pensiero. Ciò consente all’intelligenza artificiale di prendere di mira non solo i tuoi interessi, ma anche le emozioni e le convinzioni espresse.

Il cambiamento del settore

I colossi della tecnologia si stanno già muovendo in questa direzione.
Microsoft ha integrato gli annunci in Copilot (precedentemente Bing Chat).
Google e OpenAI stanno sperimentando vari modelli di annunci.
Meta sta già utilizzando interazioni IA generative per pubblicare annunci personalizzati su Facebook e Instagram.

Sebbene aziende come OpenAI abbiano dichiarato che non consentiranno alla pubblicità di alterare la funzionalità principale delle loro risposte, il confine tra un “suggerimento utile” e un “posizionamento a pagamento” è incredibilmente sottile.

Come proteggersi

Poiché il cervello umano non è predisposto per cogliere questi sottili cambiamenti di tono, gli utenti devono rimanere vigili. Per evitare di essere manipolati, tieni a mente questi tre segnali d’allarme:

  • Controlla le informazioni divulgative: cerca sempre le etichette obbligatorie come “annuncio”, “pubblicità” o “sponsorizzato”. Secondo le normative FTC, queste devono essere presenti, anche se sono piccole o sbiadite.
  • Valuta la familiarità del marchio: se un chatbot consiglia improvvisamente un marchio di nicchia, sconosciuto o un prodotto nuovo di zecca che non si adatta al contesto generale del web, trattalo con scetticismo.
  • Attenzione ai cambiamenti di tono: fai attenzione ai cambiamenti improvvisi nella “personalità” del bot. Se una conversazione utile e neutrale si sposta improvvisamente verso un prodotto o servizio specifico, potresti essere testimone di una transizione sponsorizzata.

Il risultato finale: Man mano che l’intelligenza artificiale si trasforma da strumento che utilizziamo a compagno di cui ci fidiamo, il rischio si sposta dal semplice fastidio alla manipolazione psicologica. Riconoscere che questi bot sono entità orientate al profitto è il primo passo per mantenere la tua autonomia digitale.