L’architettura del dissenso

Come il design delle piattaforme progetta il conflitto per generare engagement

Apriamo un social. Leggiamo un commento. Ci arrabbiamo. Rispondiamo. Qualcuno ci provoca replicando in maniera piccata alla nostra osservazione. Rispondiamo di nuovo…

E dopo dieci minuti siamo ancora nel bel mezzo della bagarre, magari incazzati più che mai!

Ma siamo sicuri che sia tutto qui?

Le liti sui social non nascono sempre spontaneamente. Le piattaforme sono costruite attraverso migliaia di scelte tecniche: quali contenuti mostrarci, in quale ordine, quali commenti mettere in evidenza, quando inviarci una notifica.

E c’è un dettaglio importante: la rabbia tiene incollati allo schermo.

Per anni abbiamo considerato i social come spazi neutrali, semplici vetrine nelle quali gli utenti pubblicano contenuti mentre gli altri li osservano, leggono e magari commentano.

Spoiler: non funziona più così.

Dietro ogni pulsante, ogni notifica e ogni algoritmo c’è un progetto. E quel progetto non serve soltanto a mostrarci dei contenuti: serve a mantenere la nostra attenzione.

Per questo il conflitto non è necessariamente un effetto collaterale del sistema. Quando fa aumentare il tempo trascorso sulla piattaforma, il conflitto diventa parte del prodotto.

Carta canta.

Alcuni dati emersi dai documenti interni di Facebook, resi pubblici nel 2021, danno la misura del fenomeno.

• Per tre anni l’algoritmo ha dato allo stato “Arrabbiato” un peso cinque volte superiore a un semplice “Mi piace” di fatto premiando i contenuti che facevano infuriare le persone.
• Un esperimento con un account creato da zero in India ha mostrato che, in appena tre settimane, il sistema aveva già iniziato a proporre discorsi d’odio e contenuti violenti.
• L’intelligenza artificiale usata per individuare contenuti divisivi ne ha intercettati meno dell’1 per cento, nonostante le aziende la presentino come la soluzione al problema.
• Oltre 5,8 milioni di account politici, celebrità, personaggi pubblici sono stati esentati dalle normali regole di moderazione grazie a un programma interno noto come Xcheck* (sistema interno di Meta).

Leggendo tra le righe

Il punto non è che qualcuno, dentro queste aziende, voglia deliberatamente diffondere odio, ma è più semplice e più inquietante: il modello di guadagno si basa sul tempo che passiamo a scorrere il feed, e la rabbia tiene le persone incollate molto più a lungo della calma. Un sistema che deve massimizzare l’attenzione, se lasciato libero di ottimizzare, finisce quasi per forza a premiare ciò che ci agita di più.

Il meccanismo che rende tutto questo possibile assomiglia da vicino a una slot machine. Non sappiamo mai in anticipo se il prossimo scorrimento del dito porterà un contenuto interessante, un commento pungente o niente di rilevante ed è proprio questa incertezza a spingerci a controllare ancora, e ancora. Lo scorrimento infinito, poi, elimina quelle piccole pause (il cambio pagina, la fine di un contenuto) che normalmente ci danno il tempo di fermarci a pensare. Tolta la pausa, resta solo il riflesso.

Va detto con onestà che non tutto il malessere online si spiega con il design. Le persone litigano anche di persona, i disaccordi politici e sociali esistevano ben prima degli smartphone, e ridurre ogni conflitto umano a “colpa dell’algoritmo” sarebbe una semplificazione eccessiva. Le piattaforme amplificano dinamiche che, in parte, ci appartengono già. Il problema è quando questa amplificazione diventa un obiettivo di business, non un effetto secondario.

Prendiamo un esempio concreto: la scelta di mostrare per prima cosa i commenti più discussi o controversi sotto un post, invece di quelli più utili o pertinenti. Non è un errore tecnico. È una decisione presa perché quei commenti generano più risposte, più tempo di lettura, più notifiche e quindi più dati su cui costruire pubblicità mirata. Lo stesso vale per contenuti diversissimi tra loro un video di guerra, una battuta, una pubblicità che nel feed appaiono tutti nello stesso formato, uno dopo l’altro, come se avessero lo stesso peso. Questo appiattimento visivo ci impedisce di cambiare “registro mentale” da un contenuto all’altro, e finiamo per reagire a tutto con la stessa superficialità istintiva.

Le conseguenze di questo sistema non restano confinate dentro lo schermo. Documenti interni hanno rivelato che Instagram è consapevole di peggiorare i disturbi legati all’immagine corporea in circa una ragazza adolescente su tre. Il caso indiano citato sopra mostra come lo stesso meccanismo, applicato in un contesto diverso, possa alimentare violenza reale. E quando le aziende reagiscono cambiando nome, sospendendo un progetto controverso come “Instagram Kids” spesso lo fanno più per gestire un danno d’immagine che per una reale correzione di rotta.

In sintesi

Il dissenso online non nasce per caso. È il prodotto naturale di un sistema costruito per trattenere la nostra attenzione il più a lungo possibile, e la rabbia è, semplicemente, il carburante più efficiente per farlo funzionare. Capire questo meccanismo non ci rende immuni, ma ci permette almeno di guardare un feed, una notifica o una discussione accesa con occhi diversi — e magari di scegliere se e come lasciarci coinvolgere.

Chi vuole entrare più nel dettaglio può cercare i cosiddetti “Facebook papers“, la raccolta di documenti interni resi pubblici nel 2021 grazie alla whistleblower Frances Haugen, che raccontano dall’interno come queste dinamiche siano state osservate, misurate e, in molti casi, ignorate.

E tu, quante volte ti sei accorto di essere stato “agganciato” da una discussione online che poi, a mente fredda, non ti interessava davvero? Raccontalo nei commenti: capire insieme questi meccanismi è il primo passo per non caderci più.

Legenda: * Il programma è stato creato per esentare gli account di utenti famosi, politici o profili “VIP” dalle normali e automatiche regole di rimozione dei contenuti di Facebook e Instagram. I loro post segnalati vengono invece indirizzati a un team di revisori umani per evitare blocchi errati di profili rilevanti.