Si parla con frequenza sempre maggiore di Haters (persona che usa la rete, e in particolare i social network, per esprimere odio o per incitare all’odio verso qualcuno o qualcosa), che si accaniscono contro personaggi pubblici e privati per infinite ragioni (fatti di cronaca, pubbliche affermazioni e condivisioni di idee, ecc.).
Questo atteggiamento che identifica un imbarbarimento sociale preoccupa sociologi e psicologi che collocano tali comportamenti antisociali all’interno di un quadro definibile come “psicologia della rabbia e della ostilità”.
Vediamo di specificare le caratteristiche psicologiche e sociologiche degli heaters.
- Anonimato e distanza
L’anonimato online spesso riduce l’inibizione delle persone nel manifestare la rabbia. Le persone si sentono più libere di esprimere sentimenti negativi quando non devono affrontare direttamente le conseguenze delle loro parole. - Frustrazione e invidia
Alcune persone possono reagire con rabbia o ostilità quando sono frustrate o invidiose del successo o delle realizzazioni degli altri. Attaccare o criticare gli altri può far sentire temporaneamente migliore chi è in preda a questi sentimenti. - Mancanza di empatia
Le dinamiche online possono portare a una ridotta empatia, poiché non si vedono le espressioni facciali o si sente il tono della voce. Ciò può rendere più facile scagliare insulti senza riflettere sulle conseguenze. - Cercare attenzione
Alcune persone cercano attenzione attraverso comportamenti provocatori e negativi. Riuscendo a suscitare reazioni e interazioni, possono sentirsi momentaneamente più importanti. - Effetto gregge
Le persone possono sentirsi incoraggiate a esprimere ostilità quando vedono che altri lo fanno, creando un effetto di “gregge” che amplifica il comportamento negativo. - Mancanza di autocontrollo
Alcuni individui potrebbero avere difficoltà a controllare le proprie emozioni e reagire impulsivamente con rabbia. L’accesso immediato alla comunicazione online può amplificare queste reazioni. - Proiezione
Alcune persone potrebbero proiettare le loro insicurezze e problemi sugli altri attraverso critiche e attacchi.
Ma quali strumenti tecnologici oggi sono a disposizione della società per combattere questo processo di aggressività e rabbia on line?
Attraverso l’uso di processi basati sull’intelligenza artificiale applicabili nelle fasi di monitoraggio dei contenuti che vengono pubblicati soprattutto sui social.
L’uso dell’intelligenza artificiale (IA) per moderare i contenuti nei social network è una pratica comune che ha vantaggi molteplici e tante sfide da considerare.
Vantaggi
- Scalabilità
L’IA può analizzare grandi quantità di contenuti in tempi molto più brevi rispetto a un team di moderatori umani. Questo è particolarmente utile dato il volume sempre crescente di contenuti generati dagli utenti. - Riduzione dei costi e tutela della salute
L’automazione attraverso l’IA può ridurre la necessità di un gran numero di moderatori umani, contribuendo a risparmiare sui costi operativi e preservando la salute mentale degli operatori umani chiamati a monitorare i contenuti. - Risposta immediata
L’IA può rispondere istantaneamente alle segnalazioni di contenuti inappropriati o offensivi, consentendo una risposta rapida alla moderazione. - Neutralità
Se correttamente programmata, l’IA può essere neutrale nell’applicare le regole di moderazione, evitando pregiudizi personali o influenze esterne.
Sfide
- Comprensione del contesto
L’IA può avere difficoltà a comprendere il contesto sotteso a un post. Ciò può portare a errori di moderazione, come rimuovere contenuti innocui che sembrano violare le regole. - Sensibilità culturale
L’IA potrebbe non essere in grado di cogliere sfumature culturali o linguistiche che influenzano la percezione di un contenuto. Ciò potrebbe portare a una moderazione inappropriata. - Adattamento a nuove tattiche
Gli utenti che cercano di aggirare l’IA potrebbero sviluppare nuove strategie per condividere contenuti inappropriati senza essere rilevati. - Decisioni etiche
La decisione su cosa sia o meno “contenuto inappropriato” spesso richiede un giudizio etico che può essere difficile da programmare in un algoritmo. - Bias algoritmico
Un bias è un errore sistematico di giudizio o di interpretazione, che può portare a un errore di valutazione o a formulare un giudizio poco oggettivo. È una forma di distorsione cognitiva causata dal pregiudizio e può influenzare ideologie, opinioni e comportamenti. In informatica, il bias algoritmico è un errore dovuto da assunzioni errate nel processo di apprendimento automatico.
Se l’IA viene addestrata su dati che riflettono i pregiudizi della società, può perpetuare tali pregiudizi nel processo di moderazione. - Manutenzione e aggiornamenti
L’IA deve essere costantemente aggiornata e addestrata per affrontare nuove minacce e adattarsi ai cambiamenti nei modelli di contenuti inappropriati.
Soluzioni possibili
- Approccio ibrido
Un approccio che combina l’IA con moderatori umani può contribuire a mitigare molte delle sfide. L’IA può gestire volumi elevati di contenuti, mentre i moderatori umani possono affrontare i casi più complessi o ambigui. - Apprendimento continuo
L’IA deve essere addestrata in modo continuo con dati nuovi e diversi per ridurre i bias e migliorare la sua comprensione del contesto. - Trasparenza
Le piattaforme dovrebbero essere trasparenti nell’illustrare come funziona la moderazione basata sull’IA e come vengono prese le decisioni. - Feedback degli utenti
Consentire agli utenti di segnalare errori di moderazione può aiutare a migliorare l’efficacia dell’IA nel tempo.
L’utilizzo dell’IA per moderare i contenuti nei social network può essere un asset importante, ma è necessario bilanciarlo con l’intervento umano, l’attenzione all’etica e la qualità della moderazione. La combinazione di competenze umane e capacità dell’IA può contribuire a creare un ambiente online più sicuro, inclusivo ed eticamente responsabile.