AI per
rilevare menzogne cambia un modo di agire sociale
LORENZO L. BORGIA
NOTE E NOTIZIE - Anno XXI – 06 luglio 2024.
Testi
pubblicati sul sito www.brainmindlife.org della Società Nazionale di
Neuroscienze “Brain, Mind & Life - Italia” (BM&L-Italia). Oltre a notizie
o commenti relativi a fatti ed eventi rilevanti per la Società, la sezione
“note e notizie” presenta settimanalmente lavori neuroscientifici selezionati
fra quelli pubblicati o in corso di pubblicazione sulle maggiori riviste e il cui
argomento è oggetto di studio dei soci componenti lo staff dei recensori della Commissione
Scientifica della Società.
[Tipologia del testo: RECENSIONE]
L’intelligenza artificiale (AI, da artificial intelligence) oggi consente di
disporre di algoritmi capaci di rilevare menzogne in testi scritti con un’accuratezza
superiore a quella umana. Questa possibilità ha suggerito ad Alicia von Schenk
e colleghi coordinati da Nils Kobis la realizzazione
di un esperimento in grande scala per affrontare un problema, così come loro lo
ravvisano, nella realtà sociale.
In breve, i ricercatori notano che le accuse di
mentire sono poche e rare nella realtà, anche se le menzogne sono all’ordine
del giorno, e questo perché – a loro avviso – la gente è consapevole dei costi
sociali delle false accuse, e dunque diventa esitante nel denunciare le
falsità. In altre parole, le denunce sarebbero poche perché le persone non sono
certe di aver rilevato una menzogna e, dunque, per paura di essersi sbagliate e
rischiare sanzioni o ritorsioni, non denunciano. Se questo è vero, potendo
disporre di un sistema di AI che garantisce certezza, le accuse dovrebbero
aumentare esponenzialmente.
Alicia von Schenk e colleghi hanno realizzato a
questo scopo un SMLC (supervised
machine-learning classifier), che supera l’abilità
umana media nel rilevare le menzogne in un testo scritto, e hanno condotto un
esperimento incentivato su vasta scala, manipolando la disponibilità di questo
algoritmo rilevatore di bugie. Il risultato, osservano gli autori, cambia la
dinamica sociale consueta.
(von
Schenk A. et al., Lie detection algorithms disrupt the social dynamics
of accusation behavior. iScience – Epub ahead of print doi: 10.1016/j.isci.2024.110201, 2024).
La provenienza degli autori
è la seguente: Center for Humans and Machines, Max
Planck Institute for Human Development, Berlin (Germania);
Julius-Maximilians-Universität Wurzburg, Department of Economics, Würzburg (Germania);
Institute for Advanced Study in Toulouse, Toulouse (Francia); Toulouse School
of Economics, Toulouse (Francia); Research Center Trustworthy Data Science and
Security, University of Duisburg-Essen, Duisburg (Germania).
Ecco cosa
accadeva: in mancanza del supporto algoritmico, le persone partecipanti all’esperimento
erano riluttanti nell’accusare altri di aver mentito, ma quando l’algoritmo era
disponibile, una minoranza cercava attivamente le sue previsioni e
coerentemente si affidava al verdetto del sistema SMLC per muovere le proprie
accuse.
In effetti,
solo il 31% dei partecipanti chiedeva la consulenza del sistema di AI, ma in
questa frazione di meno di un terzo del totale la maggioranza seguiva l’indicazione
implicita nella risposta del sistema. Un ultimo aspetto completa il quadro dei
risultati: sebbene quelli che chiedevano il supporto dell’analisi del sistema
SMLC non erano necessariamente più inclini ad accusare, si verificava che più
volentieri seguissero le indicazioni che suggerivano la denuncia, rispetto a
quelli che ricevevano l’informazione delle menzogne rilevate dal sistema SMLC
senza averla attivamente richiesta.
Come si è
già accennato, gli autori riconducono l’ordinaria “dinamica sociale” delle
mancate denunce al timore di incorrere nei rigori della legge per false accuse,
ma noi crediamo che sia opportuno tener conto di altri aspetti che qui di
seguito si discutono in sintesi.
I criteri
impiegati in questi studi implicano una schematizzazione rispetto alle
circostanze reali della vita vissuta, semplificazione utile ed efficace quando
si voglia isolare una relazione tecnica fra persone, come può essere una
comunicazione, ad esempio, con un fine commerciale indiretto, quale è la
maggior parte dell’informazione mediatica[1], ma che risulta fuorviante se si vogliano comprendere
le ragioni dei comportamenti sociali nei confronti della menzogna.
Innanzitutto,
si deve tener conto che nella vita reale non tutti gli enunciati non
corrispondenti al vero sono ritenuti menzogne: sia pure in modo spontaneo, l’atteggiamento
mentale della maggior parte delle persone riflette alcuni aspetti della
complessità del reale. Ad esempio, la maggior parte delle persone nella maggior
parte dei casi, considera con certezza menzogna un’affermazione falsa a scopo
di frode, mentre è generalmente tendente a considerare erroneo, impreciso o
improprio un enunciato falso che, almeno apparentemente, non è stato formulato
allo scopo di ingannare qualcuno per trarne un vantaggio.
Nessuno
chiamerebbe bugiardi dei genitori che, entusiasti per un lavoretto scolastico d’arte
di una figlia, dicano: “Sei una grande artista!”; allo stesso modo nessuno
considererebbe mentitore un innamorato che dica alla sua ragazza che è la donna
più bella del mondo. E così per tutte le affermazioni dettate da entusiasmo o,
all’opposto, da delusione: si pensi ai tifosi di calcio, delusi da una
prestazione al di sotto delle attese dei propri beniamini, quante cose negative
non vere sono in grado di dire!
Esistono
molte forme di comunicazione sociale in cui sono convenzionalmente o tradizionalmente
tollerati dei contenuti non veri: i curriculum vitae di giovani al primo
impiego, la comunicazione di parte politica, ideologica o sportiva, la propaganda
di prodotti commerciali, la conversazione da salotto per fini di
adulazione, galanteria, compiacimento, cortesia, o intesa al supporto, al sostegno,
all’incoraggiamento di persone ammalate, anziane, scoraggiate e sofferenti per
varie ragioni.
La radice
culturale del valore semantico del termine menzogna è etica; e in questo senso
la intende la psicologia individuale del soggetto medio nella maggior parte
delle prestazioni spontanee: di fatto considera menzogna un’affermazione
sbagliata negativa. Se uno vede un tizio recarsi presso un ente benefico e,
non sapendo che è impiegato presso quell’ente, dice che è un benefattore,
nessuno lo accuserà di aver mentito; ma, se vede un altro tizio che parla con
un noto esponente di un’organizzazione criminale e, non sapendo che è un
poliziotto in borghese, dice che è un trafficante di droga, potrà essere
accusato di calunnia, ossia la peggiore delle menzogne, costituita dalla
falsa accusa di aver commesso un reato. La verità è che in entrambi i casi si è
trattato di un errore, di un’affermazione erronea.
La radice
etica del valore semantico dei termini connessi col mentire si può riconoscere
nella filosofia greca e, soprattutto, nel pensiero giudaico-cristiano che
attinge al comandamento “Non dire falsa testimonianza”. In entrambe le
tradizioni si distingue l’errare involontariamente (l’erroneo) dal
mentire (il falso); in particolare, nella tradizione ebraico-cristiana
conta l’intenzione: senza l’intenzione al male non c’è menzogna e non c’è peccato.
È importante
riflettere su un aspetto rilevante della concezione cristiana che ha
influenzato la cultura nel corso dei secoli, fino alla scristianizzazione dell’epoca
post-moderna. La Verità è identificata nel Cristo stesso, definito Via, Verità
e Vita, ma questo valore è riferito alla sostanza intenzionale della persona e
non si riferisce alla forma del comportamento o all’apparenza corretta tipicamente
farisaica. Il comportamento di Gesù, che non pecca mai, chiarisce che cosa è
menzogna, e dunque peccato, e cosa non lo è. Gesù dice che non andrà a
Gerusalemme, ma poi vi si reca, in incognito. Non ha mentito: semplicemente non
ha fatto sapere ai suoi aguzzini dove sarebbe stato, per non farsi prendere e
uccidere prima dell’ora stabilita; invece, giunto in incognito, può andare a
insegnare nel Tempio. Contano il fine e l’intenzione.
Nelle
società multiculturali contemporanee, particolarmente in quella degli USA, si è
abbandonato il riferimento a questa cultura del senso ragionato sui contenuti
etici, e si è andato affermando un appiattimento sulla forma: ogni detto che
non corrisponde al vero è sempre menzogna, per tutti e per ogni credo religioso
o concezione filosofica.
La perdita
di questo riferimento implicito alla cultura cristiana attraverso le forme di
ragione elementare del giudizio spontaneo espresse nel common sense americano, corrispondente al nostro “buon senso”,
ha portato a una progressiva perdita del giudizio di sostanza basato sui
contenuti, primo fra tutti quello relativo alle intenzioni, e poi tanti altri,
fino alla calibratura del senso in rapporto alle circostanze in cui è
pronunciata un’affermazione. Progressivamente, e quasi inesorabilmente, nel
tempo questo ha portato all’atteggiamento formalistico che gli studi
sociologici hanno rilevato nella società nordamericana degli ultimi decenni.
Non abbiamo analisi paragonabili per la realtà europea nel suo complesso;
tuttavia, sembra evidente dalla comunicazione mediatica che anche nel vecchio
continente si sia affermata la tendenza schematica a far prevalere la forma
sulla sostanza, senza considerazione per il valore di falsità dipendente dai
contenuti.
La perdita
di valori culturali antropologicamente radicati a fondamento del giudizio,
rende le persone molto meno sicure di sé, in quanto non possono attingere a certezze
interiormente radicate nel valore di buon senso; allora diventa per molti
importante avere il supporto di uno strumento tecnico che rende “oggettivo” il
giudizio in relazione a una circostanza.
Queste ragioni
più profonde, non considerate dagli autori dello studio qui recensito,
riteniamo possano aver contribuito a determinare i risultati emersi.
L’autore della nota ringrazia la dottoressa Isabella Floriani per la correzione della bozza e
invita alla lettura delle recensioni di argomento connesso che appaiono nella sezione “NOTE E NOTIZIE” del
sito (utilizzare il motore interno nella pagina “CERCA”).
Lorenzo L.
Borgia
BM&L-06 luglio 2024
________________________________________________________________________________
La Società Nazionale di Neuroscienze
BM&L-Italia, affiliata alla International Society of Neuroscience, è registrata
presso l’Agenzia delle Entrate di Firenze, Ufficio Firenze 1, in data 16 gennaio
2003 con codice fiscale 94098840484, come organizzazione scientifica e culturale
non-profit.
[1] In quanto remunerata da sponsor di fascia oraria, legati all’uso
del canale, e così via; nei servizi informativi a pagamento lo scopo di lucro è
diretto. Si fa questo esempio, perché alcuni degli autori di questo studio in
precedenza si sono occupati di comunicazioni commerciali.