La società utilizza “segnali non verbali” contenuti dei video dei clienti che chiedono i risarcimenti
La quotazione dell’unicorno assicurativo Usa è scesa sotto i $ 100 rispetto ai $171 dell’inizio dicembre
Lombroso torna di moda in versione digitale? L’unicorno assicurativo basato sull’intelligenza artificiale Lemonade è sotto accusa negli Stati Uniti per utilizzare software di intelligenza artificiale che scrutinano i clienti in base agli attributi fisici e al linguaggio del corpo.
La compagnia, protagonista lo scorso anno di un eccezionale debutto in borsa già sta soffrendo per una quotazione scesa sotto i $100, rispetto ai $171 di inizio dicembre. Ed ora è finita nella graticola dei social network per aver affermato in alcuni Tweet che la sua intelligenza artificiale può “raccogliere segnali non verbali” durante l’analisi dei video inviati dai clienti nelle loro richieste di risarcimento.
Gli utenti dei social media si sono immediatamente chiesti se gli assicurati autistici o le persone provenienti da minoranze avrebbero potuto essere discriminati in quei software.
Il vicepresidente della comunicazione di Lemonade Yael Wissner-Levy ha dichiarato a Forbes che la società ha cancellato i tweet perché i messaggi erano “molto fraintesi e si stavano diffondendo informazioni errate”.
“Abbiamo eliminato questo orribile thread che ha causato più confusione che altro”, ha detto la società in un post sul blog, aggiungendo che usare la frase “segnali non verbali” è stata una scelta sbagliata di parole.
Lemonade ha negato di utilizzare tecnologie che si basano su pseudoscienze confutate come la frenologia e la fisionomia (teorie che pretendono un collegamento tra aspetto fisico e intelligenza o carattere), appunto di lombrosiana memoria, né valuta le richieste di risarcimento in base al sesso, all’aspetto e alla pelle del cliente, disabilità o qualsiasi caratteristica fisica.
Le tecnologie di riconoscimento facciale sono invece utilizzare come strumenti antifrode quando, ad esempio una stessa persona utilizza travestimenti per presentare più richieste di risarcimento assicurativo.
Lemonade chiede in particolare ai clienti che presentano richieste di risarcimento di includere un video in cui spiegano la loro richiesta. “La ricerca sull’economia comportamentale ha dimostrato che noi esseri umani siamo meno inclini a mentire quando ci guardiamo mentre parliamo in uno specchio [o] una fotocamera per selfie”, ha detto la società in un post sul blog. Ciò che però, a giudizio dei social network, assomiglia un po’ troppo ad una moderna macchina della verità.
