Con un paio di baffi hippie puoi ingannare i test dell'IA sull'età
In alcune stazioni di servizio svizzere, un'intelligenza artificiale controlla l'età dei clienti, offline e senza memorizzare dati. Quanto è efficace questa nuova tecnologia?
Alla cassa si è già formata una piccola coda; il cassiere sta scrutando i clienti davanti a lui e, naturalmente, è l'unico senza barba a cui viene chiesto: «Un documento d'identità, per favore».
MyCheckr è progettato proprio per affrontare questo tipo di situazioni: in diverse sedi, tra cui le stazioni di servizio TopShop, i dispositivi MyCheckr dotati di intelligenza artificiale hanno iniziato ad assistere il personale di vendita nella verifica dell'età.
Secondo il produttore, il dispositivo è estremamente preciso e supera i test di valutazione dell'età umana, vantando un «tasso di successo comprovato nell'identificazione di individui di età inferiore ai 18 anni», come afferma l'azienda britannica Innovative Technology.
Ecco come funziona - Il dispositivo MyCheckr analizza il volto del cliente in pochi secondi e mostra una stima dell'età al personale di vendita. Il sistema utilizza l'intelligenza artificiale per valutare caratteristiche come la texture della pelle, i contorni e le proporzioni.
Una telecamera scansiona il volto e visualizza il risultato tramite un segnale luminoso: verde significa che la persona ha superato il limite di età specificato. Rosso significa che l'età è troppo bassa o incerta. In questo caso, il personale di vendita dovrebbe chiedere un documento d'identità.
È possibile superare in astuzia l'intelligenza artificiale? Il produttore sottolinea che il sistema funge solo da supporto al personale di vendita e non sostituisce i controlli dell'identità. Il software fornisce solo affermazioni probabilistiche, non verifiche dell'età legalmente vincolanti.
MyCheckr, tuttavia, dispone di diversi meccanismi di protezione, tra cui un cosiddetto sistema di rilevamento di foto, video o maschere. Chi tenta di fregare il sistema farà scattare un allarme. Il programma è volutamente impostato su una configurazione conservativa: in caso di incertezza, preferisce visualizzare un indicatore rosso lasciando al personale umano la verifica dell'identità.
20 Minuten ha voluto testare personalmente l'affidabilità di questo sistema, tentando di ingannare l'IA. Lo ha fatto con un 19enne dal viso sbarbato.
A viso scoperto: nonostante il giovane fosse maggiorenne, il sistema ha mostrato la luce rossa due volte. In questo caso, il personale di vendita sarebbe dovuto intervenire per la verifica dell'età.
Indossando una mascherina: il sistema di rilevamento degli attacchi ha reagito correttamente. A causa della mascherina, il sistema ha attivato due volte un allarme rosso, rendendo quindi necessario un controllo manuale dell'identità.
Con una semplice barba finta: nonostante l'evidente travestimento, il sistema si è illuminato di verde due volte. Con la barba finta, l'IA ha classificato il ragazzo come maggiorenne. In questo caso, insomma, sembra che l'IA sia stata ingannata da semplici stereotipi.
«Solo un promemoria» - Un dipendente ha spiegato che il dispositivo è principalmente un promemoria. «La luce ti ricorda di effettuare, se necessario, la verifica dell'identità».
Motivo: la polizia invia ripetutamente i minorenni nei negozi per fare acquisti di prova. «Se vengono venduti loro alcolici, rischiamo multe di circa 200 franchi oltre a procedimenti penali», spiega l'impiegato.
Su alcuni temi riceviamo purtroppo con frequenza messaggi contenenti insulti e incitamento all'odio e, nonostante i nostri sforzi, non riusciamo a garantire un dialogo costruttivo. Per le stesse ragioni, disattiviamo i commenti anche negli articoli dedicati a decessi, crimini, processi e incidenti.
Il confronto con i nostri lettori rimane per noi fondamentale: è una parte centrale della nostra piattaforma. Per questo ci impegniamo a mantenere aperta la discussione ogni volta che è possibile.
Dipende anche da voi: con interventi rispettosi, costruttivi e cortesi, potete contribuire a mantenere un dialogo aperto, civile e utile per tutti. Non vediamo l'ora di ritrovarvi nella prossima sezione commenti!