C’è chi vede il bicchiere mezzo pieno, chi mezzo vuoto e chi, grazie all’intelligenza artificiale, riesce a vedere una pistola in un pacchetto di Doritos. È successo a Baltimora, fuori dalla Kenwood High School, dove un algoritmo troppo zelante ha deciso che il giovane Taki Allen, uno studente intento a sgranocchiare patatine dopo la scuola, fosse un pericoloso terrorista armato di… snack al formaggio.
Doritos vs Glock: cronaca semiseria di un algoritmo in stato confusionale
E così, in un attimo, la spensierata pausa merenda si è trasformata in un remake di CSI - Unit for Snacks: poliziotti, sirene, urla, pistole puntate. Tutto per un sacchetto di Doritos scambiato per pistola, che così da deleterio alimento ultra processato è improvvisamente diventato arma impropria di distruzione di massa.
Il ragazzo, ancora sotto shock, ha raccontato alla tv locale: «Mi hanno urlato di inginocchiarmi. Io tenevo solo un pacchetto di patatine». E certo, a occhio nudo pare un’informazione irrilevante, ma non per il software dell’azienda Omnilert, programmato per individuare potenziali minacce. Peccato che in questo caso la minaccia fosse al colesterolo, non alla sicurezza pubblica. Il sistema, adottato da circa un anno nelle scuole della contea di Baltimora, analizza i video in tempo reale per “intercettare” armi. Se nota qualcosa di sospetto, invia l’allerta automatica.
E qui la parte più sublime della vicenda: il protocollo umano, quello che dovrebbe correggere gli errori della macchina, aveva già annullato l’allarme. Ma la preside, probabilmente più terrorizzata da una patatina troppo paprikosa, non si è accorta di nulla e ha chiamato la polizia.
Voilà, il capolavoro è servito, al posto del pranzo: l’intelligenza artificiale sbaglia, quella umana ci mette il carico da undici. Interrogata dai giornalisti, l’azienda ha dichiarato con una tranquillità disarmante che “il sistema ha funzionato come previsto”. E in effetti sì, se lo scopo era testare quanto velocemente un adolescente innocente possa ritrovarsi ammanettato per eccesso di carboidrati. La scuola, in compenso, si è scusata. Con toni accorati, ha parlato di “incidente sconvolgente” e promesso che “nessuno studente dovrà mai più vivere un’esperienza simile”. Magari il prossimo passo sarà installare un algoritmo capace di distinguere tra un’arma e un pacco di patatine, o almeno tra il crunch di un Doritos e lo sparo di una Glock.
Il nonno del ragazzo, Lamont Davis, ha chiesto giustizia: “Qualcosa va fatto, devono esserci cambiamenti”. Giusto. Magari cominciando da una semplice regola empirica: se l’oggetto in mano a un ragazzo è arancione e lascia briciole, probabilmente non è una pistola. La sovrintendente scolastica, Myriam Rogers, ha ammesso “un errore grave”. E ha aggiunto che “l’obiettivo è garantire la sicurezza, non mettere gli studenti in situazioni traumatiche”. Obiettivo nobile, certo, ma forse sarebbe bastato un po’ di buon senso e un’occhiata meno robotica.
Nel frattempo, sui social, l’episodio è diventato virale: l’AI che scambia snack per pistole è il simbolo perfetto della paranoia digitale in salsa americana, dove la tecnologia non sbaglia mai, ma a pagare è sempre qualcuno di in carne e ossa. La morale, se proprio vogliamo azzardarci a trovarne una, è che l’intelligenza artificiale non è né intelligente né artificiale: è solo il nuovo modo di sbagliare con più efficienza. Del resto, viviamo in tempi in cui un software riconosce il viso del tuo cane ma non un sacchetto di patatine.
In cui si addestrano le macchine a riconoscere le emozioni umane, ma non si riesce a istruire un dirigente scolastico per distinguere un alert vero da uno annullato. La domanda vera, però, è un’altra: quanti anni ci vorranno prima che un sistema di AI capisca la differenza tra un adolescente affamato e un delinquente? O che un essere umano ammetta che, forse, la tecnologia non è la panacea di tutti i mali, ma solo un nuovo modo di crearne di imprevisti? Nel frattempo, Taki Allen è tornato a scuola. Nessuna arma, solo un trauma e la certezza che la prossima volta mangerà una mela. Sempre che il software non la scambi per una granata. Doritos 1-Intelligenza artificiale 0.