Quando le app battono i filtri: il caso Remini

La prima volta che mi sono imbattuta su TikTok in un video in cui veniva mostrato uno shooting fotografico in bianco e nero realizzato tramite l’intelligenza artificiale ho pensato fosse uno scherzo. Uno scherzo, oppure una di quelle strane sponsorizzazioni dove una voce robotica ti invita ad acquistare qualcosa. Ho cliccato “Non mi interessa” e continuato il mio beato scrolling. Qualche giorno dopo, lo shooting è riapparso: infastidita e incuriosita dall’algoritmo non funzionante e dalla riproposizione, ho guardato le foto generate. Diventato rapidamente un trend sulla piattaforma, il pacchetto confezionato di ritratti professionali non sembra nulla di speciale, a prima vista: le foto prodotte assomigliano ad una versione sessualizzata di quelle che troviamo su LinkedIn, tra tailleur e camicie bianche inamidate.

Da Immuni alla tendenza baby fever

Le foto realizzate tramite l’intelligenza artificiale generativa sono prodotte da un app, Remini. Remini è di proprietà di Bending Spoons, una società italiana sviluppatrice di software per dispositivi mobili, meglio conosciuta al pubblico per aver realizzato Immuni, l’app dedicata al tracciamento dei contatti per contenere la pandemia da COVID-19. L’app è stata lanciata inizialmente nel 2019 e, da come viene descritta nel sito web della software house, aiuta milioni di utenti a migliorare foto sfocate, a creare ritratti professionali e persino (!) a scoprire come potrebbero apparire i loro futuri figli, scatenando, secondo il Wall Street Journal, una vera e propria “baby fever”.

La versatilità dell'AI di Remini

Remini non produce solamente ritratti fotografici degni di LinkedIn: c’è una vasta scelta di stili e futuri possibili che si possono sperimentare, come il “vedere te e la tua dolce metà sotto una nuova luce” (un pacchetto di foto con un pancione in bella vista), immaginare come potrebbe essere avere un nuovo taglio di capelli o una figlia, abbracciare il tuo “io più giovane” (un gesto che non augurerei nemmeno al mio peggior nemico). Gli utenti sono, comprensibilmente, attirati dalla miriade di possibilità che Remini offre, e spesso su TikTok questa tecnologia non viene usata solo per produrre fittizi bambini, ma riprodotta sui minori stessi, spesso estasiati da ciò che a loro può apparire come una grande magia.

La problematicità delle tecnologie basate sull’Intelligenza Artificiale

Negli ultimi mesi sono state molte le aziende che hanno deciso di rimuovere i filtri facciali dalle features delle loro piattaforme. Dal mese scorso è stata chiusa l’applicazione che permetteva di generare filtri facciali in realtà aumentata, Meta Spark AR, e Instagram e Facebook, di proprietà di Meta, hanno conseguentemente eliminato i filtri creati dagli utenti e dalle aziende. Parallelamente anche TikTok, di proprietà di ByteDance, ha annunciato nel mese di novembre 2024 delle restrizioni sui filtri facciali per proteggere la salute mentale dei giovani. Quando penso ai filtri facciali e alle applicazioni che utilizzano l’AI, penso sempre alle immagini stock: a prima vista, potrebbe sembrare un paragone un po’ azzardato.

In maniera simile alle immagini stock, però, il potere detenuto da tale strumenti risiede nella standardizzazione del contenuto, nella loro immediata e facile disponibilità e nella (ri)produzione su larga scala. A riguardo, l’app Remini è stata, nel 2024, per ben una settimana l’applicazione più scaricata negli Stati Uniti D’America, sorpassando persino ChatGPT. L’immaginario legato ai filtri facciali, prima, e ai ritratti fotografici su Remini, poi, non reca con sé una diversificazione: tutto appare modellato su tratti distinti, ben definiti e normati dai canoni. Forse ha senso mettere in luce queste tecnologie per i motivi opposti: non esaltarsi e celebrarle per la loro capacità di produrre dei nostri fantomatici figli, ma chiederci come sia possibile che tali figli sembrino tutti uguali, come usciti da un catalogo di eugenetica.