Google cerca di salvare la sua reputazione rimuovendo le risposte pericolose dell’AI

Google ha rimosso manualmente i risultati di ricerca basati sull’intelligenza artificiale dalle pagine in cui è stata sorpresa a fornire informazioni bizzarre e errate agli utenti che hanno svolto comuni ricerche.

Le risposte inverosimili dell’AI di Google

Durante la conferenza I/O all-in-on-AI di Google, utenti della rete e giornalisti si sono riversati sui social media in massa per condividere screenshot della nuova “Panoramica AI” di Google: in breve, una nuova funzione AI pensata per nella parte superiore delle pagine di ricerca che produce i risultati della ricerca e parafrasando quello che trova, fornendo risposte inquietanti, false e in alcuni casi addirittura cospiratorie alle query di ricerca.

Nel caso in questione, la funzione AI è ha consigliato agli utenti che avrebbero dovuto provare a mettere la colla sulla pizza, una raccomandazione che l’IA ha ricavato da un commento Reddit di 11 anni pubblicato da un utente che si fa chiamare “Fucksmith“.

Il tentativo miope di Google di risanare i problemi con l’AI

L’IA è stata anche sorpresa a dire alla gente che avrebbe dovuto mangiare sassi, e persino a ribattere la falsa cospirazione “Birther” secondo cui l’ex presidente Barack Obama è segretamente musulmano.

Questi errori madornali, tra molti altri, sono scomparsi. In quella che può essere descritta solo come una strategia ispirata a Whac-A-Mole, Google si è rapidamente mossa per rimuovere manualmente la Panoramica AI da queste query specifiche che hanno creato diversi problemi.

In breve, si tratta di una soluzione miope e provvisoria che probabilmente non riesce ad affrontare i difetti molto più persistenti della tecnologia, e Google ha il suo bel da fare per garantire che la reputazione del suo prodotto di punta non subisca ulteriori danni.

Per essere chiari, è positivo che il motore di ricerca più famoso al mondo stia togliendo la panoramica AI dalle pagine in cui è noto che fornisca informazioni errate, ma in ciascuno dei casi sopra menzionati, il servizio è giunto a conclusioni errate producendo false informazioni o ottenendo la risposta da fonti decisamente inaffidabili.

Questi errori parlano di problemi di affidabilità e precisione che affliggono i prodotti di intelligenza artificiale generativa in tutto il settore tecnologico. Le rimozioni manuali non risolvono questo problema fondamentale e, a tal fine, il metodo non è nemmeno esattamente scalabile poiché su Google vengono eseguite miliardi di ricerche ogni giorno.

Conclusioni

Google ha dichiarato che sta “intraprendendo azioni rapide” per rimuovere la panoramica AI “ove appropriato ai sensi delle nostre politiche sui contenuti e utilizzando questi esempi per sviluppare miglioramenti più ampi ai nostri sistemi, alcuni dei quali hanno già iniziato a essere implementati“.

Resta da vedere se sarà effettivamente in grado di affrontare in modo significativo questi problemi fondamentali. Il CEO Sundar Pichai, tuttavia, è ottimista riguardo al futuro della ricerca potenziata dall’intelligenza artificiale.

“Stiamo facendo progressi? Sì, lo stiamo facendo“, ha affermato: “Abbiamo sicuramente fatto progressi quando abbiamo studiato i parametri sulla fattualità anno dopo anno. Stiamo tutti migliorando le cose, ma il problema non è risolto”.