Introduzione
Google AI Overviews, la funzione che sintetizza risposte nelle ricerche, ora cita il 10% di contenuti generati da intelligenza artificiale. Questo dato, emerso da uno studio recente, solleva dubbi sulla qualità e affidabilità delle informazioni online.
Contesto
La crescita dei contenuti AI sul web ha portato a una situazione in cui le stesse AI iniziano a citare materiale prodotto da altre AI. Il fenomeno, noto come "feedback loop", rischia di compromettere la qualità delle risposte e la trasparenza delle fonti.
Definizione rapida
Il 10% delle fonti citate da Google AI Overviews è generato da AI, secondo Originality.ai.
Il Problema / Sfida
La principale preoccupazione riguarda il cosiddetto "Model Collapse": quando le AI imparano da dati prodotti da altre AI, possono insorgere difetti irreversibili nei modelli. Questo ciclo rischia di ridurre la qualità delle informazioni e di aumentare la diffusione di errori.
Soluzione / Approccio
Lo studio di Originality.ai ha analizzato 29.000 query YMYL (Your Money or Your Life) su Google, utilizzando il proprio strumento di rilevazione AI. Il risultato: il 10,4% delle fonti citate negli Overviews era probabilmente generato da AI, mentre il 74,4% era scritto da umani e il 15,2% non classificabile.
Risposta diretta
Google contesta la metodologia dello studio, sostenendo che i rilevatori AI non sono affidabili e che le fonti citate cambiano dinamicamente.
"Questo è uno studio imperfetto basato su dati parziali e tecnologia inaffidabile. I rilevatori AI non hanno dimostrato efficacia nel rilevare contenuti generati da AI – molti sono soggetti a errori. Come nella Ricerca, i link inclusi negli AI Overviews sono dinamici e cambiano in base alle informazioni più rilevanti, utili e tempestive per una determinata ricerca."
Portavoce Google
Conclusione
La crescente presenza di contenuti AI nelle fonti citate da Google AI Overviews pone interrogativi sulla qualità futura delle informazioni online. Il rischio di "model collapse" e la difficoltà di distinguere tra fonti umane e artificiali richiedono maggiore attenzione da parte di utenti e sviluppatori.
FAQ
- Quanto è diffuso il contenuto generato da AI nelle AI Overviews di Google?
Circa il 10% delle fonti citate è generato da AI, secondo Originality.ai. - Quali rischi comporta il feedback loop tra modelli di AI?
Il rischio principale è il "model collapse", con possibili difetti irreversibili nei modelli di AI. - Google conferma questi dati sul traffico da LLM?
No, Google contesta la metodologia e l'affidabilità dei rilevatori AI. - Come vengono selezionate le fonti nelle AI Overviews?
Le fonti sono dinamiche e cambiano in base alla rilevanza e tempestività delle informazioni. - La maggior parte delle citazioni AI Overviews è scritta da umani?
Sì, il 74,4% delle fonti analizzate era di origine umana. - Quali sono le implicazioni per la ricerca AI?
L'aumento di contenuti AI può influenzare negativamente la qualità delle informazioni disponibili.