Insieme alle impressionanti dimostrazioni e ai suoni di allarme che sono arrivati con l’alba dei chatbot di testo generativo, stiamo anche vedendo alcuni dei risultati più discutibili e forse meno desiderabili che iniziano a materializzarsi.
Autori e diverse testate giornalistiche hanno recentemente riportato un aumento significativo dei libri generati dall’intelligenza artificiale che compaiono in più elenchi di best seller, molti dei quali sembrano apparentemente senza senso.
L’autopubblicazione, ad esempio tramite il programma Kindle Direct di Amazon, è diventato un modo per molti autori autentici di portare il proprio lavoro al pubblico e creare un seguito senza l’aiuto di un grande editore. Poiché queste funzionalità di autopubblicazione sono volutamente facili da sottoscrivere, sembra che chiunque possa generare infiniti libri scritti dall’intelligenza artificiale e caricarli per essere venduti sul negozio di eBook di Amazon e renderli disponibili per la lettura tramite Kindle Unlimited.
Di recente, un’autrice indipendente, Caitlyn Lynch, ha twittato di aver notato che solo 19 dei best seller nella classifica dei 100 migliori eBook di Teen & Young Adult Contemporary Romance su Amazon erano libri veri e legittimi. Il resto era privo di senso e incoerente e apparentemente generato dall’intelligenza artificiale.
I robot di intelligenza artificiale hanno rotto Amazon. Dai un’occhiata alla classifica dei 100 migliori eBook di romanzi d’amore contemporanei per adolescenti e giovani adulti. Posso vedere 19 libri legittimi. il resto sono sciocchezze sull’intelligenza artificiale chiaramente lì per fare clic su farm. @AmazonKDP cosa stai facendo al riguardo? pic.twitter.com/cziuKcQrq326 giugno 2023
Il sito web Motherload ha successivamente esaminato dozzine di libri sulla piattaforma e ha visto che pochi giorni dopo i tweet di Lynch, i libri AI erano scomparsi dalle liste dei best seller, probabilmente rimossi da Amazon.
Tuttavia, erano ancora disponibili per l’acquisto e avevano goduto di una notevole quantità di visibilità prima di scomparire. Inoltre, come specula molto comprensibilmente Lynch, il caricamento di massa di libri generati dall’intelligenza artificiale potrebbe essere utilizzato per facilitare il click-farming, in cui i “bot” fanno clic su un libro automaticamente, generando royalties da Amazon Kindle Unlimited, che paga gli autori in base alla quantità di pagine che si leggono in un ebook. Quindi, non importa che questi libri scompaiano. Le persone che gestiscono un tale schema potrebbero semplicemente caricarne quante ne vogliono per sostituire quelle rimosse.
Emerge rapidamente una grande preoccupazione sia per gli autori che per i lettori: la maggior parte di noi lettori è alla ricerca di libri che, almeno per ora, sono scritti da autori umani, e questo rende più difficile trovare quel tipo di libri. lince, elaborando le sue opinioni in un thread di Twitterha sottolineato che questo “sarà … la campana a morto per Kindle Unlimited” se Amazon non può contenerlo.
Cosa sta facendo Amazon al riguardo?
Motherboard ha contattato Amazon e ha ricevuto una risposta in cui affermava di avere “linee guida chiare” per le quali i libri possono essere messi in vendita e che indagherebbe quando vengono sollevate preoccupazioni al fine di proteggere sia i lettori che gli autori. Non ha dichiarato esplicitamente che stava facendo uno sforzo specifico per affrontare l’apparente caricamento persistente simile allo spam di libri generati dall’intelligenza artificiale privi di senso e incoerenti.
“Investiamo molto per fornire un’esperienza di acquisto affidabile e per proteggere i clienti e gli autori dagli abusi”
portavoce di Amazon
Vale la pena che Amazon adotti un approccio attivo per correggere questo problema al fine di rassicurare i lettori che vale la pena continuare a supportare gli autori tramite le vendite di ebook e le visualizzazioni di pagina (che si traducono in royalties per gli autori su Kindle Unlimited) e rassicurare gli autori che vale la pena mettere il loro lavoro in vendita su Amazon.
Abbiamo anche contattato Amazon per scoprire cosa sta facendo al riguardo e un portavoce ci ha detto che “Abbiamo chiare linee guida sui contenuti che regolano quali libri possono essere messi in vendita e indagano prontamente su qualsiasi libro quando viene sollevata una preoccupazione. Investiamo molto fornire un’esperienza di acquisto affidabile e proteggere i clienti e gli autori dagli abusi”.
I libri generati e assistiti dall’intelligenza artificiale non sono del tutto nuovi e sono seguiti abbastanza rapidamente dopo il debutto di strumenti di intelligenza artificiale generatori di testo e immagini come ChatGPT e Midjourney. Questi libri erano già controversi, poiché molti artisti e autori ritenevano che tali libri generati denigrassero il lavoro necessario per mettere insieme, scrivere e pubblicare un libro.
Inoltre, i generatori di intelligenza artificiale funzionano estraendo enormi quantità di contenuti visivi e di testo da Internet, alcuni dei quali i creatori di questi contenuti non hanno mai acconsentito.
L’inondazione di massa di elenchi di best seller con libri privi di senso non farà che intensificare queste preoccupazioni di controllo della qualità e autenticità. Non è chiaro il motivo per cui c’è un tale boom di libri generati dall’intelligenza artificiale che compaiono nelle liste dei best seller, ma molti ipotizzano che sia dovuto al bot-farming, dove grandi quantità di libri vengono generate e pubblicate automaticamente. A mio parere, se questo è il caso, spetta sicuramente ad Amazon affrontare questo problema, in quanto autori e lettori non hanno le capacità tecniche per contrastare tali operazioni.
Non solo plagio
Chris Cowell, uno sviluppatore di software, ha parlato con il Washington Post di un caso del genere in cui un’intelligenza artificiale aveva plagiato il suo lavoro, che è stato venduto su Amazon. L’intelligenza artificiale sta ancora prendendo lavoro da autori umani, il che solleva preoccupazioni di plagio e violazione del copyright, ma c’è anche la questione dei generatori di testo di intelligenza artificiale che sputano informazioni errate.
Ciò può quindi portare a un libro scritto dall’IA utilizzando il testo di un altro libro scritto dall’IA, senza alcun controllo dei fatti e (specialmente nel caso di libri di saggistica), viene creato un ciclo di feedback preoccupante che diffonde disinformazione e lo rende difficile stabilire l’origine delle affermazioni.
Per ora, forse Amazon ottimizzerà il suo processo di rimozione dei contenuti privi di senso generati dall’IA così come appaiono, ma sono necessari maggiori sforzi. A partire da maggio 2023, Kindle Publishing di Amazon non richiedeva ai venditori di rivelare se il libro fosse stato scritto (o illustrato) con l’aiuto di generatori di intelligenza artificiale come ChatGPT o Midjourney.
C’è anche un grosso problema che continua ad affliggere Amazon e altri mercati online per una moltitudine di prodotti, e i libri non fanno eccezione: recensioni false. I generatori di intelligenza artificiale del testo peggiorano la situazione rendendo più facile riempire una sezione di recensioni sia nel contenuto che nella quantità. Con il Prime Day in arrivo, assicurati di consultare la nostra guida su come individuare recensioni false su Amazon.
Sfortunatamente, insieme a tutte le novità positive che sono possibili con i generatori di intelligenza artificiale, inevitabilmente possono anche essere utilizzati in modo improprio. Si spera che Amazon riconosca le crescenti preoccupazioni provenienti sia dagli autori che dai lettori e compia sforzi che contribuiscano a creare un precedente per proteggere le opere create dall’uomo e il loro pubblico.
