Tag: artificiale

Insieme alle impressionanti dimostrazioni e ai suoni di allarme che sono arrivati ​​con l’alba dei chatbot di testo generativo, stiamo anche vedendo alcuni dei risultati più discutibili e forse meno desiderabili che iniziano a materializzarsi.

Autori e diverse testate giornalistiche hanno recentemente riportato un aumento significativo dei libri generati dall’intelligenza artificiale che compaiono in più elenchi di best seller, molti dei quali sembrano apparentemente senza senso.

L’autopubblicazione, ad esempio tramite il programma Kindle Direct di Amazon, è diventato un modo per molti autori autentici di portare il proprio lavoro al pubblico e creare un seguito senza l’aiuto di un grande editore. Poiché queste funzionalità di autopubblicazione sono volutamente facili da sottoscrivere, sembra che chiunque possa generare infiniti libri scritti dall’intelligenza artificiale e caricarli per essere venduti sul negozio di eBook di Amazon e renderli disponibili per la lettura tramite Kindle Unlimited.

Di recente, un’autrice indipendente, Caitlyn Lynch, ha twittato di aver notato che solo 19 dei best seller nella classifica dei 100 migliori eBook di Teen & Young Adult Contemporary Romance su Amazon erano libri veri e legittimi. Il resto era privo di senso e incoerente e apparentemente generato dall’intelligenza artificiale.

Il sito web Motherload ha successivamente esaminato dozzine di libri sulla piattaforma e ha visto che pochi giorni dopo i tweet di Lynch, i libri AI erano scomparsi dalle liste dei best seller, probabilmente rimossi da Amazon.

Tuttavia, erano ancora disponibili per l’acquisto e avevano goduto di una notevole quantità di visibilità prima di scomparire. Inoltre, come specula molto comprensibilmente Lynch, il caricamento di massa di libri generati dall’intelligenza artificiale potrebbe essere utilizzato per facilitare il click-farming, in cui i “bot” fanno clic su un libro automaticamente, generando royalties da Amazon Kindle Unlimited, che paga gli autori in base alla quantità di pagine che si leggono in un ebook. Quindi, non importa che questi libri scompaiano. Le persone che gestiscono un tale schema potrebbero semplicemente caricarne quante ne vogliono per sostituire quelle rimosse.

Emerge rapidamente una grande preoccupazione sia per gli autori che per i lettori: la maggior parte di noi lettori è alla ricerca di libri che, almeno per ora, sono scritti da autori umani, e questo rende più difficile trovare quel tipo di libri. lince, elaborando le sue opinioni in un thread di Twitterha sottolineato che questo “sarà … la campana a morto per Kindle Unlimited” se Amazon non può contenerlo.

Cosa sta facendo Amazon al riguardo?

Motherboard ha contattato Amazon e ha ricevuto una risposta in cui affermava di avere “linee guida chiare” per le quali i libri possono essere messi in vendita e che indagherebbe quando vengono sollevate preoccupazioni al fine di proteggere sia i lettori che gli autori. Non ha dichiarato esplicitamente che stava facendo uno sforzo specifico per affrontare l’apparente caricamento persistente simile allo spam di libri generati dall’intelligenza artificiale privi di senso e incoerenti.

Vale la pena che Amazon adotti un approccio attivo per correggere questo problema al fine di rassicurare i lettori che vale la pena continuare a supportare gli autori tramite le vendite di ebook e le visualizzazioni di pagina (che si traducono in royalties per gli autori su Kindle Unlimited) e rassicurare gli autori che vale la pena mettere il loro lavoro in vendita su Amazon.

Abbiamo anche contattato Amazon per scoprire cosa sta facendo al riguardo e un portavoce ci ha detto che “Abbiamo chiare linee guida sui contenuti che regolano quali libri possono essere messi in vendita e indagano prontamente su qualsiasi libro quando viene sollevata una preoccupazione. Investiamo molto fornire un’esperienza di acquisto affidabile e proteggere i clienti e gli autori dagli abusi”.

I libri generati e assistiti dall’intelligenza artificiale non sono del tutto nuovi e sono seguiti abbastanza rapidamente dopo il debutto di strumenti di intelligenza artificiale generatori di testo e immagini come ChatGPT e Midjourney. Questi libri erano già controversi, poiché molti artisti e autori ritenevano che tali libri generati denigrassero il lavoro necessario per mettere insieme, scrivere e pubblicare un libro.

Inoltre, i generatori di intelligenza artificiale funzionano estraendo enormi quantità di contenuti visivi e di testo da Internet, alcuni dei quali i creatori di questi contenuti non hanno mai acconsentito.

L’inondazione di massa di elenchi di best seller con libri privi di senso non farà che intensificare queste preoccupazioni di controllo della qualità e autenticità. Non è chiaro il motivo per cui c’è un tale boom di libri generati dall’intelligenza artificiale che compaiono nelle liste dei best seller, ma molti ipotizzano che sia dovuto al bot-farming, dove grandi quantità di libri vengono generate e pubblicate automaticamente. A mio parere, se questo è il caso, spetta sicuramente ad Amazon affrontare questo problema, in quanto autori e lettori non hanno le capacità tecniche per contrastare tali operazioni.

Non solo plagio

Chris Cowell, uno sviluppatore di software, ha parlato con il Washington Post di un caso del genere in cui un’intelligenza artificiale aveva plagiato il suo lavoro, che è stato venduto su Amazon. L’intelligenza artificiale sta ancora prendendo lavoro da autori umani, il che solleva preoccupazioni di plagio e violazione del copyright, ma c’è anche la questione dei generatori di testo di intelligenza artificiale che sputano informazioni errate.

Ciò può quindi portare a un libro scritto dall’IA utilizzando il testo di un altro libro scritto dall’IA, senza alcun controllo dei fatti e (specialmente nel caso di libri di saggistica), viene creato un ciclo di feedback preoccupante che diffonde disinformazione e lo rende difficile stabilire l’origine delle affermazioni.

Per ora, forse Amazon ottimizzerà il suo processo di rimozione dei contenuti privi di senso generati dall’IA così come appaiono, ma sono necessari maggiori sforzi. A partire da maggio 2023, Kindle Publishing di Amazon non richiedeva ai venditori di rivelare se il libro fosse stato scritto (o illustrato) con l’aiuto di generatori di intelligenza artificiale come ChatGPT o Midjourney.

C’è anche un grosso problema che continua ad affliggere Amazon e altri mercati online per una moltitudine di prodotti, e i libri non fanno eccezione: recensioni false. I generatori di intelligenza artificiale del testo peggiorano la situazione rendendo più facile riempire una sezione di recensioni sia nel contenuto che nella quantità. Con il Prime Day in arrivo, assicurati di consultare la nostra guida su come individuare recensioni false su Amazon.

Sfortunatamente, insieme a tutte le novità positive che sono possibili con i generatori di intelligenza artificiale, inevitabilmente possono anche essere utilizzati in modo improprio. Si spera che Amazon riconosca le crescenti preoccupazioni provenienti sia dagli autori che dai lettori e compia sforzi che contribuiscano a creare un precedente per proteggere le opere create dall’uomo e il loro pubblico.

Il laboratorio DeepMind di Google sta attualmente sviluppando un nuovo sistema di intelligenza artificiale chiamato Gemini con affermazioni che rivaleggia, se non superando, ChatGPTsecondo un rapporto di Wired.

Per superare ChatGPT, gli sviluppatori hanno in programma di integrare un vecchio “programma di intelligenza artificiale chiamato AlphaGo” nel prossimo modello di apprendimento delle lingue (LLM). La particolarità di AlphaGo è che è “basato su una tecnica” nota come apprendimento per rinforzo in cui il software affronta problemi difficili attraverso tentativi ed errori. Mentre fa “tentativi ripetuti”, l’IA prende il feedback che riceve da ogni fallimento per migliorare le sue prestazioni. DeepMind cerca di dotare il futuro LLM di Google della capacità di pianificare o, per lo meno, risolvere problemi complessi.

Se lo combini con la capacità di un’intelligenza artificiale generativa di acquisire informazioni da Internet e quindi riformattarle in un testo dal suono naturale, Gemini ha il potenziale per essere più intelligente di qualsiasi altra intelligenza artificiale al mondo. Almeno, questa è l’idea. Il co-fondatore e CEO di DeepMind, Demis Hassabis, afferma che “se fatto correttamente, (Gemini) sarà la tecnologia più vantaggiosa di sempre per l’umanità”. Parole in grassetto.

L’intelligenza artificiale è in pieno sviluppo al momento – “un processo che richiederà un certo numero di mesi”, secondo Hassabis. Costerà anche a Google un sacco di soldi poiché il prezzo del progetto varia da decine a centinaia di milioni di dollari. Per fare un confronto, ChatGPT è costato oltre $ 100 milioni.

Analisi: Troppo bello per essere vero?

I Gemelli sembrano certamente interessanti, ma in questa fase rimarremo scettici. La nostra preoccupazione principale è con AlphaGo stesso.

Se non lo sai, AlphaGo è diventato famoso per la prima volta nel 2016 quando ha sconfitto un giocatore campione al gioco da tavolo Go, noto per essere incredibilmente complesso e difficile nonostante la sua apparente semplicità. L’intelligenza artificiale è stata in grado di vincere grazie alla tecnica di apprendimento per rinforzo menzionata in precedenza in quanto è stata in grado di “esplorare e ricordare (tutte) le mosse possibili”.

Per quanto interessante sia, in che modo AlphaGo è bravo in un gioco da tavolo anche a risolvere problemi complessi o a generare contenuti? Un insieme di abilità per uno scenario specifico non significa che tutto si tradurrà bene in un altro campo. Inoltre, è una buona idea avere una IA generativa per tentativi ed errori per ottenere una risposta? Allucinazioni AI sono già un problema. AlphaGo può aiutare i Gemelli a migliorare più velocemente; speriamo solo che i dolori della crescita non vengano resi pubblici.

In secondo luogo, la dichiarazione di sviluppo di Hassabis che richiede solo pochi mesi è preoccupante. Quando ChatGPT è salito alla ribalta all’inizio del 2023, Google ha rapidamente lanciato il proprio chatbot basato sull’intelligenza artificiale Bardouna mossa che ha suscitato molte critiche da parte dei dipendenti. Alcuni etichettati Bard come “un bugiardo patologico” a causa della sua enorme quantità di disinformazione. È stato anche definito “peggio che inutile”. Forse sarebbe una buona idea che Google o DeepMind estendessero il ciclo di sviluppo da mesi ad anni. Allena i Gemelli ancora per un po’. Dopo tutto, che fretta c’è?

Nel frattempo, dai un’occhiata all’elenco recentemente aggiornato di CercaGratis dei migliori scrittori di intelligenza artificiale per il 2023.

YouTube aiuterà i suoi creatori a raggiungere un pubblico internazionale poiché la piattaforma prevede di introdurre un nuovo strumento di doppiaggio basato sull’intelligenza artificiale per tradurre video in altre lingue.

Annunciato al VidCon 2023, l’obiettivo di quest’ultima impresa è fornire un modo rapido e semplice per i creatori di tradurre “gratuitamente” i loro contenuti in lingue che non parlano. Questo può aiutare i canali più piccoli in quanto potrebbero non avere le risorse per assumere un traduttore umano. Per rendere tutto ciò possibile, Amjad Hanif, vicepresidente dei prodotti per i creativi di YouTube, ha rivelato che lo strumento utilizzerà il Ad alta voce creato da Google inoltre la piattaforma porterà il team dietro l’IA da Area 120, una divisione della società madre che lavora spesso su tecnologia sperimentale.

Traduzione facile

Il modo in cui funziona il sistema di traduzione, secondo il sito Web ufficiale di Aloud, prevede che l’intelligenza artificiale trascriverà prima un video in una sceneggiatura. Quindi modifichi la trascrizione per eliminare eventuali errori, fare chiarimenti o evidenziare il testo “dove il tempismo è fondamentale”. Da lì, restituisci lo script modificato ad Aloud dove tradurrà automaticamente il tuo video nella lingua che preferisci. Una volta terminato, puoi pubblicare il contenuto appena doppiato caricando eventuali nuove tracce audio sul loro video originale.

Un rappresentante di Google ci ha detto che “i creatori non devono (in realtà) comprendere nessuna delle lingue in cui stanno doppiando”. Aloud gestirà tutto il lavoro pesante che circonda compiti complessi come “traduzione, tempistica e sintesi vocale”. Ancora una volta, tutto ciò che devi fare è ricontrollare la trascrizione.

Cambiamenti futuri

Non è noto quando verrà avviato l’aggiornamento ad alta voce. Tuttavia, YouTube sta già lavorando per espandere l’intelligenza artificiale oltre ciò che è attualmente possibile. Al momento, Aloud può tradurre solo contenuti inglesi in spagnolo o portoghese. Ma ci sono piani per espandersi in altre lingue dall’hindi all’indonesiano oltre al supporto per diversi dialetti.

Successivamente, la piattaforma introdurrà una varietà di funzionalità come “preservazione della voce, migliore trasferimento delle emozioni e persino rianimazione delle labbra” per migliorare l’enunciazione. Inoltre, YouTube integrerà alcune misure di salvaguardia per garantire che solo i creatori possano “doppiare i propri contenuti”.

Lo stesso rappresentante di Google di prima ci ha anche detto che la piattaforma sta testando l’IA ad alta voce con “centinaia di creatori (di YouTube)” con l’intenzione di aggiungerne altri nel tempo. A giugno 2023, oltre 10.000 video sono stati doppiati in oltre 70 lingue.

Puoi aderire al programma di accesso anticipato compilando il modulo ufficiale di Google Documenti. Se vuoi sapere come suona un doppiaggio ad alta voce, vai guarda il trailer del canale per il canale Amoeba Sisters su YouTube. Fai clic sull’icona a forma di ingranaggio, vai su Traccia audio, quindi seleziona Spagnolo. La voce robotica che sentirai è ciò che l’IA creerà.

Meta ha svelato un nuovo strumento di intelligenza artificiale, soprannominato “Voicebox”, che sostiene rappresenti una svolta nella generazione vocale basata sull’intelligenza artificiale. Tuttavia, la società non lo rilascerà ancora al pubblico, perché farlo potrebbe essere disastroso.

Voicebox è attualmente in grado di produrre clip audio del parlato in sei lingue (tutte di origine europea) e – secondo un post sul blog di Meta – è il primo modello di intelligenza artificiale del suo genere in grado di completare compiti al di là di ciò per cui è stato “specificamente addestrato a svolgere”. Meta afferma che Voicebox supera di gran lunga le IA di generazione vocale concorrenti praticamente in ogni area.

Quindi di cosa è capace esattamente? Bene, per cominciare, può emettere repliche di sintesi vocale ragionevolmente accurate della voce di una persona utilizzando un file audio campione di appena due secondi, un’abilità apparentemente innocua che detiene un’enorme quantità di potenziale distruttivo nelle mani sbagliate.

Il dubbio potere dell’IA

Anche mettendo da parte il roba losca con cui hanno fatto i brividi su Internet ChatGPT e altri strumenti di intelligenza artificiale (Voicebox suona sicuramente come se potesse essere un vantaggio per chiunque realizzi un finto revenge porn), questo è il tipo di tecnologia che potrebbe letteralmente iniziare una guerra.

Dopotutto, la maggior parte dei personaggi pubblici più importanti, compresi i politici, hanno un sacco di registrazioni audio che circolano su Internet. Non sarebbe difficile raccogliere alcune clip del discorso di un leader politico in carica e utilizzare Voicebox per produrre una replica sorprendentemente realistica della sua voce, qualcosa che potrebbe quindi essere utilizzato per scopi nefandi.

Tali strumenti esistono già, ovviamente, ma sono meno convincenti; potresti aver visto video divertenti sui social media con artisti del calibro di Joe Biden, Donald Trump e Barack Obama che presumibilmente giocano Fortnite insieme. È buono per una risata, ma l’audio è poco convincente. Imita i manierismi di ogni giocatore presidenziale abbastanza da renderli riconoscibili, ma non così bene che chiunque abbia un cervello lo farebbe davvero credere sono loro.

Meta crede chiaramente che il suo nuovo strumento sia abbastanza buono da ingannare almeno la maggior parte delle persone, dal momento che esplicitamente non rilascia Voicebox al pubblico, ma pubblica invece un documento di ricerca e descrivendo in dettaglio uno strumento di classificazione in grado di identificare il parlato generato da Voicebox dal vero parlato umano. Meta descrive il classificatore come “altamente efficace”, anche se in particolare no perfettamente efficace.

Macchine parlanti

Ovviamente, mentre Meta ci tiene a sottolineare che riconosce il “potenziale di uso improprio e danno non intenzionale” che circonda strumenti come Voicebox, è importante non perdere di vista i potenziali benefici che la generazione vocale AI potrebbe avere in futuro.

Voicebox – che si addice al suo nome – potrebbe fornire un discorso molto più naturalistico a persone che sono mute o altrimenti incapaci di comunicare, rimuovendo alcune delle barriere all’interazione causate dalla “voce robotica” di sintesi vocale esistente resa famosa dal fisico Stephen Hawking. Potrebbe anche eseguire la traduzione in tempo reale, portandoci un passo più vicino al tipo di dispositivi di “traduttore universale” che attualmente esistono solo nella fantascienza.

Ci sono anche altre applicazioni; più piccolo, ma non per questo meno utile. Meta spiega nel suo post sul blog che Voicebox può essere utilizzato per modificare e migliorare il parlato registrato. Se hai registrato dell’audio ma hai pronunciato male una parola o sei stato interrotto da un rumore di sottofondo, Voicebox può isolare il segmento offensivo e “registrare nuovamente” un frammento di discorso usando la tua voce. Impressionante e solo leggermente terrificante.

In ogni caso, è bello vedere Meta adottare un approccio serio e ponderato qui. La frenetica impazienza di Microsoft di spingere Bing AI in tutto ha fatto atterrare in acqua calda più di una volta e OpenAI che ha scatenato ChatGPT nel mondo ha portato a ogni sorta di stranezza nell’ultimo anno. Siamo in una corsa all’oro dell’IA e questi strumenti si stanno facendo strada ogni parte della nostra vita.

Un po’ di cautela, pazienza e rispetto per la grandezza di questa tecnologia è uno spettacolo gradito, anche se dubito che Meta siederà su Voicebox per pure a lungo, dal momento che gli azionisti si chiederanno senza dubbio quanti soldi possono far loro guadagnare…

Amazon ha rinnovato la sua guerra alle recensioni false sviluppando nuovi strumenti basati sull’intelligenza artificiale per aiutare ad affrontare il problema, ma il gigante della vendita al dettaglio ammette che non sono sufficienti per risolvere il problema da soli.

In un nuovo post sul blog, Dharmesh Mehta, VP di Worldwide Selling Partner Services di Amazon, scrive “dobbiamo lavorare insieme per fermare i broker di recensioni false che sono la fonte della maggior parte delle recensioni false”, invitando “settore privato, gruppi di consumatori e governi” a lavorare insieme per fermare i broker.

Cosa sono questi cosiddetti “broker di recensioni false”? Amazon afferma che i broker sono diventati un’industria negli ultimi anni e si sono “evoluti nel tentativo di eludere il rilevamento”. Funzionano avvicinandosi ai consumatori medi attraverso siti Web, social media o servizi di messaggistica crittografati e facendogli scrivere recensioni false “in cambio di denaro, prodotti gratuiti o altri incentivi”.

Amazon afferma che sta utilizzando strumenti di intelligenza artificiale sempre più sofisticati e apprendimento automatico per arginare la marea. Questi programmi di rilevamento delle frodi apparentemente analizzano migliaia di punti dati, tra cui l’attività di accesso e la cronologia delle recensioni, per aiutare a individuare le recensioni false. Le cifre coinvolte sono piuttosto sbalorditive; Amazon afferma che l’anno scorso ha bloccato oltre 200 milioni di sospette recensioni false nel 2022 e ha citato in giudizio oltre 10.000 amministratori di gruppi di Facebook.

Ma la potenza finanziaria di Amazon e i suoi strumenti di intelligenza artificiale sempre più sofisticati apparentemente non sono sufficienti per fermare le recensioni false. Il gigante della vendita al dettaglio afferma che poiché gran parte della cattiva condotta si verifica al di fuori del negozio di Amazon “può essere più difficile rilevare, prevenire e imporre questi cattivi attori se agiamo da soli”.

Quindi Amazon ha elaborato un piano in tre punti per ottenere un aiuto extra. In primo luogo, vuole che ci sia più condivisione intersettoriale sui broker di recensioni false e sulle loro varie tattiche e tecniche. In secondo luogo, vuole che i governi e le autorità di regolamentazione utilizzino maggiormente la loro autorità per agire contro i cattivi attori.

E infine, in una velata spinta a Meta e ad altri giganti dei social media, si chiede che “tutti i siti che potrebbero essere utilizzati per facilitare questa attività illecita dovrebbero avere solidi processi di notifica e rimozione”. Amazon vuole lavorare con “queste aziende” (leggi Facebook, WhatsApp, Signal e altro) per aiutare a migliorare i loro metodi di rilevamento.

Resta da vedere se questi tre passaggi siano realistici o meno, ma il messaggio di Amazon è chiaro: non pensa di poter arginare da sola l’ondata di recensioni false, e questo è un problema per tutti noi. Fino a quando non migliora, è più importante che mai seguire i consigli su come individuare false recensioni di Amazon durante il Prime Day e altri grandi eventi di shopping.

Come riconoscere le false recensioni di Amazon

Abbiamo evidenziato il problema delle false recensioni di Amazon per oltre un decennio, ed è chiaro che il problema è diventato un gioco a colpi di talpa – mentre gli strumenti di Amazon sono migliorati, il gigante della vendita al dettaglio ammette che le “tattiche di falsa recensione anche i broker si sono evoluti nel tentativo di eludere il rilevamento”.

Questo è un grosso problema per l’acquirente online medio: nel Regno Unito, il gruppo di consumatori Which? dice che circa una recensione su sette è falsa. Ciò significa che puoi essere indotto in errore ad acquistare prodotti di scarsa qualità.

Il post sul blog di Mehta ricorda che anche i più grandi giganti della tecnologia del mondo e la più recente tecnologia di intelligenza artificiale non sono abbastanza potenti da fermare le recensioni false. Ciò significa che tutti noi dobbiamo essere sempre più esperti quando facciamo acquisti online.

Come evidenzia la nostra guida approfondita per individuare le false recensioni di Amazon, ci sono alcune semplici bandiere rosse a cui prestare attenzione nei revisori dei prodotti, tra cui “linguaggio eccessivamente promozionale, recensioni ripetute e recensioni per un prodotto completamente diverso”.

Ma ci sono anche utili strumenti di terze parti come ReviewMeta e FakeSpot (che è stato recentemente acquistato dal proprietario di Firefox Mozilla) che possono aiutarti a utilizzare l’intelligenza artificiale per rilevare recensioni false e truffe. Questi ti consentono di incollare gli URL dei prodotti Amazon per ottenere un’analisi delle recensioni o utilizzare le estensioni di Chrome per un rapido controllo.

Mentre l’appello in tre punti di Amazon per un aiuto esterno è comprensibile, la storia recente suggerisce che i progressi saranno lenti, il che significa che dovremo tutti stare in guardia quando facciamo i nostri acquisti online, in particolare durante grandi eventi come l’Amazon Prime Day 2023.