Microsoft ha fornito il suo regolare aggiornamento settimanale sui miglioramenti per Bing AI e questa settimana ci sono stati notevoli passi avanti.
Neowin ha notato che il chatbot ora ha ridotto i picchi di latenza quando si tratta di determinate risposte, il che significa che in questi casi non rimarrai in attesa di una risposta.
Curiosità: internamente, siamo molto entusiasti di qualcosa che la maggior parte delle persone trova noioso. Ieri abbiamo rilasciato un backend completamente rielaborato per il monologo interiore, riducendo il tempo per il primo token di circa il 25% e, cosa molto più importante, rendendo la latenza più stabile, riducendo i picchi: pic.twitter.com/E0zBZ3lHyY29 giugno 2023
Come ha spiegato su Twitter Mikhail Parakhin, responsabile della pubblicità e dei servizi Web di Microsoft, questo è il risultato di Bing AI che ha ottenuto un “backend completamente rielaborato per il monologo interiore”, il che significa semplificare il processo di “pensiero” del chatbot.
Un secondo vantaggio di questa settimana è una migliore gestione delle domande relative allo sport, quindi la gamma di argomenti trattati in questo campo è ora notevolmente più ampia, dalla NHL alla Coppa del Mondo femminile FIFA.
Infine, c’è un vantaggio per chi utilizza Bing AI in Skype, con la possibilità di generare immagini (Bing Image Creator) ora presente nelle conversazioni Skype.
Analisi: L’importanza di essere scattanti
Un’intelligenza artificiale di Bing più scattante è vitale. Qualunque sia la domanda che lanci al chatbot, vuoi che la risposta arrivi con un minimo di attesa. Se ti ritrovi a battere il piede (o forse il dito sulla tastiera) mentre aspetti che Bing ti risponda, sarà scoraggiante (e potrebbe ricordarti le chat dal vivo, dove le attese possono essere frustranti se un aiuto l’agente ha a che fare con più query simultanee).
Quella reattività è un’area chiave in cui Bing può fare bene (quella e, ovviamente, l’accuratezza e l’utilità della risposta fornita, che è sempre fondamentale). Quindi Microsoft ha perfettamente ragione ad affinare questo fronte.
Detto questo, puoi comunque essere soggetto a tempi di attesa che non sono colpa del back-end (funzionamento interno di Bing mentre elabora le query), ma sono dovuti esclusivamente a picchi di traffico. Quando molte persone usano il chatbot, le cose diventano più lente solo in termini di far fronte a quel volume.
Per inciso, Parakhin ha elaborato questo nel thread di Twitter sopra, osservando che i maggiori picchi di utilizzo si verificano quando le persone arrivano al lavoro (in tre momenti principali: quando arriva la costa orientale degli Stati Uniti, poi quando arriva l’Europa, quindi l’Estremo Oriente) . Ciò corrisponde alle 7:00, 17:00 e 1:00 PDT, se sei curioso.
