Nell’era dell’intelligenza artificiale generativa, la costruzione di propri piloti automatici per migliorare l’assistenza al cliente è un’ambizione crescente per le aziende. Ecco come Microsoft può aiutare in questa direzione.
Nel paesaggio tecnologico odierno, profondamente influenzato dall’avvento dell’intelligenza artificiale generativa (Generative AI), gli imprenditori cercano modi sempre più efficaci per fornire soluzioni di servizio clienti ai loro consumatori. D’altro canto, la clientela ha sempre maggiori aspettative di un servizio di assistenza self-service più veloce e preciso.
Oggi esiste una vasta gamma di servizi e funzionalità integrati progettati per soddisfare queste esigenze e consentire a organizzazioni e sviluppatori di costruire i loro piloti automatici. Questi assistenti virtuali personalizzati sono in grado di rispondere a domande basate sulle loro singole basi di conoscenza e fonti di dati.
Fondamentale a tal fine è la Retrieval Augmented Generation (RAG), progettata per superare le limitazioni dei modelli AI generativi, fornendo all’AI le informazioni più recenti e pertinenti per rispondere a una domanda dell’utente, iniettando le informazioni attraverso il prompt.
Microsoft offre una serie di strumenti e servizi per implementare questo profilo, sia per gli sviluppatori di livello base, sia per quelli più avanzati. Nella Parte 1 della nostra guida, ci concentreremo sui metodi a basso codice e sulle funzionalità pronte all’uso, mentre nella Parte 2 esploreremo le opzioni che richiedono un maggiore grado di codificazione, ma consentono una maggiore estensibilità.
Manipolando i modelli AI con RAG
I modelli di Generative AI, o meglio noti come Large Language Models (LLMs), sono in grado di generare diversi tipi di contenuto, come testo grammaticalmente corretto, arte creativa e codice, con un solo input di testo – chiamato prompt.
In termini di utilizzo nel mondo reale, tuttavia, presentano alcune limitazioni dovute principalmente al fatto che possono rispondere a domande relative solo ai dati su cui sono stati formati. Ciò significa che non conoscono fatti avvenuti dopo la loro data di formazione e non hanno accesso a dati protetti da firewall.
Molto utili in questo senso sono i sistemi che implementano il modello RAG che solitamente includono nel loro design un data store, un luogo in cui vengono salvasse le fonti di dati validate da cui il modello dovrebbe basare le sue risposte.
Ogni volta che arriva una domanda da un utente:
- la domanda viene convertita in una query per cercare nel data store informazioni pertinenti (si utilizza comunemente un indice per ottimizzare il processo di ricerca);
- i risultati corrispondenti vengono combinati con il prompt dell’utente e il messaggio di sistema – che include istruzioni per il modello su come utilizzare il contesto dei dati fornito – e iniettati nel prompt del modello;
- l’output del modello, scritto in linguaggio naturale, viene restituito all’utente finale.
Azure AI Studio
Azure AI studio è un centro di sviluppo completamente nuovo (attualmente in anteprima) che consente agli sviluppatori e agli ingegneri AI di esplorare tutti i servizi AI di Azure da un unico posto. Azure AI studio permette anche di testare, implementare e valutare i modelli LLM preallenati disponibili in un catalogo e costruire soluzioni innovative con essi, semplificando la collaborazione all’interno di un team sullo stesso progetto AI.
Dopo aver fornito una risorsa AI Azure e creato unprogetto AI Azure, puoi iniziare a costruire il tuo copilota personalizzato nell’Azure AI Studio, utilizzando il Playground.
Da lì, puoi configurare il tuo assistente personalizzando tramite GUI:
- Il modello OpenAI utilizzato come motore del bot;
- Il messaggio di sistema, progettato per definire la personalità dell’assistente con stile e tono desiderati, formato di risposta e eventuali protezioni;
- La lunghezza della cronologia della chat da includere;
- Esempi di interazioni tra l’utente e l’agente.
In quest’area è anche possibile implementare il modello RAG usando la funzione ‘Add your data‘, che utilizza le fonti di dati da te selezionate per ancorare i risultati generati dal modello ai tuoi dati. I file locali, l’archivio Blob di Azure o un indice vettoriale – creato attraverso il servizio di ricerca Azure AI – sono tra le fonti di dati ammesse.
Una volta completata la configurazione e averla testata attraverso la sessione di chat, puoi esportarla come file JSON per utilizzi futuri.
Puoi anche valutare il tuo assistente usando la funzionalità ‘Manual Evaluation‘, fornendo un set di prompt di input e risposte attese.
Una volta soddisfatto del risultato, è possibile implementare il tuo assistente personale in un’applicazione web, usando il pulsante ‘Deploy‘.
(La seconda parte di questa guida sarà disponibile a breve)