La collaborazione tra AI21 e Microsoft porta Jamba-Instruct su Azure AI, aprendo nuove opportunità nell’IA generativa per le aziende.
La recente collaborazione tra AI21 e Microsoft ha segnato un’importante tappa nella distribuzione di modelli di intelligenza artificiale generativa. Tramite questa alleanza, il modello Jamba-Instruct di AI21 è ora disponibile come API serverless all’interno di Azure AI’s Models-as-a-Service. Questa mossa rappresenta una prima assoluta per AI21, offrendo una nuova piattaforma per rendere Jamba-Instruct ampiamente accessibile.
Pankaj Dugar, SVP e GM per il Nord America di AI21, ha espresso entusiasmo per questa collaborazione: “Siamo entusiasti di collaborare con Microsoft per portare Jamba-Instruct ai clienti di Microsoft Azure. Questa partnership dimostra il nostro impegno condiviso per fornire soluzioni AI innovative alle aziende, in linea con l’obiettivo di Microsoft di rendere accessibile la tecnologia all’avanguardia ai propri clienti.”
I vantaggi di Azure AI
Azure AI si distingue per l’offerta di modelli avanzati e user-friendly a disposizione dei suoi clienti. Negli ultimi otto mesi, Azure ha ampliato il suo catalogo di modelli tramite partnership con i principali fornitori di modelli generativi e tramite il rilascio di Phi-3 con Microsoft Research. I clienti possono scegliere tra oltre 1.600 modelli fondamentali, inclusi LLM, SLM, chat completion e modelli multimodali offerti da leader del settore come AI21, Cohere, Databricks, Deci AI, Hugging Face, Microsoft Research, Mistral AI, NVIDIA, OpenAI e Stability AI.
Jamba-Instruct: Caratteristiche e Utilizzi
Jamba-Instruct è il più recente e potente modello prodotto da AI21, progettato per ottimizzare le prestazioni, la qualità e l’efficienza dei costi. Ecco alcune delle principali caratteristiche che lo distinguono:
- Contesto esteso: Con una finestra di contesto di 70K, Jamba-Instruct è in grado di gestire efficacemente contesti lunghi, migliorando la comprensione dei documenti e rafforzando i meccanismi di elaborazione dei RAG.
- Prestazioni superiori nei contesti lunghi: Jamba-Instruct eccelle nei benchmark di casi d’uso a lungo contesto, come il question answering su trascrizioni di chiamate sugli utili e l’estrazione di informazioni chiave da documenti legali lunghi.
- Efficienza nei costi: Grazie alla sua architettura ibrida, Jamba-Instruct gestisce contesti lunghi con un’impronta cloud ridotta, offrendo un elevato valore per il costo tra i modelli della sua categoria.
Integrazione con Azure AI Studio
Utilizzando Jamba-Instruct sulla piattaforma di Azure, le organizzazioni possono sfruttare il pieno potenziale dell’IA in modo sicuro e affidabile. Azure AI Studio, con strumenti come Azure AI Content Safety e Azure AI Search, offre un supporto solido per garantire pratiche AI efficaci. Le principali caratteristiche di questa integrazione includono:
- Sicurezza e conformità migliorate: Azure garantisce la sicurezza e la privacy dei dati, con protocolli di sicurezza completi per proteggere i dati dei clienti.
- Integrazione di contenuti sicuri: Le funzionalità di sicurezza del contenuto di Azure AI aiutano a sviluppare applicazioni AI più sicure, monitorando la conformità e gli standard etici.
- Valutazione semplificata dei flussi LLM: Il prompt flow di Azure AI permette di valutare come i risultati dei LLM corrispondano agli standard e obiettivi dati, utilizzando metriche come la groundedness.
- Integrazione clienti: L’API e le chiavi possono essere utilizzate con diversi strumenti come prompt flow, OpenAI, LangChain, LiteLLM e CLI.
- Implementazione e inferenza semplificata: Grazie all’offerta MaaS con API di inferenza pay-as-you-go, i sviluppatori possono sfruttare il potere di Jamba-Instruct senza gestire l’infrastruttura sottostante.
Queste caratteristiche dimostrano l’impegno di Azure nel fornire un ambiente in cui le organizzazioni possono sfruttare al massimo le tecnologie AI come Jamba-Instruct in modo efficiente e responsabile, promuovendo l’innovazione mantenendo al contempo standard elevati di sicurezza e conformità.
Con l’impegno di Azure AI in materia di sicurezza e privacy dei dati e con le API di inferenza pay-as-you-go, gli sviluppatori possono concentrarsi sulla creazione delle soluzioni, certi che i loro dati aziendali rimangano sicuri senza dover dedicare tempo supplementare alla gestione di infrastrutture complesse.
Avvio con Jamba-Instruct su Azure
Azure invita a innovare utilizzando Jamba-Instruct su Azure AI Studio. Le aziende stanno già sviluppando diversi casi d’uso, inclusi generatori automatizzati di fogli di termini, generatori di descrizioni di prodotti e assistenti virtuali per la salute. Per iniziare, accedi al catalogo modelli di Azure AI Studio e utilizza il modello Jamba-Instruct. La documentazione per iniziare è disponibile qui.
FAQs
Quanto costa utilizzare il modello Jamba-Instruct su Azure? I costi vengono calcolati in base al numero di token di prompt e completamento. Le tariffe dettagliate sono disponibili nell’offerta del Marketplace Azure.
Ho bisogno di capacità GPU nel mio abbonamento Azure per utilizzare Jamba-Instruct? No, non è necessaria la capacità GPU. Jamba-Instruct è offerto come API tramite Models-as-a-Service.
Jamba-Instruct è disponibile in Azure Machine Learning Studio? Sì, Jamba-Instruct è disponibile nel catalogo modelli sia in Azure AI Studio che in Azure Machine Learning Studio.
I miei dati di inferenza vengono condivisi con AI21? No, Microsoft non condivide i contenuti dei prompt o gli output con AI21. Maggiori dettagli su privacy e sicurezza sono disponibili qui.
Posso acquistare e utilizzare Jamba-Instruct direttamente da Azure Marketplace? Sì, il Marketplace Azure consente la transazione commerciale per Jamba-Instruct, ma la scoperta e l’implementazione del modello avvengono anche nel catalogo modelli di Azure AI.