Scopri come iniziare a utilizzare i modelli AI su GitHub e sfruttare al meglio le loro funzionalità.
Con il lancio della beta pubblica limitata del Catalogo Modelli di GitHub, gli sviluppatori hanno ora a disposizione un’incredibile opportunità per esplorare e implementare modelli di intelligenza artificiale direttamente nell’ambiente Azure AI. Questo articolo offre una panoramica di come iniziare ad utilizzare queste risorse, facilitando l’accesso e massimizzando le potenzialità offerte dai modelli AI.
Per cominciare, è fondamentale registrarsi su GitHub Models e accedere a strumenti come Codespaces e Copilot, che sono a disposizione degli studenti sviluppatori tramite l'[Education di GitHub](http://education.github.com). Il catalogo modelli offre un ambiente ricco per lo sviluppo con modelli generativi e modelli di linguaggio.
Modelli Disponibili
Nel catalogo, ogni modello è accompagnato da un ambiente di prova e da codice di esempio, rendendo la sperimentazione semplice e accessibile. Una volta all’interno dell’ambiente Codespaces, è possibile trovare esempi pratici in linguaggi vari come Python, JavaScript e cURL.
Iniziare a Sviluppare
Per avviare il processo, è necessario configurare un token di accesso personale, che deve essere utilizzato come chiave nelle applicazioni. Le istruzioni specifiche per configurare l’ambiente variano a seconda del sistema operativo: per Bash, PowerShell o il prompt dei comandi di Windows. Ad esempio, per il prompt di Windows, il comando è:
set GITHUB_TOKEN=<il-tuo-token-goes-here>In seguito, è possibile installare il Azure AI Inference SDK utilizzando pip per Python, consentendo l’interazione con l’API di completamento chat.
Un esempio di base potrebbe apparire così:
import osfrom azure.ai.inference import ChatCompletionsClientfrom azure.core.credentials import AzureKeyCredentialtoken = os.environ["GITHUB_TOKEN"]endpoint = "https://models.inference.ai.azure.com"model_name = "Phi-3-small-8k-instruct"client = ChatCompletionsClient( endpoint=endpoint, credential=AzureKeyCredential(token),)response = client.complete( messages=[ SystemMessage(content="You are a helpful assistant."), UserMessage(content="What is the capital of France?"), ], model=model_name,)print(response.choices[0].message.content)Questo codice esegue una semplice richiesta all’API, restituendo la risposta a una domanda posta dall’utente.”, “La versatilità dei modelli consente anche di gestire conversazioni multi-turno e di streamare le risposte per un’esperienza utente più coinvolgente.
Rate Limits e Usage
È importante notare che per coloro che superano i limiti previsti per l’uso gratuito e vogliono scalare la propria applicazione, è necessario attivare risorse tramite un account Azure e autenticarsi tramite esso. Questo processo non richiede modifiche significative al codice già scritto per gli sviluppi in GitHub.
Concludendo, la beta limitata dei modelli di GitHub rappresenta una straordinaria opportunità per gli sviluppatori interessati all’intelligenza artificiale. Sfruttando gli strumenti e le risorse messi a disposizione, chiunque può iniziare a costruire applicazioni AI innovative e scalabili.