Condividi tramite

Attività iniziali di Fonderia Locale

Importante

  • Foundry Local è disponibile in anteprima. Le versioni di anteprima pubblica consentono l'accesso anticipato alle funzionalità in fase di distribuzione attiva.
  • Funzionalità, approcci e processi possono subire variazioni o avere funzionalità limitate, prima della disponibilità generale (GA).

Questa guida illustra come configurare Foundry Local per eseguire modelli di intelligenza artificiale nel dispositivo.

Prerequisiti

Per eseguire Foundry Local, il sistema deve soddisfare i requisiti seguenti:

  • Sistema operativo: Windows 10 (x64), Windows 11 (x64/ARM), Windows Server 2025, macOS.
  • Hardware: almeno 8 GB di RAM e 3 GB di spazio libero su disco. Consigliato 16 GB di RAM e 15 GB di spazio libero su disco.
  • Rete: connessione Internet per scaricare modelli e provider di esecuzione. Dopo aver scaricato un modello, è possibile eseguire i modelli memorizzati nella cache offline.
  • Accelerazione (facoltativa): GPU NVIDIA (serie 2000 o versione successiva), GPU AMD (serie 6000 o successive), CPU AMD, Intel iGPU, Intel NPU (32 GB o più di memoria), Qualcomm Eseguion X Elite (8 GB o più memoria), Qualcomm NPU o Apple silicon.

Per installare Foundry Local usando i comandi in questa guida introduttiva:

  • In Windows verificare che winget sia disponibile.
  • In macOS installare Homebrew se si usa l'opzione brew .

Annotazioni

I nuovi NPUs sono supportati solo nei sistemi che eseguono Windows 24H2 o versione successiva. Se usi una NPU Intel su Windows, installa il driver Intel NPU per abilitare l'accelerazione NPU in Foundry Local.

Assicurarsi di disporre dei diritti di amministratore per installare il software.

Suggerimento

Se viene visualizzato un errore di connessione al servizio dopo l'installazione, ad esempio 'Richiesta al servizio locale non riuscito', eseguire foundry service restart.

Avvio rapido

Introduzione rapida a Foundry Local:

Opzione 1: Configurazione rapida dell'interfaccia della riga di comando

  1. Installare Foundry Local.

    • Windows: aprire un terminale ed eseguire il comando seguente. 
      winget install Microsoft.FoundryLocal
    • macOS: aprire un terminale ed eseguire il comando seguente. 
      brew tap microsoft/foundrylocal
brew install foundrylocal
      In alternativa, è possibile scaricare il programma di installazione dal repository GitHub locale di Foundry.

    Riferimento: Documentazione locale di Foundry

  2. Verificare l'installazione. Corri!

    foundry --version

    Verrà visualizzato il numero di versione installato.

    Riferimento: Riferimento all'interfaccia della riga di comando locale di Foundry

  3. Esegui il tuo primo modello. Aprire un terminale ed eseguire questo comando:

    foundry model run qwen2.5-0.5b

    Foundry Local scarica il modello, che può richiedere alcuni minuti a seconda della velocità internet, quindi lo esegue. Dopo l'avvio del modello, interagire con esso usando l'interfaccia della riga di comando . Ad esempio, puoi domandare:

    Why is the sky blue?

    Nel terminale viene visualizzata una risposta dal modello: Screenshot dell'output del comando di esecuzione di Fonderia Locale.

Riferimento: Riferimento all'interfaccia della riga di comando locale di Foundry

Opzione 2: Scaricare i progetti iniziali

Per un apprendimento pratico e concreto, scaricate uno dei progetti iniziali che dimostrano scenari reali:

Ogni progetto include:

  • Istruzioni dettagliate per la configurazione
  • Codice sorgente completo
  • Esempi di configurazione
  • Procedure consigliate

Suggerimento

Questi progetti iniziali sono allineati agli scenari nelle guide pratiche e forniscono valore pratico immediato.

Suggerimento

Sostituire qwen2.5-0.5b con qualsiasi nome di modello dal catalogo (eseguire foundry model list per visualizzare i modelli disponibili). Foundry Local scarica la variante che meglio corrisponde alla configurazione hardware e software del sistema. Ad esempio, se si dispone di una GPU NVIDIA, Foundry Local scarica la versione CUDA. Se si dispone di una NPU Qualcomm, Foundry Local scarica la variante NPU. Se non si dispone di GPU o NPU, Foundry Local scarica la versione della CPU.

Quando si esegue foundry model list per la prima volta, viene visualizzato un indicatore di stato del download mentre Foundry Local scarica i provider di esecuzione per l'hardware.

Riferimento: Riferimento all'interfaccia della riga di comando locale di Foundry

Esplora comandi

L'interfaccia della riga di comando di Foundry organizza i comandi in queste categorie principali:

  • Modello: comandi per la gestione e l'esecuzione di modelli.
  • Servizio: comandi per la gestione del servizio locale Foundry.
  • Cache: comandi per la gestione della cache del modello locale (modelli scaricati su disco locale).

Per visualizzare tutti i comandi, usare:

foundry --help

foundry model --help

foundry --help

foundry service --help

Visualizzare i comandi della cache :

foundry cache --help

Riferimento: Riferimento all'interfaccia della riga di comando locale di Foundry

Facoltativo: eseguire il modello GPT OSS 20B più recente

Eseguire il modello gpt-oss-20b:

foundry model run gpt-oss-20b

Importante

Se il modello non è disponibile per il dispositivo, eseguire un modello più piccolo , ad esempio qwen2.5-0.5b.

Per la variante CUDA, in genere è necessaria una GPU NVIDIA con 16 GB di VRAM o più.

Foundry Versione locale 0.6.87 o successiva aggiunge il supporto per questo modello. Verifica la tua versione con:

foundry --version

Riferimento: Riferimento all'interfaccia della riga di comando locale di Foundry

Suggerimento

Per informazioni dettagliate su tutti i comandi della riga di comando, vedere Riferimento CLI locale di Foundry.

Aggiornare Foundry Local

Esegui il comando per il tuo sistema operativo per aggiornare Foundry Local.

  • Windows: in un terminale eseguire: 
    winget upgrade --id Microsoft.FoundryLocal
  • macOS: in un terminale eseguire: 
    brew upgrade foundrylocal

Disinstallare Foundry Local

Per disinstallare Foundry Local, eseguire il comando per il sistema operativo:

  • Windows: aprire un terminale ed eseguire: 
    winget uninstall Microsoft.FoundryLocal
  • macOS: aprire un terminale ed eseguire: 
    brew rm foundrylocal
brew untap microsoft/foundrylocal
brew cleanup --scrub

Risoluzione dei problemi

Problemi di connessione al servizio

Se viene visualizzato questo errore durante l'esecuzione foundry model list o un comando simile:

foundry model list

Exception: Request to local service failed.
Uri: http://127.0.0.1:0/foundry/list

The requested address is not valid in its context. (127.0.0.1:0)

Please check service status with 'foundry service status'.

Eseguire questo comando per riavviare il servizio:

foundry service restart

Questo comando risolve i casi in cui il servizio viene eseguito ma non è accessibile a causa di un problema di associazione di porte.

Riferimento: Procedure consigliate e risoluzione dei problemi

Contenuti correlati

  • Last updated on