Fournisseurs d'inférence

Les pages de modèles de Hugging Face proposent une inférence à la demande pour des milliers de modèles, vous permettant de les tester directement dans le navigateur. Le service est assuré par les Inference Providers, avec des crédits mensuels inclus pour les utilisateurs PRO et les organisations Team & Enterprise.

Les Inference Providers offrent aux développeurs un accès simplifié et unifié à des centaines de modèles de machine learning, propulsé par les meilleurs partenaires d'inférence serverless. 👉 Pour la documentation complète, consultez la Documentation des Inference Providers.

Fournisseurs d'inférence sur le Hub

Inference Providers est profondément intégré au Hugging Face Hub, et vous pouvez l’utiliser de plusieurs manières différentes :

• Widgets interactifs - Testez les modèles directement sur les pages de modèles grâce à des widgets interactifs qui utilisent des Inference Providers en arrière-plan. Consultez la page du modèle DeepSeek-R1-0528 pour un exemple.
• Inference Playground - Testez et comparez facilement des modèles de complétion de chat avec vos prompts. Consultez le Inference Playground pour commencer.
• Recherche - Filtrez les modèles par fournisseur d'inférence sur la page des modèles pour trouver les modèles disponibles via des fournisseurs spécifiques.
• Data Studio - Utilisez l'IA pour explorer les jeux de données du Hub. Découvrez Data Studio sur votre jeu de données préféré.

Construire avec les fournisseurs d'inférence

Vous pouvez intégrer les Inference Providers dans vos propres applications à l’aide de nos SDK ou de clients HTTP. Voici un démarrage rapide avec Python et JavaScript ; pour plus de détails, consultez la documentation des Inference Providers.

from huggingface_hub import InferenceClient

import os

client = InferenceClient(
    api_key=os.environ["HF_TOKEN"],
    provider="auto",   # Automatically selects best provider
)

# Chat completion
completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V3-0324",
    messages=[{"role": "user", "content": "A story about hiking in the mountains"}]
)

# Image generation
image = client.text_to_image(
    prompt="A serene lake surrounded by mountains at sunset, photorealistic style",
    model="black-forest-labs/FLUX.1-dev"
)

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://router.huggingface.co/v1",
    api_key=os.environ["HF_TOKEN"],
)

completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V3-0324",
    messages=[
        {
            "role": "user",
            "content": "A story about hiking in the mountains"
        }
    ],
)

import { InferenceClient } from "@huggingface/inference";

const client = new InferenceClient(process.env.HF_TOKEN);

const chatCompletion = await client.chatCompletion({
    provider: "auto",  // Automatically selects best provider  
    model: "deepseek-ai/DeepSeek-V3-0324",
    messages: [{ role: "user", content: "Hello!" }]
});

const imageBlob = await client.textToImage({
  model: "black-forest-labs/FLUX.1-dev",
  inputs:
    "A serene lake surrounded by mountains at sunset, photorealistic style",
});

import { OpenAI } from "openai";

const client = new OpenAI({
  baseURL: "https://router.huggingface.co/v1",
  apiKey: process.env.HF_TOKEN,
});

const completion = await client.chat.completions.create({
  model: "meta-llama/Llama-3.1-8B-Instruct",
  messages: [{ role: "user", content: "A story about hiking in the mountains" }],
});

Vous aurez besoin d'un jeton Hugging Face avec des autorisations d'inférence. Créez-en un dans Paramètres > Jetons.

Fonctionnement des fournisseurs d'inférence

Pour en savoir plus sur les Inference Providers, consultez la documentation des Inference Providers. Voici quelques ressources clés :

• Démarrage rapide
• Guide des tarifs et de la facturation
• Détails de l'intégration avec le Hub

Qu'était l'API HF-Inference ?

L’API HF-Inference est l’un des fournisseurs disponibles via Inference Providers. Elle s’appelait auparavant « Inference API (serverless) » et repose sur Inference Endpoints en arrière-plan.

Pour plus de détails sur le fournisseur HF-Inference en particulier, consultez sa page dédiée.