Calculateur d'entropie de Rényi
Des probabilités de 0,5 et 0,5 à l'ordre 2 donnent une entropie de Rényi de 1 bit. Saisissez une liste de probabilités ou de simples effectifs et un ordre α : vous obtenez l'entropie, la distribution normalisée et la somme des puissances. Gratuit dans votre navigateur.
- Gratuit
- Fonctionne dans votre navigateur
- Sans inscription
- Vos données restent sur votre appareil
Lancer gratuitement
Exemple résolu
- Probabilités
- 0,5, 0,5
- Alpha
- 2
- Total
- 1 bits
- N
- 2
- Somme des p^alpha
- 0,5
- Entropie de Rényi
- 1
L'entropie de Rényi est une famille de mesures d'information à un paramètre qui généralise l'entropie de Shannon pour les distributions de probabilité discrètes. Pour un ordre alpha différent de un, elle se définit à partir de la somme des puissances alpha des probabilités normalisées et se réduit à des cas particuliers familiers pour certains ordres, notamment l'entropie de Hartley en zéro et l'entropie de collision en deux. Ce calculateur accepte une liste de poids ou de probabilités non négatifs et un ordre alpha fini, normalise la liste par son total et renvoie l'entropie de Rényi en bits avec la distribution normalisée et la somme de puissances intermédiaire.
Ce que mesure l'entropie de Rényi et le lien avec Shannon
L'entropie de Shannon quantifie la surprise moyenne d'une source discrète sous une seule espérance logarithmique. Le H_alpha obtenu se mesure en bits lorsque le logarithme est en base deux. Lorsque alpha tend vers un, l'expression présente une singularité levable et la limite retrouve l'entropie de Shannon ; c'est pourquoi ce point d'accès refuse alpha égal à un au lieu de changer de formule en silence.
Pour alpha égal à zéro, la mesure devient le décompte de Hartley de la taille du support en échelle logarithmique. Pour alpha égal à deux, c'est l'entropie de collision, liée à la probabilité de collision et très utilisée en cryptographie et pour les extracteurs d'aléa. Lorsque alpha devient grand, la valeur est dominée par la plus grande masse de probabilité et se rapproche de la min-entropie.
Des ordres différents mettent l'accent sur les événements rares ou fréquents : les faibles alpha sont plus sensibles aux queues, les grands alpha se concentrent sur le pic. Une seule famille avec un alpha réglable permet aux théoriciens de l'information, aux praticiens du ML et aux étudiants de comparer la même source sous plusieurs angles sans inventer une nouvelle définition à chaque fois.
Cette page met en œuvre la formule classique discrète de Rényi sur l'alphabet fini de votre tableau, non l'entropie différentielle continue ni une estimation Monte Carlo d'une densité inconnue.
Cas d’usage
Devoirs et laboratoires de théorie de l'information
Les étudiants saisissent une courte distribution discrète et l'ordre α, puis vérifient H_α en bits face au calcul manuel sans installer toute la pile scipy.
Cryptographie et qualité de l'aléa
Les ingénieurs comparent l'entropie de collision (α = 2) et d'autres ordres sur des histogrammes empiriques de symboles pour dimensionner des extracteurs ou auditer des sources.
Diversité et poids de caractéristiques ML
Les pipelines transforment des poids non négatifs de classe ou de thème en un seul nombre de diversité de Rényi sous un α fixe pour tableaux de bord et tests.
Questions fréquentes
Pourquoi alpha égal à un est-il rejeté ?
L'expression fermée de Rényi divise par (1−α), singulière en α = 1.
Que se passe-t-il si le total du tableau de probabilités est zéro ?
Un total nul ne peut pas être normalisé en distribution de probabilité. Les échecs de validation ne sont pas facturés.
Faut-il des probabilités qui somment déjà à un ?
Non. Des poids non négatifs sont acceptés et divisés par leur total. La réponse renvoie à la fois total et le tableau probabilities normalisé.
Que change l'ordre α dans l'entropie de Rényi ?
Il fixe les issues qui pèsent le plus. Les ordres faibles sont plus sensibles aux issues rares des queues, les ordres élevés se concentrent sur la plus probable et, quand α devient très grand, la valeur tend vers la min-entropie, qui ne dépend que de la plus forte probabilité.
À quoi correspond l'entropie de Rényi d'ordre 2 ?
C'est l'entropie de collision, liée à la probabilité que deux tirages donnent la même issue. On l'utilise en cryptographie pour juger une source aléatoire ; pour 0,5 et 0,5, elle vaut 1 bit.
Outils associés
Pour les développeurs — accès API
Tout sur cette page est disponible par programmation. Cette section s'adresse aux équipes qui veulent l'intégrer à leurs systèmes ; les autres peuvent simplement utiliser l'outil ci-dessus.
Endpoint
Authentification par jeton Bearer : un seul POST met la tâche en file d’attente, et le résultat vous parvient par webhook ou lien signé.
Appeler depuis votre stack
curl -X POST https://api.kit.forhosting.com/stat/renyi-entropy \
-H "Authorization: Bearer $KIT_KEY" \
-H "Content-Type: application/json" \
-d '{"probabilities":[0.5,0.5],"alpha":2}'const res = await fetch("https://api.kit.forhosting.com/stat/renyi-entropy", {
method: "POST",
headers: {
"Authorization": `Bearer ${process.env.KIT_KEY}`,
"Content-Type": "application/json"
},
body: JSON.stringify({
"probabilities": [
0.5,
0.5
],
"alpha": 2
})
});
const { task_id } = await res.json();import os, requests
res = requests.post(
"https://api.kit.forhosting.com/stat/renyi-entropy",
headers={"Authorization": f"Bearer {os.environ['KIT_KEY']}"},
json={
"probabilities": [
0.5,
0.5
],
"alpha": 2
},
)
task_id = res.json()["task_id"]<?php
$res = file_get_contents("https://api.kit.forhosting.com/stat/renyi-entropy", false, stream_context_create([
"http" => [
"method" => "POST",
"header" => "Authorization: Bearer " . getenv("KIT_KEY") . "\r\nContent-Type: application/json",
"content" => '{"probabilities":[0.5,0.5],"alpha":2}',
],
]));
$task = json_decode($res, true);body := bytes.NewBufferString(`{"probabilities":[0.5,0.5],"alpha":2}`)
req, _ := http.NewRequest("POST", "https://api.kit.forhosting.com/stat/renyi-entropy", body)
req.Header.Set("Authorization", "Bearer "+os.Getenv("KIT_KEY"))
req.Header.Set("Content-Type", "application/json")
res, _ := http.DefaultClient.Do(req)Exemple de requête
{
"probabilities": [
0.5,
0.5
],
"alpha": 2
}Exemple de réponse
{
"task_id": "tsk_a1b2c3d4e5f6a1b2c3d4e5f6",
"type": "stat.renyi_entropy",
"status": "queued",
"_links": {
"result": "/tasks/tsk_…/result"
}
}L’API est asynchrone : chaque appel renvoie un task_id immédiatement, puis vous interrogez l’état à raison d’une requête par seconde.
Tarifs
Le prix est publié, sans tokens ni crédits. Une tâche qui échoue n’est pas facturée.
Erreurs
| HTTP | Code | Signification |
|---|---|---|
401 | unauthorized | Clé API absente ou invalide : vérifiez l’en-tête Authorization. |
402 | insufficient_balance | Solde insuffisant : rechargez votre compte pour lancer cette tâche. |
404 | unknown_type | Type de tâche inconnu : vérifiez le champ type de votre requête. |
429 | rate_limited | Trop de requêtes : ralentissez la cadence, puis réessayez. |
Notes techniques
Les requêtes échouent proprement avec invalid_input lorsque le poids total est zéro ou lorsque alpha vaut un, afin que l'automatisation ne confonde jamais la forme singulière avec une valeur de Shannon valide.
Ce que mesure l'entropie de Rényi et le lien avec Shannon
Alfréd Rényi a introduit un continuum d'alternatives indexées par un ordre réel alpha : après avoir écrit la distribution comme des probabilités non négatives de somme un, on forme la somme de chaque probabilité élevée à alpha, on prend le logarithme en base deux de cette somme, puis on multiplie par un sur un moins alpha.
Contrat d'entrée, normalisation, champs de réponse et erreurs
Associez cet outil à un calculateur de Shannon lorsque vous avez besoin de la limite alpha vers un plutôt que de forcer alpha égal à un dans la formule singulière. Envoyez un objet JSON avec deux champs obligatoires. probabilities est un tableau non vide de nombres finis non négatifs ; les alias probs, p, weights et values sont acceptés, ainsi qu'une chaîne séparée par des virgules ou des espaces pour les formulaires texte simples. Le moteur additionne les poids en un total et divise chaque entrée par ce total, de sorte que les comptages et histogrammes non normalisés fonctionnent comme des probabilités déjà normalisées. alpha est l'ordre de Rényi, un nombre fini qui ne doit pas valoir un ; les alias order et a sont acceptés. En cas de succès, la réponse inclut n comme longueur du tableau, alpha comme ordre nettoyé, total comme somme des poids bruts avant normalisation, probabilities comme distribution normalisée, sum_p_alpha comme somme de chaque masse normalisée élevée à alpha, renyi_entropy comme H_alpha en bits, unit égal à bits, formula comme la chaîne en forme fermée et method égal à renyi_entropy_bits. La validation échoue avec invalid_input et sans facturation lorsque la liste est absente ou vide, qu'une entrée est négative ou non finie, que le total des poids est zéro, qu'alpha est manquant ou non fini, qu'alpha vaut un, que la liste dépasse le plafond de taille publié, ou que pour un alpha négatif une probabilité nulle rendrait une puissance infinie. Exemple : probabilities zéro virgule cinq et zéro virgule cinq avec alpha deux donnent renyi_entropy égal à un bit, ce qui correspond à l'entropie de collision d'une source binaire équitable.
Usages pratiques, limites, tarification et livraison
Utilisez l'outil gratuit du navigateur lorsque vous voulez un nombre de Rényi immédiat pour un court histogramme, une distribution de devoirs ou un vecteur de poids d'importance de caractéristiques en lisant un article qui cite H_alpha. Préférez envoyer des comptages bruts non négatifs lorsque c'est ce que vous avez mesuré et laissez la normalisation se faire une fois dans le gestionnaire, afin que chaque consommateur voie le même total et le même vecteur normalisé dans la réponse. Lorsque alpha est proche de un sans y être égal, attendez-vous à une sensibilité numérique du facteur d'échelle un sur un moins alpha ; pour la vraie valeur de Shannon, utilisez un point d'accès Shannon dédié ou une limite analytique plutôt qu'un alpha extrêmement proche. Branchez le point d'accès sur des laboratoires de cryptographie qui comparent les ordres de collision et de type minimal, sur des indices de diversité qui parlent déjà le langage de Rényi, ou sur toute automatisation qui a besoin d'un H_alpha documenté plutôt que de réimplémenter le logarithme de sommes de puissances dans chaque langage. Utilisez l'API lorsqu'un notebook, un bac à sable d'entretien, un pipeline de sécurité ou un site éducatif a besoin de JSON stable pour de nombreuses distributions discrètes sous un seul contrat. Chaque requête réussie est un élément facturable à $0.002 ; une validation échouée ne consomme pas le solde. Gardez les tableaux dans la longueur maximale publiée pour que les isolates Worker et les chemins navigateur restent rapides ; cent mille poids non négatifs couvrent les tables de classe et les histogrammes empiriques typiques. Les résultats sont pleinement déterministes : les mêmes probabilities et le même alpha produisent toujours le même renyi_entropy, sans modèle de langage, sans service statistique externe et sans générateur aléatoire sur le chemin critique.
Questions techniques
Comment calculer l'entropie de Rényi avec cet outil ?
Envoyez un JSON avec probabilities (nombres non négatifs) et alpha (ordre ≠ 1). L'API normalise les poids et renvoie renyi_entropy en bits comme 1/(1−α)·log2(Σ p_i^α), plus la distribution normalisée et sum_p_alpha.
Quel est le coût du calculateur d'entropie de Rényi ?
L'outil navigateur est gratuit sur votre appareil. Les appels API utilisent le solde prépayé KIT à $0.002 par élément réussi ; une entrée invalide n'est pas facturée.