Rényiエントロピー計算
確率0.5と0.5、次数2なら、Rényiエントロピーは1ビットです。確率または単純な度数の並びと次数αを入力すると、エントロピーと正規化した分布、べき乗の和が分かります。ブラウザで無料で使えます。
- 無料
- ブラウザで動作
- 登録不要
- データは端末の外に出ません
無料で実行
計算例
- 確率
- 0.5, 0.5
- アルファ
- 2
- 合計
- 1 bits
- N
- 2
- p^α の合計
- 0.5
- レニーエントロピー
- 1
Rényiエントロピーは、離散確率分布に対するShannonエントロピーを一般化する、ひとつのパラメータ族の情報量測度です。次数alphaが1以外のとき、正規化した確率のalpha乗和から定義され、0ではHartleyエントロピー、2では衝突エントロピーといったよく知られた特殊ケースに帰着します。本計算機は非負の重みまたは確率のリストと有限の次数alphaを受け取り、合計で正規化したうえでビット単位のRényiエントロピーと、正規化分布および中間のべき和を返します。
Rényiエントロピーが測るものとShannonとの関係
Shannonエントロピーは、単一の対数期待のもとで離散情報源の平均的な意外性を定量化します。Alfréd Rényiは実数次数alphaで索引付けされた一連の代替測度を導入しました。
分布を合計1の非負確率として表したうえで、各確率をalpha乗して和をとり、その和の底2対数をとり、1マイナスalphaで割る（1/(1−alpha)を掛ける）ことでH_alphaが得られます。対数が底2のとき単位はビットです。alphaが1に近づくと式には除去可能な特異点があり、極限はShannonエントロピーに戻ります。
alphaが0のとき測度は対数スケール上のサポートサイズを数えるHartley型になります。alphaが2のときは衝突エントロピーであり、衝突確率と密接で暗号や乱数抽出器でよく使われます。alphaが大きくなると最大確率質量が支配し、値はmin-エントロピーに近づきます。
次数が異なると稀な事象とありふれた事象の強調が変わります。低いalphaは分布の裾に敏感で、高いalphaはピークに焦点を当てます。調整可能なalphaを持つ単一の族により、情報理論家、ML実務者、学生は毎回新しい定義を発明せずに同じ情報源を複数の観点で比較できます。
本ページはご指定の配列が与える有限アルファベット上の古典的な離散Rényi公式を実装しており、連続の微分エントロピーでも未知密度のモンテカルロ推定でもありません。
実務での使い方、制限、料金、提供形態
短いヒストグラム、宿題の分布、特徴重要度の重みベクトルなど、論文でH_alphaが引用される場面で即座にRényi値が欲しいときは無料のブラウザツールをご利用ください。検証失敗は残高を消費しません。Worker isolateとブラウザ経路を高速に保つため、配列は公開の最大長以内にしてください。
非負重み10万件まであれば教室の表や典型的な経験ヒストグラムをカバーできます。測定したのが非負の生カウントならそのまま送り、正規化はハンドラ内で一度だけ行う方が望ましく、どの利用側も応答で同じtotalと同じ正規化ベクトルを見られます。alphaが1に近いが厳密には1でないときは、1/(1−alpha)スケール因子の数値感度に注意してください。
活用例
宿題と情報理論の実験
学生は短い離散分布と次数αを入力し、scipy一式を入れずに手計算とビット単位のH_αを照合します。
暗号と乱数品質
技術者は抽出器の設計や情報源監査で、経験的な記号ヒストグラム上の衝突エントロピー（α = 2）と他次数を比較します。
多様性とML特徴量の重み
パイプラインは非負のクラス・トピック重みを固定αの下で単一のRényi多様性値に変換し、ダッシュボードとテストに使います。
よくある質問
なぜalphaが1だと拒否されますか？
Rényiの閉形式は(1−α)で割るためα = 1で特異になります。Shannonエントロピーはαが1に近づく極限であり直接代入ではありません。
確率配列の合計が0だとどうなりますか？
合計0は確率分布に正規化できません。検証失敗は課金されません。
すでに合計が1の確率が必要ですか？
不要です。 非負の重みを受け付け合計で割ります。応答はtotalと正規化後のprobabilities配列の両方を返します。
次数αを変えると何が変わりますか？
どの結果を重く見るかが変わります。次数が低いほど分布の裾にあるまれな結果に敏感になり、高いほど最も起こりやすい結果に注目します。αを非常に大きくすると、最大の確率だけで決まる最小エントロピーに近づきます。
次数2のRényiエントロピーとは何ですか？
衝突エントロピーと呼ばれ、2回取り出して同じ結果になる確率と深く関係しています。暗号分野で乱数源の質を評価するときに使われ、確率0.5と0.5なら1ビットです。
関連ツール
開発者向け — APIアクセス
このページの機能はすべてAPIからも利用できます。自社システムに組み込みたいチーム向けのセクションです。それ以外の方は上のツールをそのままお使いください。
エンドポイント
Bearerトークンで認証し、POST1回でタスクをキューに登録します。結果はWebhookまたは署名付きリンクで受け取れます。
お使いのスタックから呼び出す
curl -X POST https://api.kit.forhosting.com/stat/renyi-entropy \
-H "Authorization: Bearer $KIT_KEY" \
-H "Content-Type: application/json" \
-d '{"probabilities":[0.5,0.5],"alpha":2}'const res = await fetch("https://api.kit.forhosting.com/stat/renyi-entropy", {
method: "POST",
headers: {
"Authorization": `Bearer ${process.env.KIT_KEY}`,
"Content-Type": "application/json"
},
body: JSON.stringify({
"probabilities": [
0.5,
0.5
],
"alpha": 2
})
});
const { task_id } = await res.json();import os, requests
res = requests.post(
"https://api.kit.forhosting.com/stat/renyi-entropy",
headers={"Authorization": f"Bearer {os.environ['KIT_KEY']}"},
json={
"probabilities": [
0.5,
0.5
],
"alpha": 2
},
)
task_id = res.json()["task_id"]<?php
$res = file_get_contents("https://api.kit.forhosting.com/stat/renyi-entropy", false, stream_context_create([
"http" => [
"method" => "POST",
"header" => "Authorization: Bearer " . getenv("KIT_KEY") . "\r\nContent-Type: application/json",
"content" => '{"probabilities":[0.5,0.5],"alpha":2}',
],
]));
$task = json_decode($res, true);body := bytes.NewBufferString(`{"probabilities":[0.5,0.5],"alpha":2}`)
req, _ := http.NewRequest("POST", "https://api.kit.forhosting.com/stat/renyi-entropy", body)
req.Header.Set("Authorization", "Bearer "+os.Getenv("KIT_KEY"))
req.Header.Set("Content-Type", "application/json")
res, _ := http.DefaultClient.Do(req)リクエスト例
{
"probabilities": [
0.5,
0.5
],
"alpha": 2
}レスポンス例
{
"task_id": "tsk_a1b2c3d4e5f6a1b2c3d4e5f6",
"type": "stat.renyi_entropy",
"status": "queued",
"_links": {
"result": "/tasks/tsk_…/result"
}
}非同期APIです。task_idは即時に返ります。ポーリングは1秒あたり1リクエストまでです。
料金
単価はすべて公開しています。トークン換算や独自クレジットはありません。失敗したタスクは課金されません。
エラー
| HTTP | コード | 意味 |
|---|---|---|
401 | unauthorized | APIキーが無効か、指定されていません。Authorizationヘッダーを確認してください。 |
402 | insufficient_balance | 残高が不足しています。チャージ後に再度お試しください。 |
404 | unknown_type | 指定されたタスクタイプは存在しません。タイプ名を確認してください。 |
429 | rate_limited | リクエストが多すぎます。しばらく待ってから再度お試しください。 |
技術的な注記
重みの合計が0のとき、またはalphaが1のときはinvalid_inputで明確に失敗するため、自動化が特異な閉形式を有効なShannon値と取り違えることはありません。
Rényiエントロピーが測るものとShannonとの関係
だからこそ本エンドポイントはalphaが1のとき黙って式を切り替えず拒否します。
入力契約、正規化、応答フィールド、エラー
probabilitiesは非負の有限数からなる空でない配列です。エンジンは重みをtotalに加算し各要素をその合計で割るため、未正規化のカウントやヒストグラムも、すでに正規化された確率と同じように扱えます。alphaはRényi次数で、1であってはならない有限数です。別名orderおよびaを受け付けます。alphaを1に近い特異式へ無理に押し込むのではなく、alpha→1の極限が必要なときはShannon専用の計算機と併用してください。必須フィールドが2つのJSONオブジェクトを送信してください。別名probs、p、weights、valuesも受け付け、単純なテキストフォーム向けにカンマまたは空白区切りの文字列も許可されます。成功時の応答には配列長n、整理済み次数alpha、正規化前の生の重みの合計total、正規化分布probabilities、各正規化質量のalpha乗和sum_p_alpha、ビット単位のH_alphaであるrenyi_entropy、unitはbits、閉形式の文字列formula、methodはrenyi_entropy_bitsが含まれます。リスト欠落・空、負または非有限の要素、重み合計0、alpha欠落・非有限、alphaが1、公開サイズ上限超過、負のalphaでゼロ確率が無限大のべきを生む場合は、課金なしでinvalid_inputになります。例: probabilitiesが0.5と0.5でalphaが2のときrenyi_entropyは1ビットとなり、公平な二値情報源の衝突エントロピーと一致します。
実務での使い方、制限、料金、提供形態
ノートブック、面接サンドボックス、セキュリティパイプライン、教育サイトが多数の離散分布に対して同一契約の安定したJSONを必要とするときはAPIをご利用ください。成功したリクエストは1件あたり$0.002の課金単位です。結果は完全に決定論的で、同じprobabilitiesとalphaは常に同じrenyi_entropyを返し、言語モデルも外部統計サービスもホットパス上の乱数生成もありません。そのため継続的インテグレーションのフィクスチャ、解答キー、再現可能な研究スクリプトに固定しても安全です。真のShannon値が必要なら、極端に近いalphaではなく専用Shannonエンドポイントまたは解析的極限を用いてください。衝突型とmin型の次数を比較する暗号ラボ、すでにRényi言語を話す多様性指数、各言語でべき和の対数を再実装したくない自動化へ本エンドポイントを接続できます。
技術的な質問
この計算機でRényiエントロピーを求めるには？
非負数のprobabilitiesと次数≠1のalphaをJSONで送ってください。APIは重みを正規化し、1/(1−α)·log2(Σ p_i^α)としてビット単位のrenyi_entropy、正規化分布、sum_p_alphaを返します。
Rényiエントロピー計算機の料金は？
ブラウザツールはお使いの端末で無料です。API呼び出しは成功1件あたり$0.002のKIT前払い残高を使い、無効入力は請求されません。