L2: 中等
2つの値が衝突するとき
MATH誕生日問題は一見するとパーティーの余興のようですが、実は衝突について考察するための標準的な道具なのです。そして続く第2段階で、計算機科学者たちは別の名前で再びこの問題に出会うことになります。
コンピューティング
コンピュータは言われたとおりのことを、良いアルゴリズムと悪いアルゴリズムの差を無視できなくなるほどの速さで実行します。ここでは両方を走らせ、その差が開いていくのを見ることができます。
Newest in this category
- 浮動小数点数 10進数を入力してみてください。コンピュータがそれを符号、2進数、正規化、バイアス、丸めと変換していく過程を追うことができます。最終的に記憶される値、誤差、そして表現可能な次の数値までの間隔を確認しましょう。
-
再帰木エクスプローラー
フィボナッチ数列、ハノイの塔、パスカルの法則、マージソート、階段上りの単純な再帰呼び出しについて、呼び出し回数、独立した部分問題、スタックの深さを数えます。メモ化テーブルがどこで役立つのかを具体的に確認しましょう。
-
画面解像度と視聴距離
パネルの対角線長と画素数、そして視聴位置から、その解像度が実際にどれだけ眼に届いているのかを計算します。視力が20/20であれば、答えは「分（ふん）」単位で測った視野角そのものになります。そして一般的な居間のテレビでは、その値は1080pにすら届かないことがほとんどです。
章
単体のツールではなく、短い系列として。各ステップは次のステップに具体的なものを渡すので、順番に進める価値があります。
L2: 中等
動画が符号化されるまで
COMP動画エンコーダは単一のアルゴリズムではなく、順序の決まった 8 つの段です。その順序は恣意的ではありません。どの段も、直前の段が仕事を可能にしてくれたからこそ存在します。このツールはそのうちの 1 つを扱います。下の連鎖から残りの 7 つに移動できます。
L3: 学部
LLM はどう次の単語を選ぶか
COMP大規模言語モデルが単語を選ぶまさにその瞬間、内部を紐解く2つのツール。後者は文字通り前者の上で動作します。順位付けする候補は、前者が構築した語彙の項目だからです。
L3: 学部
手作業によるデータ圧縮
COMP紙の上で実行できる四つのエンコーダを、直前の方式には見えなかったものをそれぞれがどう捉えるかという順に並べています。四つ目は一切の圧縮を行いません。そしてそれこそが、一つ目がテキストに対してうまく機能する理由なのです。
全プロセスの詳細解説
- 深さ 5 のシェルピンスキーの三角形（243 ピース）
- 五つの生きたセル（30 × 30 グリッド上）
- ピーターセングラフの真の彩色数
- 8個の中からマークされたアイテムを見つけるための2回の反復
- 75% が埋まったテーブル（検索あたり平均 3.5 回のプローブ）
- ハフマン符号を用いた "hello world" のエンコードによるデータ削減量
- kittenをsittingに変換する最小コストの編集手順
- 式!(A & B)の最小項の和
- "abracadabra" の六つのトークン（検索ウィンドウ 16 文字）
- 1ブロックあたり225個の位置から導出される探索ウィンドウ
- パネル上の4つのエントロピー数値の由来
- 22回サンプリングされた10サイクルのパターンの境界
- AAAAAABBBCCDDDDD の四つのペアへのランレングス符号化
- p = 61 と q = 53 のための RSA キーペア
- 実際に続くテキストの13.6%をカバーする12の継続候補
- 68文字が13トークンになる場合の圧縮
- 回文プログラムが経る構成（入力 1 0 1 0 1）
- 6 Mbit/sでの2分間の1080p30の圧縮
- 10ステップにおける2つのウォーカーの広がり
- チェッカーボードのテスト画像のピクセル (31, 3) における勾配強度
- 状態数をどれだけ与えても、有限機械が0と1の数を対応付けられない理由
- NANDゲートのみで構築した半加算器と、なぜ5個が最小個数なのか
- 180語における0.453のターゲット不一致ギャップ
- 逆順の64要素におけるバブルソートの正確な交換回数の予測
ここでわかること
これらのツールから生まれた記事
-
Half of written Japanese is 158 characters. The next 45% costs a thousand more.
Word frequencies follow the same lopsided law in every language anyone has checked. It makes the first stage of learning feel miraculous and the last stage feel impossible, and both feelings are the same curve.
-
Why sorting cannot get faster
Sorting a hundred items takes at least 525 comparisons and no future algorithm will improve on it. The proof does not examine any algorithm at all: it counts how many arrangements exist and how much a yes-or-no question can possibly tell you.
-
Why a language model struggles to count the letters in a word
It never sees the letters. Text is split into tokens before the model reads anything, and a great many puzzling failures follow directly from where the splits land.
-
No compressor can shrink every file, and the proof takes one paragraph
Lossless compression works by exploiting predictability, so a file with none of it cannot be made smaller at all. The proof is counting: nine things will not fit into eight boxes.
この分野のすべてのツール
Algorithms & Data Structures
BFS vs DFS ビジュアライザー
幅優先探索と深さ優先探索によるグラフ探索を、さまざまなグラフ構造で並べて比較します。
BST / AVL木ビジュアライザー
自動平衡回転を伴う二分探索木とAVL木を構築・可視化します。
グラフ彩色エクスプローラー
グラフの頂点を彩色し、彩色数の制約をテストし、クリークによる下限を調べます。
ソートアルゴリズム対決
同じ入力でソートアルゴリズムを比較する。
ダイクストラ法による最短経路
重み付きグラフでダイクストラ法の最短経路探索をステップごとに可視化します。
ハッシュテーブル可視化ツール
チェイン法、線形探査法、二次探査法による衝突解決で、ハッシュテーブルがどのようにデータを格納するかを見てみましょう。
レーベンシュタイン距離ビジュアライザー
2つの文字列間の編集距離(挿入・削除・置換)を計算し、比較を可視化します。
再帰木エクスプローラー
フィボナッチ数列、ハノイの塔、パスカルの法則、マージソート、階段上りの単純な再帰呼び出しについて、呼び出し回数、独立した部分問題、スタックの深さを数えます。メモ化テーブルがどこで役立つのかを具体的に確認しましょう。
経路探索アルゴリズム・ビジュアライザー
A*、ダイクストラ法、貪欲最良優先探索、幅優先探索(BFS)がグリッドを探索する様子をステップごとに見てみよう。
計算量オーダー(Big-O)エクスプローラー
O(1)、O(log N)、O(N)、O(N²)、O(2ᴺ)、O(N!)の増加率がさまざまな規模でどう比較されるかを可視化します。
Information Theory & Encoding
2進数演算と2の補数ラボ
ビットの重み、2の補数などの符号付き表現、2進数の加算・減算・乗算を手順ごとに学べます。
LZ77 圧縮デモ
DEFLATE、ZIP、gzip で使われるスライディングウィンドウの後方参照をステップごとに確認しよう。
NLPエントロピー・ラボ
トークンエントロピー、交差エントロピー、パープレキシティ、KLダイバージェンス。言語モデルの学習と評価を支える四つの数値です。
エンコーディング/基数検出・変換ツール
可能性の高いエンコーディングや構造化フォーマットを検出し、デコードして内容を説明します。
エントロピー符号化プレイグラウンド
シンボル分布とシャノンエントロピー、期待される圧縮利得、AI/LLMにおける次トークン予測の関係を学びます。
ハフマン符号化ビジュアライザー
入力テキストからハフマン木を構築し、最適な接頭辞フリー2進符号と圧縮率を確認できます。
バロウズ・ウィーラー変換(BWT)
BWTがテキストを圧縮しやすいランに並べ替える仕組み、そして可逆的に元に戻す方法を確認します。
浮動小数点数
10進数を入力してみてください。コンピュータがそれを符号、2進数、正規化、バイアス、丸めと変換していく過程を追うことができます。最終的に記憶される値、誤差、そして表現可能な次の数値までの間隔を確認しましょう。
連長圧縮(RLE)
繰り返し記号を(値, 個数)のランに圧縮し、最良・最悪ケースを検証する。
Signal & Media Processing
GOP構造ビジュアライザー
ビデオストリームにおけるI/P/Bフレームパターン、シーク遅延、および圧縮のトレードオフを理解します。
クロマサブサンプリング・ラボ
4:4:4、4:2:2、4:2:0を比較し、画像・動画圧縮における色情報の損失を確認します。
コントラスト比チェッカー(WCAG輝度)
文字色と背景色のコントラストをWCAG 2のアクセシビリティ基準と照らし合わせて確認する — そして、その裏にある輝度計算式が、1953年の放送テレビが既存の白黒信号にカラー情報を押し込む必要から生まれたものであることも見てみましょう。
ソーベル vs キャニー エッジ検出器
ソーベル勾配とキャニーヒステリシスを適用し、エッジ検出パイプラインを比較する。
ピクセルサンプリング・ラボ
信号とピクセルグリッドの可視化を通じて、サンプリング、ナイキスト、エイリアシングを理解しよう。
レート制御シミュレーター
シーンの複雑さやバッファ制限が変化する中での、CRFとCBRの挙動を比較する。
動き推定シミュレーター
フレーム間符号化におけるブロックマッチング、動きベクトル、残差エネルギーを調べよう。
動画エンコーディング・ラボ
ビットレート、コーデック、CRF/CBR、画質のトレードオフを、リアルタイムの視覚的な見積もりで学ぼう。
畳み込みと特徴マップのプレイグラウンド
畳み込みカーネル、ストライド、パディングを、リアルタイムの入出力特徴マップとともに探索します。
量子化ラボ
ビット深度、量子化誤差、バンディングをライブのビジュアル例で探ろう。
Automata & Cryptography
RSA暗号のおもちゃ
小さな素数を使ってRSA公開鍵暗号を探る — 鍵生成、暗号化、復号をステップごとに確認しよう。
チューリングマシン・シミュレーター
テープと遷移規則をカスタマイズできるチューリングマシンをシミュレートしよう——計算の基礎となる概念です。
ブール式ソルバー
ブール論理式を入力し、中間部分式の列を含む完全な真理値表を生成する。
有限状態機械アニメーター
ライブの状態遷移図でDFAの遷移を1ステップずつ確認 — 各記号を読んだ後にどの状態がアクティブか、入力が受理されるかを観察します。
論理ゲート・エクスプローラー
信号パルス・タイミングチャート・真理値表付きの対話型論理ゲートおよび小規模回路ビジュアライザー。
Demos & Utilities
HTML アセット・画像・Markdown 抽出ツール
HTMLを貼り付けてカテゴリ別にリンクされたファイルを抽出し、画像優先のギャラリー表示とMarkdownテキストエクスポートを行う。
Lorem Ipsum ジェネレーターラボ
エントロピー制御、マルコフモード、Zipf頻度診断を備えたシード付きプレースホルダーテキストを生成する。
グローバーの検索アルゴリズム
グローバーの量子検索アルゴリズムを反復ごとに追跡。ターゲットの振幅が成長する様子を観察。
コンウェイのライフゲーム
グライダー、ガン、振動子などの古典的なパターンでコンウェイのライフゲームをシミュレートします。
フラクタル・エクスプローラー
シェルピンスキーの三角形、コッホ曲線、フラクタルツリー、ドラゴン曲線を、再帰の深さを調整しながら探索します。
ブロッホ球エクスプローラー
theta/phiコントロール、基底ごとの確率、H・X・Y・Zゲート変換を使って、ブロッホ球上の量子ビット状態を探索します。
量子ランダムウォーク
古典と量子のランダムウォークを並べて比較。量子干渉が二重ピーク分布を生み出す様子を見ましょう。
その他のツール
BPE トークナイザー探索
バイトペア符号化がテキストを、言語モデルが実際に読むトークンへどう分割するかを見る。語彙は固定、分割はその場で実行 — 英語は13トークン、同じ内容のドイツ語は36トークン。
トークンのベクトルと類似度
どのトークンがどのトークンの近くに現れるかを数えて作ったベクトル。対象はこのサイト自身の文章。最も高い組は ␣the と ␣is の0.505で、␣Earth と ␣Sun の0.299より高く、しかも何の意味も共有していない。
ビットレート/サイズ計算機
動画/音声のビットレートと再生時間から、現実的なファイルサイズの見積もりに変換します。
温度とサンプリング
実際の次トークン分布が温度で作り変えられ、top-k と top-p で切り落とされる様子を見る。温度はどのトークンが首位かを変えることはない。変わるのは差だけで、278倍から1.76倍まで。
画面解像度と視聴距離
パネルの対角線長と画素数、そして視聴位置から、その解像度が実際にどれだけ眼に届いているのかを計算します。視力が20/20であれば、答えは「分（ふん）」単位で測った視野角そのものになります。そして一般的な居間のテレビでは、その値は1080pにすら届かないことがほとんどです。