トーク:出典の事実をもとにした再構成。相手は架空の読者(右の吹き出し)。トークの中身:メッセージは「ありうるメッセージの集まりから選ばれた1つ」・意味の側面は工学の問題に関係がない①、底2の対数で測る単位が bit ①。天気のたとえは、このページの説明用です。
当時の人たちは、こう考えていました。 電信・電話・ラジオ。通信の技術は、どんどん良くなっていました。でも、「どれだけの情報を送ったか」を測る共通の物差しはありませんでした。ナイキストやハートレーが1928年に通信の量について論じていましたが⑥、雑音のある線で、どこまで正確に、どれだけ速く送れるのか。その限界を一般に言える理論は、まだなかったんです。
でも、ここはまだ分かっていないままでした。 そもそも「情報」とは、数えられるものなのか。手紙の文面、声、写真。形も意味もばらばらなものを、1つの単位で測れるのか。
ボルツマンのページでは、熱を分子の数え上げで測る話をしました。1872年の H 定理に出てくる H という量も、その1つです。その76年後の1948年、アメリカの電話会社の研究所で、同じ形の式が、まったく別のものを測るために使われました。論文には、こう書かれています。「H は、たとえばボルツマンの有名な H 定理の H である」①。どの場合も同じ確からしさのとき、この H は場合の数の対数(log n)になります①。ボルツマンの墓石に刻まれた log W と同じ形です。
形も意味もばらばらな「情報」を、シャノンはどうやって1つの数で測れるようにしたのか?
ボルツマン(熱を並び方の数で)→ シャノン(いまここ。同じ形の式で情報を) → チューリング・フォン・ノイマン(機械は考えられるか・計算機の設計)
WHEN | 時代背景1948年、同じ研究所の同じ夏に、トランジスタと情報理論が生まれた
1937年は、戦争の影が広がった年でした。日本では7月に盧溝橋事件が起き、日中戦争が始まります。8月にはトヨタ自動車工業が設立されています⑧。その年、アメリカの MIT で、21歳の大学院生が修士論文を書きます。スイッチの「入」と「切」を、論理の計算に結びつける論文でした②。
1948年は、戦後の世界の形が決まっていった年です。4月に世界保健機関ができ、12月には国連で世界人権宣言が採択されます。日本では11月に東京裁判の判決が出ました⑨。
そしてこの年、アメリカのベル研究所から、2つの発表が続けて出ます。6月30日、トランジスタ。真空管に代わる部品として発表されました⑨。その翌月、同じ研究所の雑誌に、シャノンの「通信の数学的理論」が載りました①②。情報を運ぶ部品と、情報を測る理論が、同じ研究所から、同じ夏に生まれたんです。
その理論を書いたのは、どんな人だったのか?
WHO | 挑戦者一輪車でジャグリングをする、遊びの天才
(年齢は生年月日からの計算)
クロード・シャノンは1916年、アメリカのミシガン州に生まれました②。MIT の大学院にいた21歳のとき、修士論文で、論理の計算(ブール代数)を、リレーとスイッチの回路に当てはめます②。スイッチの「入・切」を、論理の「真・偽」として計算できる。これは今のデジタル回路の設計の土台になりました。のちにハワード・ガードナーは、この論文を「おそらく今世紀で最も重要で、最も有名な修士論文」と呼んでいます②。
第二次世界大戦中はベル研究所で、射撃の狙いを定める仕組みと、暗号を研究しました②。1943年の初めには、チューリングと、研究所の食堂のお茶の時間に会っています。チューリングは、「万能チューリング機械」を定めた1936年の論文を、シャノンに見せました②。
シャノンは、遊びの人でもありました。ジャグリング、一輪車、チェス。ローマ数字で計算する計算機(THROBAC)、ジャグリングをする機械、ルービックキューブを解く装置まで作っています②。1950年には、妻のベティと一緒に、迷路を試行錯誤で覚える機械のネズミ「テセウス」を作りました②。
主な成果 転落・対立
- ミシガンから MIT へ
- 19160歳ミシガン州 4月30日、ペトスキーに生まれる。家族は近くのゲイロードに住んでいた②
- 193721歳MIT 修士論文「リレーとスイッチ回路の記号的解析」。夏、数か月ベル研究所で働く②成果
- 194023〜24歳MIT 数学の博士号。このころまでに標本化定理を導いていた②③
- ベル研究所(戦争と通信)
- 第二次世界大戦中20代ベル研究所 射撃管制と暗号の研究②
- 194326歳ベル研究所 初め、チューリングと食堂のお茶の時間に会う②
- 194832歳ベル研究所 「通信の数学的理論」①②成果
- 194932〜33歳「秘密通信の理論」「雑音のあるときの通信」。ベティと結婚②③⑥
- 195033〜34歳チェスを指すプログラムの論文。迷路を覚える機械のネズミ「テセウス」②
- MIT(遊びと教え)
- 195640歳ダートマス会議を共同で開く。MIT の教員に(1978年まで)②
- 197356〜57歳クロード・E・シャノン賞ができ、最初の受賞者に②
- 198568〜69歳京都賞②
- 200184歳マサチューセッツ州 2月24日、死去②転落
その人が、通信の世界で何を見つけたのか?
WHAT | 達成した事起こし情報を、bit という単位で測れるものにした
ブール代数をスイッチの回路に当てはめた。今のデジタル回路の設計の土台
②
スイッチの回路と、論理の計算は別の世界情報のエントロピー:メッセージの不確かさを H = −Σ p log p で測る。単位は bit
①
情報の量は、文字の数や意味の重さで決まる通信路の容量:雑音のある線でも、ある上限までは、符号の工夫で誤りなく送れる(シャノン=ハートレーの定理)
⑥
雑音があれば、誤りは避けられない標本化定理を通信の技術者に広める:波は、細かく区切った点の値から完全に元に戻せる
③
連続した波(声・音楽)と、とびとびの数字の列は別のものこのページの主役は、1948年の2枚目です。論文は、こう始まります。
「通信の根本の問題は、ある点で選ばれたメッセージを、別の点で正確に、またはおおよそ再現することである」①
そして、すぐにこう続けます。
「メッセージは、しばしば意味を持つ。……しかし、通信のこうした意味の側面は、工学の問題には関係がない。大事なのは、実際のメッセージが、ありうるメッセージの集まりから選ばれた1つだということだ」①
情報の量は、意味の重さではなく、「いくつの中から選ばれたか」で測る。シャノンはそう割り切りました。
(説明用の計算で、史実ではありません)
表と裏が半々の硬貨を投げた結果を知らせる。2つのうち1つなので、情報は1 bit です。
表が出る確率が9割の、かたよった硬貨だったら? 「表」と聞いても、たいてい予想どおりなので、あまり情報はありません。シャノンの式で計算すると、1回あたり約0.47 bit。予想しにくいものほど、情報が多いんです。
シャノンは論文で、対数の底を2にしたときの単位を「二進数字(binary digits)、短く言えばビット(bits)」と書き、「J・W・テューキーが提案した言葉」と添えています①。bit を論文で使ったのはシャノン、言葉を提案したのはテューキーです。
情報を測ろうとしたとき、あなたならどうする?
CROSSROADS | 分かれ道意味の深い一文も、でたらめな文字列も、送る手間は同じ
あなたはシャノンです。1940年代、ベル研究所。電信や電話の線で、どれだけの「情報」を送れるのかを知りたいと考えています①②。
ところが、困ったことに気づきます。深い意味のある一文も、でたらめに並べた文字列も、同じ文字数なら、線で送る手間は同じです。でも、人が受け取る「情報」は、まるで違うように思える。
この違和感を目にしたとき、あなたならどうする?
Aこれまでの見方を受け取る:情報とは意味のこと。意味の大切さ・重さで、情報の量を測る方法を考えるタップして、その先へ
B線の側を測る:文字の数や、送った電気の信号の数を数えて、それを情報の量とするタップして、その先へ
C意味を捨て、「選べた数」を測る:メッセージを、ありうるメッセージの集まりから選ばれた1つと見て、その選びにくさ(不確かさ)を確率で測るタップして、その先へ
Dまず機械を良くする:理論は後回しにして、雑音の少ない線や、良い増幅器を作ることに集中するタップして、その先へ
シャノンが進んだ道は C。
「選べた数」を、どうやって式にしたのか?
HOW | 泥沼の攻略法不確かさを確率で測ったら、ボルツマンの式が出てきた
スライドの中身:出典の事実をもとにした再構成です(本人の発表の記録ではありません)。
まず目を向けたいのは、何を捨てたかです。シャノンは、情報から「意味」をはっきり切り離しました①。人にとっての大切さは測らない。測るのは、受け取る前にどれだけ予想できなかったか。だからこの物差しでは、でたらめに並べた文字列のほうが、意味のある一文より、1文字あたりの情報が多くなります。次の文字が予想できないからです。シャノンは、ふつうの英語の文は、およそ半分が言葉の決まりで決まっていて、自由に選ばれているのは残りの半分だけ(冗長さ約50%)と見積もっています①。この割り切りがあったから、文字にも、声にも、写真にも使える、1つの物差しができたんです。
次が式です。いくつかのメッセージが、それぞれ確率 p で選ばれるとき、その不確かさを H = −Σ p log p で測る①。そして、この形を見たシャノンは、論文にこう書きました。
「H の形は、統計力学のある定式化のエントロピーと同じである。……たとえば、ボルツマンの有名な H 定理の H である。H = −Σ p log p を、確率の集まりのエントロピーと呼ぶ」①
ボルツマンは、分子の並び方の数で、熱の「戻りにくさ」を測りました。シャノンは、メッセージの選ばれ方で、情報の「予想しにくさ」を測りました。どちらも、たくさんの可能性の中の1つが実際に起きる、という場面を確率で数えています。同じ形の式が出てきたのは、そのためです。
最後が限界です。雑音のある線でも、送れる量には上限(通信路の容量)があり、その上限までは、符号の工夫で誤りなく送れる⑥。カルノーが熱機関に「越えられない上限」を引いたように、シャノンは通信に上限を引いたんです。
シャノンがフォン・ノイマンを訪ねたとき、こう言われたと伝えられています。「エントロピーと呼びなさい。……それに、エントロピーが本当は何なのか誰も分かっていないから、議論ではいつも君が有利になる」。ただし、この話は1939年のこととされ、伝える資料によって言い回しも食い違っていて、1948年の論文との関係ははっきりしません⑤。
自分の名前が付いた手柄を、シャノンはどう扱ったのか?
DARK SIDE | 失敗と苦悩の記録名前の付いた定理を、自分のものだと言わなかった
- 1915ホイッテーカーが、点の値から波をつなぐ式を出す③
- 1920日本の小倉金之助が、標本化定理を最初に証明したとされる論文③④
- 1924・1928ナイキストの仕事(定理そのものは書いていない)③
- 1930年代ソ連のコテリニコフが独立に発見(ロシアでは「コテリニコフの定理」)③④
- 1940年までシャノンも標本化定理を導いていた②③
- 1949年シャノンの論文で通信の技術者に広まる。本人は「通信の技術では常識になっている事実」と書いた③
- 1949年日本の染谷勲も、シャノンと並行して日本に紹介④
- 晩年アルツハイマー病になり、最後の数年は介護施設で過ごす②
- 2001年2月24日死去。84歳②
標本化定理は、いま「ナイキスト=シャノンの標本化定理」と呼ばれます。でも、最初に見つけたのはシャノンではありません。1915年にはホイッテーカーが点の値から波をつなぐ式を出し、ソ連のコテリニコフも独立に見つけていました③。そして、この定理を最初に証明したのは、日本の数学者、小倉金之助の1920年の論文だとされています③④。日本では1949年、染谷勲が、シャノンと並行してこの定理を紹介しています④。
シャノン自身は、1949年の論文で、この定理を「通信の技術では常識になっている事実」と書きました。自分が最初だとは主張していません③。bit という言葉も、テューキーの提案だと自分の論文に書いています①。名前の付いた手柄の一部は、シャノン1人のものではありませんでした。そしてシャノンは、それを隠さなかったんです。
晩年のシャノンは、アルツハイマー病になり、最後の数年を介護施設で過ごしました。2001年2月24日、84歳で亡くなります②。
では、この人の何がすごかったのか?
WHY | なぜそれが凄かったのか「何を測らないか」を決めて、測れるようにした
形も意味もばらばらな情報を1つの数で測れたのは、シャノンが「意味は測らない」と割り切り、メッセージを「ありうるものの中から選ばれた1つ」と見て、その選ばれ方の不確かさを確率で測ったからです。そうして作った式は、ボルツマンの H 定理の H と同じ形で、どの場合も同じ確からしさなら、墓石の log W と同じ形になるものでした。
情報量には、シャノン(Sh)という単位があります。国際規格(IEC 80000-13、2008年)の単位で、「確率1/2の出来事が持つ情報量」が1シャノンです⑦。bit は「二進数字」の略で、テューキーが名付けた言葉①。bit が「0か1かの信号1つ」を指すのに対し、シャノンは「情報の量」を指す単位で、考え方が別なんです⑦。
ナイキスト=シャノンの標本化定理(ロシアではコテリニコフの定理):信号が B ヘルツより高い周波数を含まないなら、1/(2B) 秒より細かい間隔の点の値から、完全に元に戻せる。デジタルの音や通信の土台です③。
シャノン=ハートレーの定理:雑音のある通信路で誤りなく送れる量の上限は C = B log₂(1 + S/N)(B は帯域、S/N は信号と雑音の強さの比)⑥。
1950年の論文「チェスを指すコンピュータのプログラム」で、シャノンはチェスのありうる対局の数を、約10の120乗と見積もりました。この数は「シャノン数」と呼ばれています②。
「クロード・E・シャノン賞」(1973年にでき、最初の受賞者は本人)、小惑星18838 Shannon、家族が住んでいたゲイロードのクロード・シャノン記念公園②。
― いまの私たちへ ―
「何を測らないか」を先に決める
シャノンは、意味を測るのをやめたことで、情報を測れるようにしました。
仕事でも、「顧客満足」や「チームの雰囲気」のように、何もかも含んだまま測ろうとすると、何も測れません。「今回は○○は測らない。測るのは△△だけ」と先に決めると、1つの数字が手に入ります。測らなかった部分は、別の方法で見ればいいんです。
報告は「予想できなかったこと」から伝える
シャノンの物差しでは、聞く前から分かっていることには、情報がほとんどありません。
週次の報告で「予定どおり進んでいます」をくり返すより、「予想と違ったのはここです」を先に伝える。受け取る人にとっての情報は、驚きの多い所にあります。
あなたの次の報告で、相手にとって「予想できなかったこと」は何でしょうか?
情報は、選ばれ方の不確かさとして、bit で測れる。雑音があっても、上限までは誤りなく送れる。分からなかったことが、1つ分かったんです。
でも、分かったら、次の分からないことが生まれました。シャノンが切り離した「意味」は、どうなるのか。意味を扱う機械は、ありうるのか。
シャノンは、「意味の側面は工学の問題には関係がない」と割り切りました①。では、意味を理解し、考える機械は作れるのか。1943年にシャノンとお茶を飲んだチューリングは、1950年、「機械は考えられるか」という問いを正面から立てます。そして、情報を記憶し、計算する機械の設計図を書いたのが、フォン・ノイマンです。その続きは、チューリングとフォン・ノイマンのページで。
出典
冒頭のトークは、出典①の論文の考え方をもとにした再構成で、会話そのものの記録ではありません。天気と硬貨のたとえは、このページの説明用です。論文の一文・ガードナーの評・フォン・ノイマンの言葉は、出典①②⑤の英文からこのページで訳したものです。チューリングの1950年の問いとフォン・ノイマンの設計図は、それぞれのページの出典に拠ります。
- ① Shannon, C. E. "A Mathematical Theory of Communication", *Bell System Technical Journal* 27:379–423, 623–656(1948年7月・10月)https://people.math.harvard.edu/~ctm/home/text/others/shannon/entropy/entropy.pdf(通信の根本の問題・意味の側面は工学に関係がない・H = −Σ p log p・ボルツマンの H 定理の H・すべての確率が等しいとき H は最大で log n・英語の冗長さ約50%・bit とテューキー。一次資料。確認日 2026-10-18)
- ② Wikipedia「Claude Shannon」https://en.wikipedia.org/wiki/Claude_Shannon(生没・「情報理論の父」の呼び名・修士論文とガードナーの評・博士号・戦時の研究・チューリングとのお茶・1949年の論文と結婚・チェスとシャノン数・テセウス・遊びの発明・ダートマス会議・シャノン賞・京都賞・晩年。参考。確認日 2026-10-18)
- ③ Wikipedia「Nyquist–Shannon sampling theorem」https://en.wikipedia.org/wiki/Nyquist%E2%80%93Shannon_sampling_theorem(定理の中身・先行者・小倉金之助・「通信の技術では常識」。参考。確認日 2026-10-18)
- ④ Wikipedia 日本語版「標本化定理」https://ja.wikipedia.org/wiki/標本化定理(小倉金之助1920・染谷勲1949・コテリニコフ。参考。確認日 2026-10-18)
- ⑤ Wikipedia「History of entropy」https://en.wikipedia.org/wiki/History_of_entropy(フォン・ノイマンの命名の話。トリバスとマキルヴェイン1971、エイヴリー2003を引き、話が出典によって違うと書く。参考。確認日 2026-10-18)
- ⑥ Wikipedia「Shannon–Hartley theorem」https://en.wikipedia.org/wiki/Shannon%E2%80%93Hartley_theorem(容量の式・ナイキストとハートレー1928・誤り訂正で容量まで送れる。参考。確認日 2026-10-18)
- ⑦ Wikipedia「Shannon (unit)」https://en.wikipedia.org/wiki/Shannon_(unit)(IEC 80000-13・確率1/2の出来事の情報量・bit との違い。参考。確認日 2026-10-18)
- ⑧ Wikipedia 日本語版「1937年」https://ja.wikipedia.org/wiki/1937年(ヒンデンブルク号・盧溝橋事件・トヨタ自動車工業。参考。確認日 2026-10-18)
- ⑨ Wikipedia 日本語版「1948年」https://ja.wikipedia.org/wiki/1948年(WHO・トランジスタの発表・世界人権宣言・東京裁判の判決。参考。確認日 2026-10-18)
シャノンについてよくある質問
シャノンは何をした人?
アメリカの数学者・技術者で、「情報理論の父」と呼ばれる人です。1948年の論文「通信の数学的理論」で、情報の量を、メッセージの不確かさとして H = −Σ p log p(情報のエントロピー)で測り、bit という単位で表しました。1937年の修士論文では、ブール代数をスイッチの回路に当てはめ、今のデジタル回路の設計の土台を作っています。
標本化定理(ナイキスト=シャノンの定理)とは?
信号が B ヘルツより高い周波数を含まないなら、1/(2B) 秒より細かい間隔で測った点の値から、元の波を完全に戻せる、という定理です。デジタルの音や通信の土台になっています。シャノンの1949年の論文で広く知られましたが、本人は自分が最初だとは言っておらず、最初の証明は日本の小倉金之助の1920年の論文だとされています。ロシアでは「コテリニコフの定理」と呼ばれます。
シャノンから何を学べる?
「何を測らないか」を先に決めることで、測れなかったものを測れるようにする考え方です。シャノンは情報から意味を切り離し、選ばれ方の不確かさだけを測ることで、文字にも声にも使える共通の物差しを作りました。また、予想できなかったことほど情報が多い、という考え方は、報告や連絡の伝え方にもそのまま使えます。
このクエストから得た武器を装備する
「「何を測らないか」を先に決める」。
この思考を、今のあなたの仕事にどう適用しますか?