Web Analytics Made Easy - StatCounter

工業大学生ももやまのうさぎ塾

4年間+2年間の工業大学・大学院で学んだ知識やためになることを投稿していきます

情報-情報理論

うさぎでもわかる情報量・エントロピー・相互情報量(情報理論)

この記事では、情報理論の基礎となる情報の大きさを数値化したものである情報量、情報量の期待値であるエントロピー、2つの情報がどれほどの相関をもっているのかの相互情報量についてまとめています。