信号与系统

绪论

信息：可以消除不确定性的东西

信息量：一件事发生的概率小，但是它发生了，我们认为它的信息量较大。

信息量公式： $$ I(x_i)=-\log_2P(x_i) $$

I(xi) 表示事件的信息量

P(xi)表示事件发生的概率

信息熵公式: $$ H(X) = -\sum_{i=1}^{n} p(x_i) \log_2 p(x_i) $$ 一般来说，我们倾向于不需要媒质、成本低、简洁、传播速度快、传输可靠的信号。

反例：学习知识