Η κλασσική θεωρία πληροφορίας χρησιμοποιεί την αμοιβαία πληροφορία για να ορίσει τη χωρητικότητα των καναλιών και τη συμπίεση των πηγών πληροφορίας. Για κανάλια και πηγές χωρίς μνήμη και ανατροφοδότηση, το μέτρο αυτό μπορεί ...