Les sciences appliquées en (télé)communications sont à la base du développement de la théorie classique de l'information dans une première version, dite syntaxique, essentiellement due aux travaux de l'ingénieur Claude Shannon. Nous rappellerons brièvement les résultats acquis dans ce domaine: mémorisation auto délimitée des messages, compression et protection contre le bruit.

Une deuxième version, que l'on pourrait qualifier de sémantique, a ensuite vu le jour sous l'impulsion du mathématicien Andreï Kolmogorov. Elle a complètement renouvelé le regard que l'on peut porter sur les sciences exactes. C'est cette version qui retiendra essentiellement notre attention. On y définira la notion de complexité algorithmique des systèmes abstraits (du ressort des mathématiques) ou concrets (du ressort de la physique).

En mathématiques, on exposera le point de vue de Gregory Chaitin sur le traitement dynamique des systèmes formels. En physique on appliquera la même notion de complexité à l'étude des systèmes ordonnés et désordonnés. On montrera comment les travaux de Rolf Landauer et de Charles Bennett ont jeté de nouvelles lumières sur les notions d'irréversibilité et d'entropie. On présentera leur relecture du second principe.

De cette matière, située à l'intersection de l'informatique théorique, de la logique, des mathématiques constructives et de la physique, on tentera une présentation informelle, largement basée sur l'intuition mais qui ne sacrifie pas la rigueur.