Un tenseur est un tableau multidimensionnel.
Pour les réseaux de neurones et a fortiori le Deep Learning, les données et les résultats des calculs sont représentés par des tenseurs.
Par exemple, une image en niveaux de gris est un tenseur 2D, une image couleur un tenseur 3D.
Les sons, les vidéos et même le texte sont représentés par des tenseurs.
Un tenseur a 2 propriétés : son type (de données), par exemple int32 et sa shape
On dit que le tenseur est la lingua franca des modèles de réseaux de neurones.
Voir ici pour aller plus loin.