Le nom de cette commune proviendrait d’une villa gallo-romaine sise en bordure de rivière, la Haine. Dans un document de 1071, on employait l’appellation ” Ville-sou-Haynne”. Par la suite le nom évolue en “Villa-Super-Hoeniam” (1240), “Ville-Sour-Haine” (1293), “Ville-sur-Haysne” (1660), “Ville-Sur-Heine” (1744).
Ville-sur-Haine fut dévastée à deux reprises par l’armée française.
En wallon “Vile-so-Inne” était une commune à part entière avant la fusion des communes de 1977.
Le 21 juillet 1962, Ville-sur-Haine a été jumelé avec la localité de Quinsac en France (région bordelaise). Le wagonnet de mine au centre de la place de la Wanze rappelle ce jumelage.