L'histoire de l'euphonium commence au 18ème Siècle, avec son ancêtre, le serpent doté de six trous pour les doigts. Au 19ème Siècle, on lui ajoute des clefs, mais cela ne résoud pas les problèmes d'intonations et le serpent commence à être déprécié. Le musicologue Burney, en compare le son à celui d'un "veau affamé".
En 1817, le fabriquant Français Halary invente l'ophicléide, combinaison entre le basson moderne et le saxophone baryton, mais avec une embouchure. L'utilisation des clefs permet aux fabriquants de concevoir des instruments plus juste et plus puissants que le serpent. Par exemple Berlioz utilisa l'ophicléide dans la Symphonie Fantastique.
En 1842, Adolphe Sax installe une fabrique d'instruments à Paris, où il invente à la fin du siècle la famille des saxhorns allant du soprano au basse, les ancêtres directs des instruments d'aujourd'hui. Utilisés surtout dans les orchestres militaires mais aussi bientôt en Angleterre dans les Brass Band (Orchestre de cuivres).
De nombreux compositeurs ont écrit pour cet instrument, tels que G. Mahler, R. Stauss, G .Holst.