La première gare définitive de Mulhouse est réalisée en 1841, et reste en service jusqu'en 1933.


La première ligne d'Alsace de Mulhouse - Thann est ouverte en 1839. Ce premier chemin de fer d'Alsace est un grand succès ; là où les pessimistes ne prévoyaient guère qu'une cinquantaine de passagers quotidiens, on atteint rapidement les 550 utilisateurs par jour en décembre 1839, et ce nombre monte encore les mois suivants. Des pointes aiguës sont même notées, comme le lundi de Pâques 1840 où plus de 2800 personnes prennent d'assaut les convois. L'aspect financier de l'opération est cependant un peu moins positif. En mars 1840, l'assemblée des actionnaires doit voter un emprunt de 400 000 francs destiné au paiement des dépenses supplémentaires nécessitées par des extensions de certaines gares et la construction de l'embarcadère provisoire de Mulhouse. Le trafic marchandises a de plus déçu ; il ne représente que 12% des recettes de la Compagnie. A l'ouverture de la liaison Strasbourg - Bâle en 1841, malgré la réussite technique de ce chemin de fer, la Compagnie se retrouve en proie à de graves difficultés. Pourtant, les relations proposées passionnent les foules ; pendant le premier mois, on relève environ 100 000 utilisateurs dans les nouveaux convois ; pour les exercices 1842 et 1843, on note avec satisfaction plus de 700 000 voyageurs par année.