Créé le 1° janvier 1924 à Nice, il est l’héritier du 2° régiment d’artillerie de montagne (1910-1923), et plus anciennement des batteries alpines du 19° régiment d’artillerie (1889-1910). A la déclaration de la grande guerre, la 2° batterie est en opération au Maroc. Le 1° janvier 1924, le 2° RAM devient le 94° régiment d’artillerie de montagne.
En juin 1925 il envoie au Maroc 2 batteries de 65 de Montagne pour participer aux opérations de la guerre du Rif. Après 6 mois de campagne, les batteries rentrent du Maroc en décembre 1925 et commencent à toucher un nouveau matériel : le 75 de montagne Schneider.
En 1934, une nouvelle organisation des troupes fait du 94° RAM le régiment d’artillerie de la 30° DI Alpine.
C’est un régiment d’active mis sur pied par le CMA 215 de Nice. A la déclaration de guerre en 1939-1940, son groupe lourd sert de noyau pour la formation du 294° RALD. Ces deux régiments sont affectés à la 29° DI Alpine qui combattra sur le front nord-est. Il est commandé par le colonel Clamens.
Il est constitué de 3 groupes :
Au 10 mai 1940 la 29° DI Alpine, sous les ordres du général Gerodias, est en réserve du Grand Quartier Général. Fin mai, elle est envoyée sur la Somme pour tenir la Ligne Weygand. Elle est intercalée entre la 3° DLI et la 19° DI, au sein de la 7° armée du Général Frère. Elle est positionnée derrière la Somme, au nord de Roye.
Elle subit le 5 juin 1940 l’attaque allemande (Opération Fall Rot) avec la percée de la 4.PzD vers Noyon. Les 5 et 6 juin, les batteries tirent pendant 36 heures d’affilée, tentant de soutenir au maximum la résistance de l’infanterie. Mais au soir du 6 juin, les positions du régiment doivent être abandonnées, face à la pression des troupes allemandes qui ont réussi à progresser.
Le 7 juin, la division est regroupée à l’arrière du front.
Du 9 au 12 juin, elle est au nord de la région parisienne, en second échelon. Le 94° RAM s’installe dans la forêt de Senlis.
Le 13, le 94° RAM se replie au sud par Villiers sur Marne et Marolles en Brie.
Au 13 juin, le I/94° est encore relativement intact mais le II/94° et une partie du III/94° ont été fait prisonniers ainsi que l’état major du régiment. Le 15 juin, les restes du régiment traversent de justesse le pont de Jargeau, à l’est d’Orléans avant que l’aviation allemande ne le détruise. Le régiment stationne derrière la Loire, à Sandillon qui est à l’ouest de Jargeau, jusqu’au 18 juin.
Ensuite, la retraite est effectuée vers le sud-ouest par l’Indre, la Vienne pour rejoindre Périgueux (Dordogne) le 24 juin. Le régiment rejoint ensuite Sauzet (Lot) le 25 juin. Il retourne en Dordogne le 29 juin. Il est ensuite démobilisé.