Sous-officier de carrière dans les unités cosaques, passe dans l'Armée Rouge en 1917, lié à Staline dès 1919.

Boudienny sera l'un des grands généraux de l'armée rouge pendant la guerre civile. C'est notamment lui qui dirigera la cavalerie rouge.

Nommé maréchal en 1935, membre du Comité Central en 1939, relevé de ses fonctions après les défaites contre les nazis de 1941.