Mohamed Boudiaf naquit le 23 juin 1919 à Msila, au sein d’une grande famille connue dans la région. Il effectua ses études à M'sila avant d’occuper une fonction administrative.

Après la seconde guerre mondiale, il milita dans les rangs du Mouvement pour le Triomphe des Libertés Démocratiques et devint responsable du Nord Constantinois au sein de l’Organisation Spéciale.
Il joua un rôle éminent dans l’unification du courant pour l’action armée qui s’était détaché du parti, en raison du conflit entre messalistes et centralistes au cours des années 1953-1954.
Il participa efficacement à la réunion des 22 et au Comité Révolutionnaire pour l’Unité et l’Action.

Mohamed Boudiaf est considéré comme l’un des hommes historiques ayant veillé à la préparation puis au déclenchement de la Révolution. Il fut désigné au sein de la Délégation Extérieure du Front de Libération Nationale en 1954 et œuvra à l’organisation du FLN en France.
Il fut emprisonné avec Ahmed Ben Bella le 22 octobre 1956 lors du détournement d’avion et demeura membre du Conseil National de la Révolution de 1956 à 1962. Il fut nommé ministre d’Etat (1958) puis vice-Président du Gouvernement Provisoire en 1961.
Il fut libéré le 19 Mars 1962 en compagnie de ses frères arrêtés avec lui.