Édesapja, id. Babits Mihály törvényszéki bíró volt (később a budapesti ítélőtáblához nevezték ki, majd a királyi tábla decentralizációja következtében Pécsre helyezték), édesanyja Kelemen Auróra (művelt, versszerető - könyv nélkül tudta az Anyegint, a Toldi szerelmét, A délibábok hősét). Tanulmányait Pesten, Pécsen, a ciszterciek gimnáziumában (ma: Ciszterci Rend Nagy Lajos Gimnáziuma) végezte, majd érettségi után a Pázmány Péter Tudományegyetem Bölcsészettudományi Karán magyar-francia (az utóbbi helyett később latin) szakos hallgató lett. Négyesy László híres stílusgyakorlatóráin ismerkedett meg Juhász Gyulával és Kosztolányi Dezsővel.Latin-magyar szakon szerzett diplomát. A századfordulótól írt verseket, de ezeket nem publikálta. Baján, Szekszárdon, Újpesten, Pesten, Szegeden (1906–1908) dolgozott gimnáziumi tanárként. Ez után Fogarason, majd 1911–1916 között az újpesti Könyves Kálmán, a budapesti tisztviselőtelepi, végül a Munkácsy utcai gimnáziumban tanított. Első műveivel a Holnap című antológiában jelent meg (1908).

1909-ben jelent meg első kötete Levelek Iris koszorújából címmel. 1911 folyamán jelent meg második kötete (Herceg, hátha megjön a tél is). Ekkor még főállásban tanító, az újpesti Könyves Kálmán Gimnáziumban. 1913-ban fantasztikus regénye jelent meg, A gólyakalifa címmel. Egy verse (Játszottam a kezével) megjelenésekor hazafiatlansággal vádolták, s bár a vers sokkal inkább volt háborúellenes, elvesztette tanári állását. Harmadik verseskötete, a Recitativ 1916-ban jelent meg.

A Nyugat főmunkatársa, majd 1919-ben egyetemi tanár, de csak a Tanácsköztársaság bukásáig. 1921 folyamán házasodott össze Tanner Ilonával. 1924-ben az esztergomi Előhegyen vettek nyaralót, ahol a költő haláláig sokat időztek, Babits sok műve itt született. Ettől kezdve Babits a város kulturális életének meghatározó alakja lett. Alapítótagja volt a városban máig működő Balassa Társaságnak. Esztergomi házában több híres írót, költőt, művészt fogadott, akik mind aláírták az úgynevezett autogram-falat. A nyaraló ma Babits-múzeumként működik.

1933-ban írta utolsó regényét, az Elza pilóta, vagy a tökéletes társadalom című antiutópiát egy állandó háborúban élő kilátástalan világról. Az események egy meghatározatlan társadalomban játszódnak, ahol a háborúban a férfiak zöme már meghalt, így a nők is katonai szolgálatot teljesítenek. Elza pilótakét fogságba kerül és így saját szülővárosát kell bombáznia.

1929-től lett főszerkesztője a Nyugatnak, a kor legmeghatározóbb magyar irodalmi folyóiratának. Lírájára amúgy is jellemző pesszimizmusát tovább fokozta a diagnózis, hogy gégerákban szenved. 1938-ban gégemetszést hajtottak végre rajta, képtelen volt beszélni, ezért beszélgetőfüzetén keresztül érintkezett a külvilággal. 1938-ban jelent meg a Jónás könyve. 1941. augusztus 4-én halt meg.