Di famiglia ebraica, è una delle voci più alte della poesia del XX secolo. Cresce a Pavlovsk e a Pietroburgo, dove studia tra il 1900 e il 1907 in un rinomato istituto, il Tenishev. Prima dei vent'anni ha già soggiornato per motivi di studio a Parigi e Heidelberg, e visitato la Svizzera e l'Italia. Attratto dalla poesia simbolista, si lega di amicizia con Anna Achmatova e aderisce alla poetica dell'acmeismo, il movimento letterario fondato da Gumilëv. 

Nel 1913 esce la sua prima raccolta di versi La pietra. Dopo la rivoluzione, nel 1918, lavora a Mosca per qualche tempo al Commissariato all'Istruzione, ma presto segue gli itinerari della sua attività poetica: la Russia meridionale, la Georgia, per serate di poesia e pubblicazioni su riviste. Nel 1919 a Kiev conosce Nadezhda Chazina, che sarebbe diventata sua moglie e avrebbe in seguito salvato buona parte della sua produzione letteraria. 

Ritornato a Pietroburgo nel 1920, Mandel'shtam pubblica altre due raccolte di poesie, Tristia e Poesie, prose e saggi critici, ma i suoi già difficili rapporti con l'ambiente circostante sono destinati a incrinarsi ulteriormente. Imbevuto di cultura classica, mito e spiritualità, si scontra con una società sempre più irregimentata dal conformismo ideologico e in cui gli spazi di creatività vanno progressivamente restringendosi. A far precipitare la situazione è una poesia contro Stalin. Tra il 1934 e il 1938 si succedono arresti, deportazioni, condanne, fino alla sua scomparsa, in un giorno rimasto per molto tempo sconosciuto, e in una tomba senza nome, nel GULag.

Nel box approfondimenti un saggio dell'avvocato Alberto Frisia su Osip e Nadezhda Mandel'shtam