布拉姆斯生於北德的港口城市—漢堡，父親是一個城市音樂師。布拉姆斯7歲開始學習鋼琴，19歲時成為小有名氣的鋼琴演奏師並進行旅行演出。

1853年他作為匈牙利小提琴家Eduard Reményi的隨從進行了一次演出旅行，在旅行到漢諾瓦的時候，他遇到了匈牙利著名小提琴家作曲家約瑟夫·姚阿幸（Joseph Joachim），然後又前往魏瑪宮廷，在那裡遇到了匈牙利作曲家李斯特。在那次旅行之後，布拉姆斯的作曲創作逐漸受到人們的歡迎。

姚阿幸給了布拉姆斯一封信，介紹他認識舒曼，布拉姆斯前往杜塞道夫去見舒曼，並受到舒曼的歡迎。他跟隨舒曼學習的時候，內心暗自愛上了舒曼的妻子克拉拉。在舒曼生病住院之後，布拉姆斯協助克拉拉照顧舒曼和他的孩子，舒曼死後，布拉姆斯克制住自己的感情，離開了克拉拉。他終生未婚，把自己的愛情留給了大他14歲的克拉拉。

1856年舒曼死後，布拉姆斯往來於漢堡與代特莫爾德大公國之間，他在漢堡擔任女生合唱團的指揮，在代特莫爾德擔任宮廷音樂教師兼指揮。1862年，他第一次訪問維也納，在那裡過了一個冬天。次年他被任命為維也納合唱團指揮，儘管他很快就辭職了，但是還是在維也納久居下來。

布拉姆斯剛剛三十歲時，他的藝術給人的印象已是有條不紊的古典式的完美。這位浪漫主義最後階段的大作曲家，是在舒伯特之後最接近古典時期音樂家的精神的。他聽到了當代的進步人士的激昂口號「向前看，忘掉過去」，而他卻變成一個歌唱過去的歌手；也許他相信通過歌唱過去，他可以為未來服務。他經過不懈的學習，發現這種控制可以從過去世代的大音樂家那裡學到；因此，他對古代音樂極感興趣，他搜集的書籍和手抄本，他進行的研究成果，簡直就等於是音樂學論文。但是他同時還學到：要使想象力馴服，就需要妥協和犧牲。布拉姆斯的每個作品都有著過去年代的精神和光榮的回聲。所以布拉姆斯的音樂並不給人以即時的直接的印象，它是由謹慎地掩蓋著的記憶滋養起來的，所以他的藝術抒情性和戲劇性少，更多的是史詩性。他的敏感性使他能夠覺察過去最優美的東西。由於他對現代抱對立的態度，他要求表達過去的美好印象的心情就更顯迫切。

布拉姆斯是舒曼的熱心崇拜者，這位青年浪漫主義者以創作鋼琴奏鳴曲開始他的音樂事業；對一個浪漫主義者，特別是在他的青年時期來說，這是很不平常的。因為當時盛行的是「個性小品」，是小型的抒情曲形式；即使是大型曲式，浪漫主義者也是用幾個小曲組成，或者是用自由的、幻想曲式的處理把一個歌曲式的結構擴大。看到青年布拉姆斯怎樣對抗、幾乎是排斥浪漫主義因素，確實令人吃驚。這些鋼琴作品對那得到奇妙發展的浪漫主義鋼琴音樂風格不予理睬。它們具有著自己的獨特鋼琴藝術風格。一直跟蹤他一生的巨大的衝突—貝多芬的陰影—在這裡，在他事業的開始時已經顯而易見。他的鋼琴音樂的努力寫作繼承了某些貝多芬樂章中的非鋼琴性質。清楚感覺到其中有一種要求交響曲式表現的深刻慾望，致使這些作品像舒曼所巧妙地形容的那樣，彷彿是「帶了面紗的交響曲」。布拉姆斯寫鋼琴曲和混合室內樂雖然輕而易舉，但他寫作古典主義時期兩個最大的形式—弦樂四重奏和交響曲卻極其小心謹慎而且耗費時間。在評價布拉姆斯時這一事實很重要，因為實際上他是一個浪漫主義者，他和舒曼一樣，本能地為小型的、親密的形式所吸引。他所寫的四重奏的數量很多，但除了集留下。這位抱負不凡的交響曲作曲家在其所處的音樂環境中得不到鼓舞；因為除了大膽的交響詩和其他新的交響曲外，他的同代作曲家還在寫的很多交響曲，不是破裂為無數片斷，就是像牛津大學的博士論文一樣精確地把交響曲的一切「規則」付諸實用而已。

布拉姆斯完全知曉交響曲的時代同舒伯特一道成為過去了，但由於他對那個英雄時代懷著深厚的景仰和懷念之情，促使他對命運本身挑戰。布拉姆斯的思想的嚴格性、他對偉大的古典交響樂作家的深刻信仰，以及他的交響音樂中蓄意追求而得的古香古色的風格驚動了另外的陣營—新德意志樂派。他們不能理解他們的一位同代人怎麼能夠躲過瓦格納和李斯特一代在音樂上所取得的一切成就。當時在維也納流行的刊物《沙龍報》擔任音樂評論的胡戈·沃爾夫Hugo Wolf曾寫出下列的話，表示他的驚訝：貝多芬之後音樂中的革命運動（在這運動中舒曼確實希望有一個救世主式的人物，而他以為他找到了這人—布拉姆斯）的領袖們從我們這位交響曲家的身旁走過，竟未在他身上留下任何痕跡……布拉姆斯對當時所發生的事態全然不顧，繼續寫他的交響樂。

布拉姆斯始終堅持古典主義形式創作音樂，與他同輩的音樂家中沒有一個人像他那樣接近貝多芬的理想，沒有一個人像他那樣能夠重建真正的交響樂思維；布拉姆斯的偉大藝術造詣使他的作品具有古典主義式的均衡，但人們會感覺到在這平靜的均衡的背後隱藏著某種東西，隱藏著一種悲劇性的哲學，一種悲觀主義和捨身忍讓的成熟世界觀。布拉姆斯、反對當時的音樂潮流，倒不是極端反對當時流行的音樂風格，而是反對當時音樂中文學和哲學的傾向；他們要使音樂重返到純音樂國裡去。浪漫主義的連續幾代人中，爭取貝多芬的遺產成了佔有世界的鬥爭，原來曾經是交響樂的美妙統一的結合體，而今，戲劇的、色彩豐富的因素又被分割成不同的構成部分，儘管浪漫主義的口號喊的是要求更加緊密的結合。

布拉姆斯1897年4月3日死於維也納，死後被葬在維也納中央公墓。