1917'de Köln'de doğdu. 1924 yılında okula gitmeye başladı. 1937'de liseyi bitirdi. 17 yaşında şiir yazmaya başladı. 1938 yılının sonbaharında çalışma kampına, bir yıl sonra da askere alındı. Piyade olarak, doğu ve batı cephesine gönderildi. 1945 yılının Nisan ayından Eylül ayına kadar, İngilizlerin ve Amerikalıların elinde savaş esiri oldu. Savaş bitip Köln'e döndükten sonra, hem üniversite öğrenimini sürdürdü hem çalıştı. 1947 yılında ilk kısa öyküsü Haberci, sonra ilk romanı Ademoğlu Neredeydin?, Ve O Hiçbir Şey Demedi yayınlandı. Yapıtlarında İkinci Dünya Savaşı'nı, özellikle de insanların nasıl savaştıklarını, savaşın yıkıntılarını ve acılarını anlattı.
"Ve O Hiçbir Şey Demedi" adlı en ünlü romanını yazarken aklında tek bir gerçek vardı. Savaş yanında yoksulluk ve zor koşullar getirmiş, hayatını değiştirmişti. Mayına bastığı için yaralanan dizini iyileştirebilmek için para gerekliydi. O yüzden Böll, 5 gün evden çıkmadan bu eseri yazdı. Yayınevinden aldığı para ile de dizini eski hale getirmeyi başardı ve yazar olarak kariyeri devam etti.
Daha sonra yazdığı Babasız Evler adlı romanını, kendi babasını yitirmesinin ardından değil; ama çevresinde savaş yılları sonrasında acı çeken onlarca çocuğu gördükten sonra yazmıştır. Kendisi, savaş sonrası koşullardan, yoksulluk, açlık ve hastalık gibi sıkıntılardan hem kendi geçtiği, hem de çevresinde bu durumlardan acı çeken birçok insan gördüğünden, hiçbir zaman çocuk sahibi olmak istememiş, kendi deyimiyle "Böyle bir dünyaya çocuk getirmek" istememiştir.
16 Temmuz 1985'te, 67 yaşında, evinin merdiveninden yuvarlanarak hayatını kaybetmiştir.