Группа была основана гитаристом Рихардом Круспе, эмигрантом из ГДР, после его возвращения на родину в город Шверин. Все члены группы — из бывшей Германской Демократической Республики, в частности Восточного Берлина и Шверина. Круспе является основным композитором группы. В 1994 году вместе с Тилем Линдеманном (вокал), Оливером Риделем (бас-гитара) и Кристофом Шнайдером (ударные) они выиграли конкурс в Берлине, получив право записи на профессиональной студии. Годом позже к группе присоединился второй гитарист Пауль Ландерс, а затем и клавишник Кристиан Лоренц. Название группы было составлено из слов — Ramm (таран) и Stein (камень), и одновременно отсылает к названию города Рамштайн-Мизенбах, где, на военной базе НАТО в время авиашоу в 1988 году произошла авария со множеством жертв. Об этой аварии рассказывает одноимённая городу (но не группе) песня Rammstein.
В 1995 году группа выпустила альбом Herzeleid на студии Motor Music. Уже первый диск Rammstein завоевал широкую популярность, став «золотым».
Группа пользуется большим успехом как в Германии, так и за её пределами, и после выпуска альбома «Reise, Reise» они стали самой популярной группой всех времён, поющей на немецком языке. Несколько синглов Rammstein попали в десятку лучших в Германии
Астрономом из Франции Жаном-Клодом Мерленом, являющимся поклонником группы, в 2001 была открыта малая планета в поясе астероидов. Астероид #110393 получил от него название «Rammstein», в честь группы
