Am 4. Dezember 1971 war Deep Purple in Montreux, um ein neues Album in einem mobilen Tonstudio, das sie von den Rolling Stones gemietet hatten, aufzunehmen. Sie bezogen Quartier in einem Gebäude, das zum Casino von Montreux gehörte (das „gambling house“, auf das der Text sich bezieht). An diesem Abend gaben Frank Zappa und The Mothers of Invention ein Konzert im Casino, während dessen ein Feuer ausbrach. Angeblich hatte ein Schweizer Fan mit einer Signalpistole an die Decke des Konzertsaals geschossen („some stupid with a flare gun“ heißt es im Text). Der gesamte Gebäudekomplex mitsamt dem Equipment der Mothers wurde zerstört. Der „Funky Claude“, der im Lied erwähnt wird, war Claude Nobs, der Direktor des Montreux Jazz Festivals, der den Besuchern half, sich vor dem Feuer zu retten („Funky Claude was running in and out/Pulling kids out the ground“).[1] Der Titel des Songs bezieht sich auf den Rauch, der sich über dem Genfersee ausbreitete und der von den Musikern von Deep Purple in ihrem Hotel beobachtet wurde. Vom Zappa-Konzert existiert ein Bootleg mit dem Titel Swiss Cheese/Fire!.
Deep Purple hatte nun das teure Tonstudio, aber keinen Ort mehr, an dem sie ihre Aufnahmen machen konnten. Auf der Suche nach geeigneten Räumlichkeiten fand Nobs für die Band das Theater The Pavilion. Nachdem Deep Purple mit den Aufnahmen begonnen hatte, beschwerten sich Nachbarn über den Lärm und die Polizei sorgte für eine Beendigung der Aufnahmen. Schließlich, nach einer Woche des Suchens, mietete die Band das fast leerstehende Montreux Grand Hotel, wo die Gänge und Treppenhäuser zum Aufnahmestudio umgewandelt wurden. Nahezu alle Aufnahmen für das erfolgreichste Deep-Purple-Album Machine Head erfolgten hier. Smoke on the Water war jedoch das einzige Lied, das nicht im Grand Hotel aufgenommen wurde; es wurde erst später vollendet, nachdem der Basic Track für den Song das einzige Ergebnis der abgebrochenen Pavillon-Aufnahmen war.
