Originario di Monaco, Franz Ziereis ha studiato commercio. Entrò nella Reichswehr, dove prestò servizio per 12 anni, raggiunse il grado di sergente e lasciò il servizio nel 1936. In seguito legò la sua carriera alle SS - Ziereis succedette ad Albert Sauer come comandante del campo di Mauthausen, inviato con lo scoppio della guerra nella Polonia occupata per organizzare il reinsediamento delle popolazioni polacche ed ebraiche dalle aree incorporate nel Terzo Reich.
Ziereis era responsabile delle condizioni esistenti nel campo. I prigionieri erano costretti a svolgere un lavoro tortuoso nelle cave e il duro lavoro, combinato con condizioni sanitarie scandalose e cibo scadente, creava un mix letale per le persone imprigionate.
Ziereis abusava personalmente e poi uccideva le sue vittime. I racconti dei sopravvissuti rivelano che permise al figlio minorenne di sparare ai prigionieri con un fucile da caccia. Il comandante partecipò anche all'uccisione di persone nella camera a gas, che era in funzione a Mauthausen dal 1942.
Franz Ziereis desiderava impressionare lo stesso Heinrich Himmler non solo con l'efficienza letale del campo che dirigeva, ma anche conducendo ricerche archeologiche. Accadde infatti che uno dei prigionieri polacchi, Kazimierz Gelinek, mentre lavorava alla costruzione di un terrapieno ferroviario, si imbattesse in reperti archeologici, di cui informò le autorità del campo. L'Istituto tedesco per la protezione dei monumenti commissionò la ricerca, fu persino istituito un museo del campo nel sottocampo di Gusen e Gelinek, che aveva guidato gli scavi, fu incaricato di preparare una monografia sui monumenti rinvenuti. Furono realizzate cinque copie del libro, una delle quali fu consegnata a Himmler in occasione della sua visita al campo.
Nel 1945, di fronte all'avvicinarsi dell'esercito americano, Ziereis fuggì con la moglie e il figlio e si nascose tra le montagne dell'Alta Austria. Tuttavia, fu trovato dagli americani, che gli spararono più volte mentre cercava di fuggire. Ziereis, ferito, fu portato a Gusen, dove gli Alleati allestirono un ospedale. L'ex comandante del campo di Mauthausen fu operato, anche se le sue condizioni peggiorarono costantemente. Prima di morire, riuscì a farsi interrogare e i militari americani furono accompagnati da un gruppo di prigionieri polacchi che documentarono l'interrogatorio. Durante la sua ultima “confessione”, Ziereis raccontò i crimini commessi nel campo. Ammise di aver ucciso delle persone con le proprie mani. Ha anche dichiarato:
Nonostante il fatto che tutte le punizioni corporali dovessero essere approvate da Berlino, spesso picchiavo i prigionieri per piacere.
Allo stesso tempo, nella sua testimonianza, resa volontariamente, incolpava i superiori dei crimini commessi nei campi a lui subordinati. Descrisse i crimini commessi in altri campi e come il quartier generale del campo di Oranienburg inviasse i comandanti del campo a Sachsenhausen per addestrarli a uccidere nel modo più efficiente e rapido possibile.
Il comandante di Mauthausen morì un'ora e mezza dopo l'interrogatorio.