Nadat hij bij de SS was gegaan, werd hij gestationeerd in Thüringen en zijn eerste dienst in een concentratiekamp was in Buchenwald - hij diende daar als kok en instructeur. Toen de Tweede Wereldoorlog uitbrak, werd hij toegewezen aan het personeel van Operatie T4, een geheim programma om geesteszieken en geestelijk gehandicapten uit te roeien. Hij werkte als kok in verschillende euthanasiecentra door heel Duitsland. Zoals velen die betrokken waren bij Operatie T4, werd hij naar bezet Polen gestuurd om deel te nemen aan Joodse uitroeiingsoperaties.
De eerste toewijzing aan Kurt Franz was het vernietigingskamp Belzec. Als erkenning voor zijn verdiensten bij het uitvoeren van de "Reinhardt operatie", stuurde Christian Wirth - de hoofdinspecteur van alle vernietigingskampen die deelnamen aan deze operatie - Franz naar Treblinka, waar hij plaatsvervangend commandant werd.
In het kamp was Kurt Franz verantwoordelijk voor het toezicht op Arbeitsjuden, oftewel Joodse gevangenen die tijdelijk werden gered en werk deden in het kamp. De gevangenen gaven hem de bijnaam "Doll" vanwege zijn schoonheid en elegantie. Maar Franz werd vooral beschreven als een sadist die gevangenen vaak persoonlijk martelde en vermoordde. Hij schepte er veel genoegen in om naakte gevangenen te geselen of inspecties uit te voeren waarbij hij besliste of iemand geschikt was om te werken of niet, en dus of hij naar de gaskamer zou worden gestuurd. Ooggetuigen die het kamp Treblinka overleefden, getuigden dat Franz persoonlijk gevangenen executeerde en "schietwedstrijden" organiseerde. Om Joden te mishandelen, trainde hij zijn hond om gevangenen op commando aan te vallen. Interessant genoeg beweerden de overlevenden in hun memoires dat de hond Barry alleen agressief was in het bijzijn van zijn baas, terwijl de hond zonder hem toestond geaaid te worden en zelfs met de gevangenen speelde.
Tijdens de gevangenenopstand in Treblinka was Kurt Franz niet in het kamp. Zijn overste werd overgeplaatst, terwijl het kamp het bevel kreeg om geliquideerd te worden. Deze taak werd aan Franz gegeven. Onder zijn supervisie ontmantelden de gevangenen de omheining en de gebouwen, vulden de massagraven op en er werd een boerderij gebouwd op het kampterrein. Kurt Franz nam later deel aan de executie van de laatste gevangenen van Treblinka.
In de laatste maanden van de oorlog werd hij in Amerikaanse gevangenschap genomen, maar hij werd niet herkend. Hij werd vrijgelaten en keerde terug naar zijn geboortestad Düsseldorf, waar hij werkte als arbeider en kok. Hij werd in 1959 gearresteerd toen Duitsland de misdaden in Treblinka onderzocht. Bij zijn gevangenneming werd in zijn huis een album met de titel "Mooie tijden" gevonden, dat foto's bevatte die hij in Treblinka had genomen.
Tijdens zijn proces in 1964-1965 werd hij schuldig bevonden aan de moord op minstens 139 mensen en medeplichtigheid aan de Holocaust. Hij werd veroordeeld tot levenslange gevangenisstraf. Vanwege zijn gezondheid werd hij echter in 1993 vrijgelaten. Hij stierf in een bejaardentehuis in 1998.