Pemper tenía 19 años cuando la Alemania Nazi invadió Polonia en 1939. Todos los judíos de Cracovia, incluyendo a Pemper y su familia, fueron obligados a llevar insignias con la estrella de David. Pemper permaneció en casa tanto tiempo como le era posible en protesta contra las insignias. Mientras pasaba la mayor parte del tiempo en la vivienda familiar, decidió aprender por su cuenta taquigrafía en alemán. Poco tiempo después, Pemper y su familia fueron confinados en el gueto de Cracovia, y él fue rápidamente nombrado por los oficiales nazis oficinista del Judenrat, la administración judía del gueto. Pemper también actuó como intérprete polaco-alemán para los residentes del gueto y mecanografió emisiones de radio de la BBC.
Las deportaciones del gueto habían empezado a finales de 1942, y fue completamente liquidado entre el 13 y el 15 de marzo. Pemper fue deportado al campo de concentración de Płaszów, a las afueras de Cracovia. Fue nombrado secretario personal y taquígrafo de Amon Göth, el comandante del campo, debido a su trabajo anterior en el Judenrat del gueto. La posición de Pemper como ayudante de Göth le dio un acceso privilegiado a documentos enviados a las autoridades nazis. Al trabajar en la oficina de Göth, Pemper también conoció a Oskar Schindler, un empresario e industrial alemán con lazos con el mercado negro. Al principio, Schindler quería beneficiarse de la invasión alemana de Polonia y la consiguiente guerra. Schindler había abierto una fábrica de productos esmaltados en Cracovia que empleaba mano de obra judía. Itzhak Stern, contable y el amigo más cercano de Pemper en la oficina de Göth, convenció a Pemper de que se podía confiar en Schindler.
Pemper mecanografió su primera carta a Schindler en marzo de 1943, sin saber que este simpatizaba con sus trabajadores judíos. A través de su trabajo en la oficina, Pemper descubrió en 1944 que los nazis pretendían cerrar todas las fábricas no relacionadas directamente con el esfuerzo de guerra, incluyendo la de Schindler, lo que podría significar que todos los reclusos judíos de Płaszów serían deportados a Auschwitz. Pemper en persona alertó a Schindler de estos planes y lo convenció para sustituir la producción de esmaltados por la de granadas antitanque para salvar a los obreros de Schindler. Pemper aportó a Schindler la mínima información posible, de modo que Schindler no pudiera ser acusado de compartir documentos secretos nazis si Pemper era capturado.
Pemper ayudó a elaborar la famosa «lista de Schindler» para salvar a tantos trabajadores judíos como fuera posible. Pemper, en colaboración con Schindler y con la ayuda de otros reclusos del campo de concentración de Płaszów, recopiló y mecanografió la lista de 1.200 reclusos judíos considerados «esenciales para el esfuerzo de guerra nazi», 1000 trabajadores de Schindler y otros 200 reclusos. Los incluidos en la lista, incluyendo al propio Pemper, fueron enviados a la nueva fábrica de granadas de Schindler ubicada en Brünnlitz (Checoslovaquia) en octubre de 1944. Este traslado finalmente significó que las personas de la lista salvasen sus vidas. Schindler también incluyó en la lista al padre, la madre y el hermano de Pemper. Su madre, Regina, no fue trasladada a la nueva fábrica de Brünnlitz, debido a su enfermedad; permaneció en Auschwitz y fue posteriormente liberada una vez la guerra hubo terminado. Al final de la guerra, Oskar Schindler pronunció un discurso ante sus trabajadores judíos, afirmando: «No me den las gracias por su supervivencia… Agradézcanselo a los valientes Stern y Pemper, que miraron cara a cara a la muerte constantemente».
Pemper testificó en el juicio contra Amon Göth en septiembre de 1946 en Cracovia.
