Зиґмунт був сином Мєчислава та Марії з дому Майбаум. Дитинство і молодість провів у Варшаві та Лодзі.
У 1926 році здав екзамен на атестат зрілості у Вищій реальній школі з економічним профілем навчання у Лодзі, після чого поїхав на навчання до Великобританії – спочатку в Овенс Коледж в Манчестері, а потім перевівся в Лондонську школу економіки. Правдоподібно не закінчив жодного із цих двох навчальних закладів.
У ІІ Речі Посполитій
Після повернення до Польщі брався за різні заняття. Працював докером у ґданському Новому порту, потім на підприємстві свого батька, який був представником бельгійської фірми Solvay у Польщі. Пізніше пройшов військову перепідготовку у Центрі Вишколу Зенітної Артилерії у Варшаві. На початку 1938 року познайомився з Зофією Нойдінґ, з якою одружився 11 лютого наступного року.
У кінці серпня 1939 року його мобілізували до 1-го Полку Зенітної Артилерії у Варшаві. Отримав наказ (котрий, як з'ясувалось, неможливо було виконати) перевезти гармати з Брестської фортеці до столиці. Був звільнений з війська.
Заслання та війна
Після зустрічі з дружиною у Станіславові (Івано-Франківську) на початку 1940 року вирішив повернутись до Варшави. Однак у Львові їх було арештовано НКВД і заслано до Марійської Автономної Республіки.
У таборі в селищі Цинглок Герци протягом 14 місяців працювали на лісоповалі. Після підписання договору Сікорського-Майського були звільнені і разом вступили до Армії Андерса, яка в той час починала формуватись.
Зиґмунта призначили до 6-ї Дивізії, а згодом – до 7-ї Дивізії Зенітної Артилерії. 12 серпня 1942 року в складі армії він покинув совєтську територію. Потім служив у 8-му Полку Важкої Зенітної Артилерії, з яким пройшов весь бойовий шлях аж до Італії. Брав участь у битві за Монте-Кассіно.
У Літературному Інституті
У 1946 році приєднався до Літературного Інституту та допомагав налагоджувати його діяльність у Римі. Обов'язки Зиґмунта Герца у видавництві стосувались адміністративних справ, висилання публікацій, передплати, ведення бібліотеки, архівування вирізок з преси. Він також допомагав з коректурою та версткою.
У 1948 році одержав статус польського політичного біженця у Франції, але ніколи не намагався отримати французьке громадянство. Помер 5 жовтня 1979 року в Мезон-Ляфіті. Похований 9 жовтня на цвинтарі в Ле-Меніль-ле-Руа.
На знак вдячності за його заслуги перед видавництвом, Літературний Інститут заснував Літературну премію ім. Зиґмунта Герца, яку присуджували у 1979–1999 роках.
„Гудучий джміль”
Зиґмунт Герц запам'ятався як приятель та опікун усіх „краян”, тобто численних відвідувачів резиденції „Культури”, що прибували з Польщі. Він мав дивовижний хист здобувати прихильність людей, а тому в історії Інституту залишився як „міністр людських сердець”. Був надзвичайно спостережливим, що дозволяло йому зберігати дистанцію до себе і до оточення. У своїх спогадах Артур Мєндзижецький зауважує: „Не можу утриматись від припущення, що в Мезон-Ляфіті його роль як товариського зв'язкового між Інститутом та прибулими у Францію з вітчизни, недооцінюють.”
Його називали Санчо Пансою та філантропом. Чеслав Мілош охрестив його „гудучим джмелем” найвлучніше описавши характер Зиґмунта Герца, що – як сказав письменник, – своє посвячення „Культурі” окреслив „почуттєвою інвестицією”. Адже Герц керувався передовсім почуттям до дружини і це чудово розумів Єжи Ґедройць: „внесок Зиґмунта був величезним, але те, що він робив, він робив для неї”. В Автобіографії Ґедройць визнає: „В історії Літературного Інституту та „Культури” Зося та Зиґмунт відіграли вирішальну роль. Вони були в курсі всіх справ, включаючи найделікатніші, котрі вимагали збереження максимальної таємниці […]. Роль Зосі та Зиґмунта неможливо переоцінити. Я не припускаю, щоб „Культура” без них могла з'явитися на світ і вижити”.
У своєму останньому листі до Ґедройця Анджей Бобковський написав: „Я Зиґмунта та Зосю дуже люблю й дуже ціную. Небагато людей здатні бути такими відданими справі як вони”.
