הולדהיים עמד בראש זרם קיצוני במיוחד בתנועת הרפורמה, והיה רב של הקהילה הרפורמית בברלין שבגרמניה.
בבית הכנסת הרפורמי שלו התקיימו התפילות בגילוי ראש כמו בכנסייה, ללא טלית, בשפה הגרמנית ובלווית נגינת עוגב. הוא ביקש להעביר את יום המנוחה של היהודים ליום ראשון, וב-1840 הנהיג בקהילה הרפורמית בברלין את תפילת יום ראשון במקום תפילת השבת.