בית כנסת זה, הקטן בכל בתי הכנסת בקרקוב, עומד בקצהו המזרחי של בית הקברות היהודי הישן, ברחוב שרוקה, בעומקה של חצר קטנה מוקפת חומת לבנים שחוצצת בינו לבין הרחוב. בחלקה הדרומי של החצר ממוקם בית השומר, ובצדה הצפוני של החומה מותקן שער קטן המוביל לבית הקברות.

צורת בית הכנסת מלבנית, והוא בנוי לבנים המונחות על מסד אבנים גבוה. הוא מכוסה בטיח, וכתליו החיצוניים מחוזקים על ידי תוספת לבנים. בפינותיו הצפון-מזרחית והדרום-מזרחית הוא נתמך על ידי מסעדי אבנים. בית הכנסת מכוסה גג תלת-שיפועי, הנסמך על קדקוד המשולש של הקיר החיצוני המערבי. תחתית הגג המשופע בולטת הרבה מעבר לחזית הקירות החיצוניים. למבנה המקורי של בית הכנסת נוספו במאה ה- 20 מבני לוואי הצמודים לקירותיו המערבי והצפוני.

אל בית הכנסת נכנסים דרך מסדרון שבקומת הקרקע על מבנה הלוואי הצפוני. אולם התווך מקורה בקמרון דמוי חבית, מצופה בטיח קירות ומעוטר בתבניות גיאומטריות פשוטות. כוכים מלבניים מוקפי קשתות, ששלושה מהם קרועים בקיר הצפוני ושניים בקיר המזרחי, משני צדי ארון הקודש, מרחיבים את האולם בתחתיתו. בין הכוכים שבקיר הצפוני ניצב זוג עמודים שרוחבם אינו שווה. מולם, בקיר הדרומי, זוג עמודים נוסף. בחלק התחתון של הקיר המערבי בנויה מקמרת, המחברת את בית הכנסת לעזרת הנשים הנוכחית. עזרת הנשים המקורית היתה ממוקמת על גבי האכסדרה של בית הכנסת – ה'פלוש', ונותרו ממנה שני פתחים קטנים וצרים, מוקפים קטעי קשתות, מעל לכניסה לאולם התפילה.

הכניסה לעזרת הנשים, הן המקורית הן הנוכחית, נמצאת במבנה הלוואי הצפוני, המקביל לפלוש. בית הכנסת מואר על ידי חלונות הקבועים בחלק העליון של כתליו.

בית הכנסת רמ"א היה השני בבתי הכנסת שהוקם בקז'ימייז', ועל כן הוא נקרא 'החדש', כדי להבדילו מבית הכנסת 'הישן' שבקצהו הדרומי של רחוב שרוקה. הוא נוסד על ידי ר' ישראל בן יוסף, אביו של רבי משה איסרלס – רמ"א (1572-1520) ונכדו של רבי משה אורבך, בעל נכסים שהגיע לקרקוב מרגנסבורג אחרי גירוש היהודים ממנה בשנת 1519. ⁶²

מקובל לציין כתאריך בניית בית הכנסת את שנת 1553. תאריך זה מופיע בכתובת הייסוד הקבועה באומנה המרכזית בקיר הדרומי של בית הכנסת: 'האיש ר' ישראל ב'ר / יוסף ז"ל עוז התאזר: / לכבוד הקב"ה ולזכר / אשתו מלכה בת ר' / אלעזר: תנצב"ה בנה / מנכסי עזבונה ב"ה [בית הכנסת] / זה מקום בית אל / לפרט ולפרשת / שובה [= שי"ג, 1553] ה' רבבות / אלפי ישראל.'⁶³ לעומת זאת, מסמך מטעם המלך זיגמונט אוגוסט, המתיר פתיחת בית כנסת בביתו של ר' ישראל, הוא מנובמבר 1556.⁶⁴ ייתכן שהעבודות להקמת בית הכנסת החלו לפני קבלת האישור המלכותי, וכי כעבור זמן קצר, ב- 1 באפריל 1557, כילתה שריפה שפרצה בשכונה היהודית את התחלות הבנייה.⁶⁵ באוקטובר אותה שנה קיבל ר' ישראל אישור חדש לבנות בית כנסת, אך הפעם הזאת 'מלבנים, שיהיה פחות רגיש לאש'.⁶⁶ מסמך זה שוב אינו מזכיר את בניית בית הכנסת בביתו של ר' ישראל, אלא בניית בית כנסת חדש בשכונת היהודים בקזי'מייז'. ואמנם, בית כנסת זה לא צמח מהמרת ביתה של משפחת איסרלס, שעמד כנראה בחזית הרחוב, לבית כנסת, אלא היה זה מבנה חדש שמלכתחילה נועד לשמש בית כנסת. הוא נבנה בקצה המגרש שהיה בבעלותו של ר' ישראל ואשר היה צמוד לבית הקברות היהודי. את עבודות הבנייה יש ליחס כנראה לבנאי סטניסלב באראנק, שעסק בבנייתו בשנת 1558.⁶⁷

ניסיון השחזור שלהלן של צורתו המקורית של בית הכנסת מבוסס בעיקרו על רישומים שרשם אחרי מלחמת העולם השנייה טדיאוש ז'יכייוויץ'. בית הכנסת מצטייר כמבנה מלבני דחוס, בעל פרופורציות לא לגמרי מתואמות, מעוטר באתיק פשוט, המסתיר גג משוקע. הכניסה ממוקמת בקיר הצפוני. החלל הפנימי, המואר על ידי חלונות מסורגים הממוקמים בחלקו העליון של המבנה, היה, מן הסתם, מכוסה בקמרון מצטלב בעל ארבע צלעות, או בתקרת עץ שטוחה. על יד הכניסה שבקיר הצפוני עמד מבנה לוואי גבוה, שבקומתו התחתונה היה פלוש, ואילו ביציע שבקומתו העליונה היתה עזרת הנשים, שהתחברה לאולם התפילה על ידי פתחים שהיו מעל לכניסה. אל עזרת הנשים הוליכו, כנראה, מדרגות חיצוניות.⁶⁸

בתאריך לא ידוע במהלך המאות ה- 17 וה- 18 כוסה פנים בית הכנסת מחדש בקמרון חביתי, ללא אשנבי תאורה. התקנת קמרון כזה על פני אולם התווך הרחב יחסית חייבה לחזק את כותלי הבניין. לשם כך נבנו מבחוץ קירות תמך משופעים, שנשתמרו עד היום. בנוסף, האתיק כמתקן פונקציונלי בוטל, ובמקומו נבנה גג בן ארבעה שיפועים, ששיפוליו בלטו הרבה מעבר לקירות והגנו על קירות התמך מפני רטיבות.

באותה עת הוקמו ככל הנראה גם מבני לוואי בחזית המערבית והצפונית. דומה שהדבר מחזק את הטענה בדבר מיקומה המקורי של עזרת הנשים בצדו הצפוני של בית הכנסת. נראה גם כי בסמוך, בצד הקיר המערבי, הוקמה בקומת הקרקע עזרת נשים נוספת עשויה עץ. היא חוברה לאולם התפילה בפתחים מקושתים שנפרצו בקיר המערבי.⁶⁹

סמוך לסוף שנות העשרים של המאה ה- 19 עבר בית הכנסת שורה של שינויים ושיפוצים יסודיים ביותר. הקיר המערבי נבנה מחדש, והותקנו בו פתחים מלבניים מקומרים למעבר לעזרת הנשים החדשה, שנבנתה אף היא באותו זמן. החלל הפנימי כוסה בקמרון עץ דמוי חבית, שהמיר את הקמרון הקודם שהיה בנוי מלבנים. במקום שלושה חלזונות שנאטמו נבנה בקיר המזרחי, מעל ארון הקודש, חלון גדול בצורת חצי-עיגול, שהאיר את סביבת הארון, ומולו בקיר המערבי נקבע חלון מעוגל.

את עבודת השיקום האחרונה של בית הכנסת לפני מלחמת העולם השנייה ביצע האדריכל הרמן גוטמן בשנת 1933. בית הכנסת על מבני הלוואי שלו הושאר במצבו המקורי; סביב היסודות הותקן צינור אוורור להגנה מפני טחב, חזית בית הכנסת טויחה, וחלק גדול מן הגג הוחלף וכוסה בפח מגולוון.⁷⁰

בשנות מלחמת העולם השנייה שימש בית הכנסת מחסן. לאחר המלחמה שונתה סביבתו ללא הכר. הבית שהיה צמוד לחצר בית הכנסת מצפון וחצץ בינו לבין רחוב שרוקה הוסר. בתחילת שנות החמישים שוקם בית הכנסת על ידי הקהילה היהודית בסיועו של ד"ר עקיבא כהנא, איש קרקוב ונציג הג'וינט בפולין. בשנים 1995-1994 נבנתה בקצה הדרומי של החצר מסעדה חדשה, הזרה לחלוטין לסגנון הבנייה העתיק של שאר בתי הרחוב.

בית הכנסת רמ"א הוא היום בית התפילה היחיד המשמש את יהודי קרקוב ואת התיירים היהודים הרבים המגיעים אליה. על כן נשמר בו עד היום אופיו המקורי – מה שאין כן בשום בית כנסת אחר מאלה שנשתמרו בקרקוב.

בפלוש ניצבים רהיטים פשוטים בני זמננו: שולחן, ספסלים, כוננית לסידורי תפילה, חומשים וספרי קודש אחרים. על הקירות קבועים לוחות זיכרון לבני הקהילה שנפטרו. כן תלוי שעון קיר, מתנת נשיא מדינת ישראל, חיים הרצוג, בעת ביקורו בקרקוב בשנת 1992.

שער הכניסה לחצר בית הכנסת עשוי אבן-חול ומעוטר בקשת שעליה חקוקה בעברית הכתובה 'בית הכנסת חדש דרמ"א זצ"ל'. במזוזת דלת הכניסה לאולם בנויה קופת צדקה בסגנון הרנסנס המאוחר ועליה הכתובת 'זהב, כסף, נחשת' (על פי שמות לה: ה).

את מרכז האולם תופסת בימה מלבנית, עם עמוד לקריאת התורה, בנויה על משטח נמוך ומוקפת סבכת ברזל מהודרת – שוחזר הסבכה שנהרסה במלחמת העולם השנייה.

הדלת הדו-אגפית של הבימה היא מראשית המאה ה- 18, והיא הועברה לכאן, כנראה, מבית כנסת אחר מחוץ לקרקוב. מוטבעים בה קישוטים סימטריים – בצדה החיצוני כד שמתוכו יוצא משזר עשיר של ענפים בעלי עלים, פרחים ופירות, ובצדה הפנימי – סלסלה עם פרחים ופירות, קנקנים אחדים הניצבים בקערות, וגם מנורת שבעת הקנים הדולקת ובראשה כתר.

בקיר המזרחי נמצא ארון הקודש מתקופת הרנסנס המאוחר. דלתות ארון הקודש המקוריות נעשו בראשית המאה ה- 17 על ידי אמנים יהודים מקומיים והן שמורות עתה במוזיאון ישראל.⁷¹ במקומן הוצבו בתאריך לא ידוע במחצית הראשונה של המאה ה- 20 דלתות עץ מגולפות – גבעול ועליו עלים ובראשו פרח ושורש מפותל. גומחת הארון ממוסגרת בשער מאבן חול. משני צידיו שני זוגות עמודים, שכותרותיהם, המעוטרות בקישוטים חלזוניים, ובמשזרי צמחים, תומכות את תקרת הארון בעלת האפריז המשובץ בכתובות עבריות: 'השקיפה ממעון קדשך מן השמים וברך את עמך את ישראל' (דברים כו:טו); 'בי מלכים ימלכו' (משלי ח: טו).

מעל לכרכוב תקרת הארון קבועים לוחות הברית, שמסגרת מלבנית, שמעליה מתנשא משולש פסגה מהודר, משמשת להם רקע. על העמוד הקיצוני משמאל לארון הקודש תלוי נר תמיד בדמות ארון קטן בתכנית קשת מחודדת, הנתון במסגרת קישוטית מן המחצית השנייה של המאה ה- 19, ועליה הכתובת: 'נר תמיד ע"נ [עילוי נשמה] רמ"א ז"ל'.

מימין לארון הקודש, מעל לשורת הכיסאות שליד הכותל המזרחי, נקבע עוד לפני שנת 1939 לוח, אשר שוחזר בחלקו אחרי שנת 1945, ועליו הכתובת: 'מקובל אצלנו אשר על המקום הזה עמד הרמ"א זצ"ל להתפלל ולשפוך שיחו לפני הקב"ה'.⁷² אחד הכיסאות שליד הכותל זה נשאר פנוי דרך קבע בשעת התפילות.

לחלקים נוספים של המאמר:
בתי הכנסת העתיקים בקרקוב
בתי הכנסת העתיקים בקרקוב : בית הכנסת 'הישן' (ה'אלטשול')
בתי הכנסת העתיקים בקרקוב : בית הכנסת רמ"א (פריט זה)
בתי הכנסת העתיקים בקרקוב : בית הכנסת 'הגבוה'
בתי הכנסת העתיקים בקרקוב : בית הכנסת של וולף פופר
בתי הכנסת העתיקים בקרקוב : בית הכנסת של ר' אייזיק ר' יעקל'ס
בתי הכנסת העתיקים בקרקוב : בית הכנסת 'קופה'