שער יפו, בעיר העתיקה בירושלים, נקרא כך, כי ממנו מתחילה הדרך מערבה, לאורך רחוב יפו, אל העיר יפו - נמלה של ירושלים מימי קדם. הערבים קוראים לו באב אלח'ליל, היינו שער חברון, כי ממנו דרך אחרת, דרומה, אל חברון הנקראת בערבית אלח'ליל, היינו האהוב, כינויו של אברהם אבינו הקבור בעיר הזאת.

שער יפו והחומה בצדיו נבנו בשנת 1538 ע"י השולטן העות'מאני סולימאן המפואר. השער היה מרכז החיים הציבוריים והמסחריים של ירושלים במשך דורות רבים. ממנו התחילו צירי התנועה העיקריים אל רובעי העיר העתיקה, אל העיר החדשה, ואל חלקי הארץ השונים.

הכניסה בשער יפו, כמו ברוב השערים בירושלים, אינה ישרה אלא בזווית, כדי להכביד על האויב ולשבור את כוח המחץ המתפרץ אל פנים העיר. לכבוד ביקורו של וילהלם השני הקיסר הגרמני ב- 1898 הוחלט ליצור כניסה נוספת כדי לעקוף את השער הזוויתי. בין שער יפו ומגדל דוד הקרוב אליו הייתה חפורה תעלה עמוקה שהיוותה חלק מהחפיר המקיף את מגדל דוד מסביב לשם הגנה עליו. את קטע החפיר שבצד שער יפו סתמו, את קטע החומה שמעליו הרסו, סללו עליו דרך ונוצרה כניסה נוספת לעיר, בצד השער. כך אפשרו לקיסר ולפמליתו להיכנס לירושלים ברוב הדר ופאר.

בגלויה המצוירת נראה מגדל שעון ליד שער יפו, הדומה למגדל השעון בעיר יפו. שני אלה הוצבו ע"י השולטן עבדול חמיד השני בשנת 1908. מושל ירושלים הבריטי החליט שמגדל השעון אינו תואם את סגנון סביבתו והעתיק את מקומו מערבה, לכיכר שבמעלה רחוב יפו. ב- 1948 נעלם מגדל השעון.