הוא נולד בשנת 1923 באחד מהאזורים הפסטורליים ביותר באירופה: בעיר גראץ באוסטריה, על גדות הנהר מור בחבל שטיירמרק הירוק למרגלות האלפים. הוא גדל במשפחה חמה ומורחבת שחיה הרבה דורות בקיסרות האוסטרית, הצטיין בלימודיו ונועד לגדולות. אך מהלך חייו השתנה בן לילה עם פלישת הנאצים לאוסטריה במרץ 1938. לאחר מספר חודשים, נוכח "האריזאציה" של גראץ, גורשה המשפחה מביתה לווינה. חצי שנה לפני פרוץ מלחמת העולם בהיותו בן 15.5, נפרד מהוריו, פרידה שתהיה סופית ולנצח. הוא עלה ארצה והם עתידים להירצח ע"י הנאצים כעבור שנתיים וחצי על גדות הדנובה ביוגוסלביה. פרשת הירצחם בדרכם לארץ ישראל, נחקרה ופורסמה בספרי ההעפלה כפרשת קלאדובו – שאבאץ ותועדה בסרט הדוקומנטארי "דילמת הדאריין".
משה כרמיאל בגר בארץ לבד, בלי הורים. בקבוצת עליית הנוער האוסטרית שלמדה בבית ספר החקלאי בפרדס חנה היה חריג שכן כולם היו מווינה ובכול זאת בלט במנהיגותו ואחרי חצי שנה כבר כתב שירים בעברית. הוא ייצג את הקבוצה מול הנהלת הבית ספר ומול הנרייטה סולד, יושבת- ראש עליית הנוער שנאלצה להתערב ולתווך כדי להגן על קבוצת הנוער האוסטרית. בחגיגת היובל לבי"ס החקלאי בפרדס חנה, נבחר להדליק משואה בשם בוגרי עליית הנוער לדורותיהם. בסיימו את לימודיו, הצטרף לקיבוץ עין חרוד, נשא שקים במפעלי סדום שבים המלח, הצטרף לגרעין המייסד של קיבוץ מעגן מיכאל ובמסגרתו היה שותף סוד וייצר תחמושת במכון איילון המחתרתי אז והנודע לימים. (שמו ושם יפה רעייתו תיבל"א חקוקים שם על קיר ההנצחה.) הוא שירת כגפיר במשטרת הישובים בקבוצת משמרות, היה מזכיר קיבוץ עין זיתים ובמלחמת השחרור הגן על הגליל במוצב דרדרה על חוף החולה לרגלי רמת הגולן. הוא רשם קריירה מקצועית מרשימה: במשך 35 שנה בתפקידי ניהול בכירים בחברת "עמידר", תוך שהוא מלווה וחונך צוות עובדים שחלקם עולים חדשים בכל סניפי החברה בערי השדה ובעיירות הפיתוח. ואחר-כך, במשך 14 שנים עד פרישתו לגמלאות, מילא את תפקיד המבקר הפנימי של החברה. למרות העוינות המקובלת למבקר, הוא זכה להוקרה ולהערכה עצומה.
משה כרמיאל הקדיש גם זמן רב לפעילות התנדבותית – ציבורית. בשנת 1961 כשחשיבותה של פנסיה מקיפה הייתה עדיין בלתי מוכרת לרוב העובדים, הצליח להשיג במאמץ אדיר רוב זעום להצטרפות עובדי "עמידר" לקרן מקפת. כאות הערכה לפועלו זה, רשמו אותו עובדי "עמידר" בספר הזהב של הקרן הקיימת, בחרו בו מטעמם לחבר הנהלת מקפת ועשרות אנשים הודו לו במשך השנים כשהתחילו בזכותו לקבל קצבת פנסיה חודשית עם פרישתם לגמלאות. הוא גם היה שנים רבות חבר בוועדת הביקורת הציבורית של הועד למען החייל ופעל רבות בלשכת המבקרים הפנימיים. רק כשפרש לגמלאות, נזכר במוצאו הייקי ופעל בהתנדבות בשני הארגונים: חבר הגוף המבקר של ארגון יוצאי מרכז-אירופה וגזבר הוועד המרכזי של יוצאי-אוסטריה שבמסגרתו אף חילק מענקים מקרן מאורבך למאות נזקקים. הכול הכירוהו כאציל נפש, ישר דרך שפיו וליבו תמיד שווים. שנון ובעל חוש הומור מיוחד. מעולם לא כעס, לא נודע אדם שנפגע ממנו. תמיד ידע למצוא את הטוב שבאדם ולבחור בדרך הפשרה. כ-50 שנים התגוררו משה ורעייתו ברמת גן וביום האחרון של שנת 2003 עברו לבית-ההורים של הארגון בפסגת-אחוזה בחיפה. שם באווירה חמה, נתמכו, טופלו ופונקו ע"י צוות הבית. הוא זכה לדעת שעומדת להיוולד לו בקרוב נינתו הראשונה, אך נפטר לאחר שלקה באירוע מוחי קשה ב-15.5.08 בשנתו ה-85 לאחר 61 שנות נישואים.
משה כרמיאל היה אבי. לפני יותר מעשר שנים, לאחר שפעל כבר מספר שנים בגוף המבקר של הארגון, הציע לי להצטרף כדור-המשך לפעילות ההתנדבותית בארגון. כך היו בינינו חילופי דורות אמיתיים. הוא פרש ואני החילותי בפעילות. דיווחתי לו על המתרחש והוא הביע דעה שקולה והשיא עצה נבונה מניסיונו. אני רואה חובה לספר את תולדות חייו בביטאונם של צאצאי הייקים בישראל כדי שהקוראים וחברי-הארגון יידעו, שאני הולך בדרך שהוא היתווה לי.