יחיא, בן רומיה (לבית חימי) ושוקר חזי, נולד וגדל בתימן. משבגר יחיא נשא לאישה את גינה. לבני הזוג נולדו שנים-עשר ילדים, שבעה מהם נפטרו בצעירותם ממחלות.
הרב יחיא חזי ניהל את בית הכנסת הגדול בעירו, אל-מחוית במערב תימן. משנת 1949 הוא גם היה פעיל של הסוכנות היהודית, ארגן יהודים לקראת עלייה לישראל, ארגן יתומים לקראת יציאה מתימן, התכתב עם ראשי הסוכנות בארץ (ביניהם ישראל ישעיהו וחיים צדוק) וכן התכתב בענייני הקהילה עם אב"ד (אב בית דין) בירושלים.
בסוף שנת 1953 נעצר הרב יחיא בשל פעילותו הציונית ונכלא ללא משפט, לפי פקודת הווזיר העירוני. בכלא הוא עבר חקירות קשות, הולקה בגב ובבטן וכעבור זמן מה, בחודש שבט תשי"ד (ינואר 1954), שוחרר לביתו והוא חולה אנוש. עם שחרורו מהכלא הובל הרב יחיא לביתו על אלונקה, ובדרך מת. בן כחמישים וארבע שנים במותו. הרב יחיא הובא למנוחות באותו יום, בלוויה שיצאה מבית הכנסת שלו.רומיה,
אלמנתו של יחיא, נאסרה באזיקים כמה ימים אחרי מותו באמתלה שהיא ממשיכה את קשרי בעלה עם ישראל. בחודשים הבאים היא נאלצה לשהות בביתה ולא הותר לה לצאת ממנו אלא באזיקים.
כעבור שלושה חודשים, לאחר שנרמז לה על ידי האימאם כי מוטב שתברח, ברחו מתימן האלמנה וחמשת ילדיו של הרב יחיא ועלו לישראל. כאן הרב יחיא הוכר כהרוג מלכות.