יחיאל בן ה-33 שיחק בארבע קבוצות במהלך הקריירה אחרי שגדל במחלקת הנוער של גדנ"ע יהודה. ב-1997 החל לשחק בהפועל פתח תקוה ונשאר שם עד 2005 כשהוא משיג עם המועדון זכיה בגביע הטוטו.
שם גם הפך לאחד הבלמים הבולטים בארץ והוזמן לנבחרת ישראל (4 הופעות), כשהרגע הזכור ביותר מהתקופה שלו במדים הלאומיים הוא השער המפורסם בנגיחה מול אירלנד.
ב-2005 עבר למכבי ת"א כחלק מפרויקט הגלאקטיקוס לצד אייל ברקוביץ', ג'ובאני רוסו ואבי נמני. הקבוצה לא הצליחה להתמודד על האליפות והוא הסתפק בזכיה נוספת בגביע הטוטו בתקופתו בקרית שלום (2005 עד 2009).
התחנה הבאה היתה מכבי פ"ת ואחרי שנתיים אצל המלאבסים ירד דרומה לבאר שבע וכיכב שם בשנתיים האחרונות.