אבי כהן ז"ל נחשב מאז ומעולם לאחד הסמלים הגדולים של מועדון הכדורגל מכבי תל אביב. כשאומרים מכביסט, התמונה של אבי'לה כפי שכונה בפיהם של רבים, היא הראשונה שעולה לראש. עם משפטים אלמותיים כמו ״להיות מכבי ת"א זה להיות הכי גדול, הכי יפה, הכי מצליח״, נכנס אבי לפנתיאון הצהוב גם מחוץ למגרש. אך מה שבאמת ייחד את מספר 5 בצהוב הייתה היכולת שלו על כר הדשא. לכבוד ציון יום השנה השביעי ללכתו של הקפטן האגדי, הבוקר (יום שישי) עברו בפינת ההנצחה במתחם הנוער בקרית שלום הקרוי על שמו של אבי כהן ז"ל קבוצות הנוער של המחלקה, כשגיא צוקרמן, מנהל מחלקת הנוער העביר לשחקנים הצעירים את המידע על אבי כהן ז״ל.
ה-29 בדצמבר 2010 ייזכר לעד כיום קשה בהיסטוריה של מכבי ת"א והכדורגל הישראלי שאיבדו בצורה טראגית את אחד מגדולי השחקנים בכל הזמנים.
כהן היה שחקן גדול, זכור כסמל, דוגמה למופת ואחד השחקנים המשפיעים ביותר על ההיסטוריה של מכבי ת"א. הוא היה מחלוצי תפקיד ה"ליברו", בלם בעל אופי התקפי, סגנון שנחשב למודרני וייחודי באותה תקופה. כיאה לבלם בעל סגנון שכזה כהן זכה לכבוש את אחד השערים הזכורים בכדורגל הישראלי במהלך הדרבי התל אביבי בעונת 1978/79.
כהן רשם גם 64 הופעות במדי נבחרת ישראל בין השנים 1976-1988 ושער בודד. לימים פנה לקריירת אימון במספר קבוצות בליגת העל ובליגה הלאומית וגם שימש כיו"ר ארגון השחקנים. מועדון מכבי ת"א החליט לאחר פטירתו לציין את שמו של אבי כהן במחלקת הנוער ממנה יצא והתפתח להיות השחקן הגדול שהיה. ב-6.3.2012 נחנך בשמו החדש מתחם מחלקת הנוער ע"ש אבי כהן ז“ל.