Μια μέρα σαν σήμερα, το 1924, ιδρύθηκε η Αθλητική Ένωση Κωνσταντινουπόλεως. Ένα σύμβολο μνήμης με πελώρια παρουσία στην αθλητική δραστηριότητα στην Ελλάδα και στην Ευρώπη.
Δύο χρόνια μετά την Μικρασιατική Καταστροφή, μια παρέα Κωνσταντινουπολιτών της Αθήνας αποφάσισε να ιδρύσει ένα σωματείο που θα θύμιζε τις χαμένες πατρίδες και τον πολιτισμό χιλιάδων χρόνων, ο οποίος έσβησε μέσα στις στάχτες.
Στις 13 Απριλίου 1924, στο κατάστημα αθλητικών ειδών του Κωνσταντίνου Δημόπουλου και των αδερφών Αιμίλιου και Μενελάου Ιωνά στην Οδό Βερανζέρου 24, οι Πολίτες αθλητές πήραν την ιστορική απόφαση και ένας νέος μεγάλος σύλλογος είχε ήδη αποκτήσει ζωή. Το καταστατικό υπέγραφαν πάνω από σαράντα μέλη της Κωνσταντινουπολίτικης κοινότητας της Αθήνας. Έμβλημα ήταν ο Δικέφαλος Αετός της Βυζαντινής Αυτοκρατορίας και χρώματα το κίτρινο και το μαύρο.
Πρώτος πρόεδρος της ΑΕΚ ήταν ο δημοσιογράφος, και μετέπειτα βουλευτής και υπουργός στην κυβέρνηση Βενιζέλου, Κώστας Σπανούδης, αντιπρόεδρος ο καθηγητής Νίκος Ελεόπουλος, ενώ μέλη του πρώτου διοικητικού συμβουλίου αποτελούσαν οι Τιμολέων Τάγαρης, Μενέλαος Καροτσιέρης, Μίλτος Ιερεμιάδης και ο Κωνσταντίνος Δημόπουλος.
Πριν συμπληρωθεί ένα δίμηνο, η ποδοσφαιρική ομάδα της ΑΕΚ ήταν αξιόμαχη και έτοιμη να κατεβεί στα γήπεδα. Στον πρώτο της φιλικό αγώνα που έγινε στο Ποδηλατοδρόμιο του Νέου Φαλήρου (νυν Γήπεδο Καραϊσκάκη) νίκησε την ομάδα επιλέκτων του Πειραιά με 3 – 2.
Οι πρώτες προπονήσεις γίνονταν στο χώρο του Ολυμπίου Διός, μπροστά σε μικρές συγκεντρώσεις φιλάθλων. Οι υψηλές διασυνδέσεις του νεοσύστατου συλλόγου, τον βοήθησαν να ξεχωρίσει από τον Πανιώνιο και τον Απόλλωνα, που διεκδικούσαν την υποστήριξη του προσφυγικού στοιχείου της πρωτεύουσας και του χαρίσουν πανελλήνια εμβέλεια. Αργότερα, παραχωρήθηκε στην ΑΕΚ το γήπεδο του Παναθηναϊκού και το 1929 ο τότε πρωθυπουργός Ελευθέριος Βενιζέλος έδωσε την άδεια να της παραχωρηθεί η έκταση στη Νέα Φιλαδέλφεια, εκεί όπου για 79 χρόνια ήταν το γήπεδο της ομάδας.
Ο πρώτος τίτλος για την ΑΕΚ ήλθε το 1932, όταν κατέκτησε το πρώτο Κύπελλο Ελλάδος, νικώντας στον τελικό τον Άρη με 5-3. Μέχρι τον πόλεμο πρόσθεσε στη συλλογή της ένα νταμπλ (πρωτάθλημα και κύπελλο) το 1939 κι ένα Πρωτάθλημα τον επόμενο χρόνο.
Η δεκαετία του ’40, με τον Πόλεμο, την Κατοχή και τον Εμφύλιο, απέφερε στην ΑΕΚ ένα κύπελλο, ενώ η δεκαετία του ’50 μόνο δύο κύπελλα, δεδομένης της κυριαρχίας του Παναθηναϊκού του Ολυμπιακού. Το πρώτο μεταπολεμικό πρωτάθλημα ήλθε για την ΑΕΚ το 1963 με προπονητή τον ουγγρογερμανό Γένε Τσάκναντι. Ήταν μια χρυσή πενταετία για την Ένωση μέχρι το 1968, με δύο κύπελλα κι ένα ακόμη πρωτάθλημα.
Το 1968 η ΑΕΚ έγινε γνωστή σε όλη την Ευρώπη με την κατάκτηση του Κυπέλλου Κυπελλούχων από την μπασκετική ομάδα του συλλόγου, στον αλησμόνητο τελικό του Καλλιμάρμαρου κόντρα στη Σλάβια Πράγας. Ήταν ο πρώτος ευρωπαϊκός τίτλος για τον ελληνικό αθλητισμό σε επίπεδο συλλόγων.
Την αγωνιστική περίοδο 1976-1977 η ΑΕΚ πέτυχε την υψηλότερη ευρωπαϊκή της διάκριση, φθάνοντας ως τα ημιτελικά του Κυπέλλου ΟΥΕΦΑ. Απέκλεισε κατά σειρά τη Δυναμό Μόσχας (2-0, 1-2), την Ντέρμπι Κάουντι (2-0, 3-2), τον Ερυθρό Αστέρα (2-0, 1-3) και την Κουήν Παρκ Ρέιντζερς [0-3, 3-0 (7-6 στα πέναλτι)]. Στα ημιτελικά αποκλείστηκε με δύο ήττες (1-4, 0-1) από τη μεγάλη Γιουβέντους εκείνης της περιόδου, η οποία κατέκτησε στη συνέχεια το Κύπελλο.
Η επταετία 1989-1996 ήταν η πιο επιτυχημένη στην ιστορία της ΑΕΚ. Υπό την τεχνική καθοδήγηση του παλιού της παίχτη Ντούσαν Μπάγεβιτς, κατέκτησε 4 πρωταθλήματα, ένα κύπελλο, ένα Σούπερ Κάπ κι ένα Λιγκ Καπ.
Η φυγή του Μπάγεβιτς και η έλλειψη σταθερού διοικητικού σχήματος έφεραν την ΑΕΚ σε θέση κομπάρσου στο πρωτάθλημα, ενώ οι διακρίσεις περιορίσθηκαν σε τρία Κύπελλα Ελλάδας και δύο προκρίσεις στον προημιτελικό γύρο του Κυπέλλου Κυπελλούχων Ευρώπης (1996/97 και 1997/98). Η ομάδα έφθασε στα όρια της πτώχευσης και σώθηκε χάρη στη συνδρομή της Πολιτείας με το περίφημο «άρθρο 44», καθώς και στην προσπάθεια μιας ομάδας προσώπων υπό τον Ντέμη Νικολαΐδη, που προσπάθησε να ξαναδώσει στην ομάδα τη χαμένη αίγλη της.
Το 2008 η ΑΕΚ έφθασε κοντά στην κατάκτηση του πρωταθλήματος, αλλά το έχασε “στα χαρτιά” από τον Ολυμπιακό (Υπόθεση Βάλνερ). Το 2011 κατέκτησε το κύπελλο Ελλάδας, νικώντας στον τελικό τον Ατρόμητο με 3-0. Το 2013 η ομάδα ποδοσφαίρου υποβιβάστηκε στη Β’ Εθνική για πρώτη φορά στην ιστορία της και εν συνεχεία στη Γ’ Εθνική, λόγω οικονομικών προβλημάτων. Το 2015 επανήλθε θριαμβευτικά στην μεγάλη εθνική κατηγορία και στις 17 Μαΐου 2016 κέρδισε το Κύπελλο Ελλάδας επικρατώντας στον τελικό του Ολυμπιακού με 2-1. Το 2018 ήταν μια από τις πιο ξεχωριστές χρονιές στην ιστορία του συλλόγου. Η ποδοσφαιρική ομάδα κατέκτησε το πρωτάθλημα Ελλάδος ύστερα από 24 χρόνια, ενώ η ομάδα του μπάσκετ κέρδισε τον τρίτο ευρωπαϊκό της τίτλο και το τέταρτο Κύπελλο Ελλαδος.
Σήμερα, η ΑΕΚ βιώνει μια από τις καλύτερες εποχές της ιστορίας της καθώς στο ποδόσφαιρο πρωταγωνιστεί ενώ παράλληλα ολοκληρώνεται η κατασκευή του γηπέδου στη Νέα Φιλαδέλφεια. Στο μπάσκετ η ομάδα έχει καθιερωθεί ως ο άμεσος ανταγωνισμός του Παναθηναϊκού, ενώ δεν λείπουν και οι επιτυχίες με τίτλους σε Ευρώπη και στο κύπελλο Ελλάδας. Παράλληλα είναι πανέτοιμη να ξεκινήσει εργασίες αναμόρφωσης στο κλειστό των Άνω Λιοσίων για να μετακομίσει εκεί. Σε ερασιτεχνικό επίπεδο, η ομάδα πετυχαίνει σπουδαίες διακρίσεις σε ατομικό και συλλογικό επίπεδο, με το τμήμα χάντμπολ να είναι αυτό που ξεχωρίζει.