Ο ΠΑΟΚ είναι η ιστορική συνέχεια του αθλητικού και πολιτιστικού σωματείου της Κωνσταντινούπολης Ερμής, ο οποίος δημιουργήθηκε από Έλληνες της Πόλης το 1875 στη συνοικία Πέρα.
Μετά τη Μικρασιατική Καταστροφή, μία ομάδα προσφύγων που εγκαταστάθηκαν στη Θεσσαλονίκη δημιούργησαν το 1926 τον Πανθεσσαλονίκειο Αθλητικό Όμιλο Κωνσταντινουπολιτών.