Αποφοίτησε από το γυμνάσιο των Βρυξελλών το 1891, αφού είχε πάρει δύο φορές το βραβείο σε διαγωνισμό μαθηματικών για μαθητές γυμνασίου.
Από το 1891 έως το 1895 φοίτησε στη στρατιωτική σχολή των Βρυξελλών και πήρε την ειδικότητα του Πολιτικού Μηχανικού.
Εργάστηκε στη Λέσβο ως μηχανικός σε έργα του νησιού και το 1898 μετέβη στην Αίγυπτο όπου εργάστηκε ως μηχανικός στην Βρετανική εταιρία που κατασκεύαζε το φράγμα του Ασουάν. Στην Αίγυπτο άρχισε να ασχολείται επισταμένως με τα μαθηματικά ώσπου αποφάσισε να εγκαταλείψει το επάγγελμα του μηχανικού και να ασχοληθεί μόνο με τα μαθηματικά. Ετσι το 1900, σε ηλίκα πλέον 27 ετών, πηγαίνει στο Βερολίνο οπου παρακολουθεί μαθήματα μαθηματικών στο πανεπιστήμιο της πόλης. Το 1902 μεταγράφηκε στο πανεπιστήμιο του Γκέτινγκεν όπου δίδασκαν οι δύο κορυφαίοι μαθηματικοί Κλάιν και Χίλμπερτ.
Το 1904 αναγορεύτηκε διδάκτορας του πανεπιστημίου του Γκέτινγκεν και τον επόμενο χρόνο αναγορεύτηκε υφηγητής ενώ βρισκόταν ακόμη στο δέκατο εξάμηνο των σπουδών, κάτι που αποτέλεσε ρεκόρ για τα Γερμανικά δεδομένα. Δίδαξε στο πανεπιστήμιο του Γκέτινγκεν μέχρι το 1908 και ως υφηγητής πλέον ταξίδεψε πολλές στο Παρίσι όπου είχε επαφές με τους μεγάλους Γάλλους μαθηματικούς Πικάρ, Πουανκαρέ και Μοντέλ. Το 1908 παντρεύτηκε την σύζυγό του Ευφροσύνη με την οποία απέκτησαν δύο παιδιά, τον Στέφανο και τη Δέσποινα.
Να σημειωθεί ότι μόλις αναγορεύτηκε διδάκτορας στο Γκέτινγκεν, εξέφρασε την επιθυμία του να εργαστεί στην Ελλάδα αλλά η απάντηση που πήρε από τους αρμόδιους δημόσιους φορείς ηταν ότι μπορούσε μόνο να εργαστεί ως δάσκαλος σε σχολεία της επαρχίας !!
Το 1911, μετά από πρόσκληση του Ελευθέριου Βενιζέλου, συμμετείχε στην επιτροπή επιλογής καθηγητών για το Πανεπιστήμιο Αθηνών. Το 1913 έγινε καθηγητής της Α΄ έδρας της μαθηματικής επιστήμης του Πανεπιστημίου του Γκεντινγκεν, θέση στην οποία παρέμεινε μέχρι το 1918. Το 1920, πάλι με πρόσκληση του Βενιζέλου, ανέλαβε να οργανώσει το Ιώνιο Πανεπιστήμιο στη Σμύρνη. Η απόφαση του Καραθεοδωρή να επιστρέψει στην πατρίδα του προκειμένου να της φανεί χρήσιμος, παρόλο που μεσουρανούσε στη Γερμανία, είναι μάλλον ενδεικτική της αγάπης του για την Ελλάδα.
Στην Σμύρνη ο Καραθεοδωρή έμεινε μέχρι το 1922 που η πόλη κατελήφθη από τους Τούρκους.. Κατόρθωσε να διασώσει τη βιβλιοθήκη και πολλά από τα εργαστηριακά όργανα του Ιωνίου Πανεπιστημίου και να τα μεταφέρει στο Πανεπιστήμιο Αθηνών. Η δωρεά Καραθεοδωρή βρίσκεται μέχρι τις μέρες μας στο Μουσείο Φυσικών Επιστημών του Πανεπιστημίου Αθηνών. Το 1922 διορίστηκε καθηγητής στο Πανεπιστήμιο Αθηνών και το 1923 διορίσθηκε καθηγητής στο Εθνικό Μετσόβιο Πολυτεχνείο.
Το 1924, απογοητευμένος από την κατάσταση των Ελληνικών ανωτάτων εκπαιδευτικών ιδρυμάτων, έφυγε για την Γερμανία όπου διορίστηκε καθηγητής στο πανεπιστήμιο του Μονάχου.
Το Νοέμβριο του 1926, έγινε μέλος στη νεοϊδρυθείσα Ακαδημία Αθηνών για την τάξη των Θετικών Επιστημών. Το 1928, εκλήθη από το Πανεπιστήμιο Χάρβαρντ και την Αμερικανική Μαθηματική Εταιρεία και επισκέφθηκε τις ΗΠΑ μαζί με την γυναίκα του για έναν σχεδόν χρόνο, για να δώσει διαλέξεις σε διάφορα αμερικανικά πανεπιστήμια, ανάμεσά στα οποία το Πανεπιστήμιο Πρίνστον, το Πανεπιστήμιο της Πενσυλβάνια, το Πανεπιστήμιο του Τέξας στο Ώστιν και άλλα.
Το 1930, πάλι με κλήση του Ελευθέριου Βενιζέλου, ανέλαβε καθήκοντα κυβερνητικού επιτρόπου στο Πανεπιστήμιο Αθηνών και το Πανεπιστήμιο Θεσσαλονίκης για να βοηθήσει στην αναδιοργάνωση του πρώτου και στην οργάνωση του (νεοσύστατου) δεύτερου. Εμεινε στη θέση αυτή μέχρι το 1932 οπότε επανήλθε στην καθηγητική του έδρα στο πανεπιστήμιο του Μονάχου όπου παρέμεινε μέχρι το θάνατό του.
Υπήρξε μέλος των Ακαδημιών Βερολίνου, Γκέτινγκεν, Μονάχου, Μπολόνιας και Λυγκών της Ρώμης. Το 1936 συμμετείχε σε διεθνές μαθηματικό συνέδριο στο Οσλο όπου του απονεμήθηκε το Μετάλλιο Φήλντς (Fields).
Απεβίωσε στις 2 Φεβρουαρίου 1950 στο Μόναχο, σε ηλικία 77 ετών και ετάφη στο Δασικό Νεκροταφείο της Βαυαρικής πόλης.
Το επιστημονικό του έργο αποτελείται από πολλές επιστημονικές μελέτες που άρχισε να δημοσιεύει από τα πρώτα χρόνια των σπουδών του. Οι εργασίες του συνέβαλαν σημαντικά στην ανάπτυξη του λογισμού των μεταβολών καθώς και στη σχέση μεταξύ των διαφορικών εξισώσεων πρώτης τάξεως και του λογισμού των μεταβολών. Συνέβαλε επίσης σημαντικά στην θεωρία συναρτήσεων πολλών μεταβλητών και απλοποίησε την απόδειξη του βασικού θεωρήματος της σύμμορφης απεικόνισης ενός απλά συνεκτικού πεδίου στον μοναδιαίο κύκλο. Εργάστηκε επίσης στα θέματα θερμοδυναμικής και θεωρίας της σχετικότητας του Αϊνστάιν με τον οποίο είχε στενή επιστημονική συνεργασία.
Ο Κωνσταντίνος Καραθεοδωρή συγκεταλέγεται μεταξύ των μεγαλυτέρων μαθηματικών του σύγχρονου κόσμου με αναγνώριση από την διεθνή επιστημονική κοινότητα.
Τα κυριότερα συγγράματά του είναι : Μαθήματα πραγματικών συναρτήσεων, Σύμμορφη απεικόνιση, Γεωμετρική οπτική, Πραγματικές συναρτήσεις και Θεωρία συναρτήσεων.
Το 1954 η Βαυαρική Ακαδημία Επιστημών δημοσίευσε το σύνολο των έργων του σε 5 τόμους.