Σύμφωνα με ιστορικές πηγές, η περιοχή του Δήμου Χαλανδρίου κατοικείτο από την αρχαιότητα και καταλάμβανε τμήμα του δήμου Φλύας, αρχαίου δήμου της Αττικής. Ο δήμος εκτεινόταν στο γεωγραφικό χώρο που περιλαμβάνει το σημερινό Χαλάνδρι, τα Βριλήσσια, την Αγία Παρασκευή, το Χολαργό και τους γύρω συνοικισμούς.
Ο λεξικογράφος Ησύχιος αναφέρει ότι «φλεί» σημαίνει ευκαρπεί, γέμει, πολυκαρπεί και επομένως «Φλύα» ίσως σημαίνει εύκαρπη γη, πλούσια σε βλάστηση.
Η σημερινή ονομασία του Δήμου, πιστεύεται ότι ανάγεται στη Μεσαιωνική περίοδο ή στην Τουρκοκρατία. Σύμφωνα με αυτή τη θεωρία, οφείλει το όνομα στον Τούρκο μεγαλογαιοκτήμονα της περιοχής, τον Χαλά. Κατά άλλους, η ονομασία ανάγεται στους Βυζαντινούς χρόνους και σημαίνει κλίνη, κρεβάτι, μοναχικός κοιτώνας, ή μοναχική καλύβα και αυτό επειδή το ίδιο όνομα συναντάται και σε άλλα μέρη της χώρας.
Η περιοχή της Φλύας παρουσιάζει ενδείξεις εποικισμού κατά την περίοδο της Χαλκοκρατίας (2.600-2.000 π.Χ.) και την Υστεροελλαδική εποχή (1.550-1.100 π.Χ.). Κατά τους κλασικούς χρόνους φαίνεται όπως ο τραγικός ποιητής Ευριπίδης, αλλά και ο στρατηγός Θεμιστοκλής να έλκουν την καταγωγή τους από την Φλύα.
Στους Ρωμαϊκούς και Πρωτοχριστιανικούς χρόνους, η Φλύα, ακολουθεί μάλλον τη μοίρα της Αττικής που λεηλατείται επανειλημμένως και ερημώνεται. Το πότε ακριβώς επικράτησε ο Χριστιανισμός στη Φλύα αγνοείται, θεωρείται όμως πιθανό αυτό να έγινε την εποχή του Ιουστινιανού, ο οποίος έλαβε εκτεταμένα κατασταλτικά μέτρα εναντίον κάθε άλλης θρησκείας.
Κατά την διάρκεια των Βυζαντινών χρόνων και της Τουρκοκρατίας αλλά και την απαρχή της συγκρότησης σύγχρονου Ελληνικού κράτους, δεν υπάρχουν σοβαρές ενδείξεις και εξακριβωμένα στοιχεία για την περιοχή του Χαλανδρίου, κάτι που σημαίνει ότι βιώνει μια μακριά περίοδο υποβάθμισης και πιθανόν ερήμωσης, ακολουθώντας την τύχη της Αθήνας, που αριθμούσε περί τις οκτώ χιλιάδες κατοίκους την εποχή εκείνη. Ωστόσο υπάρχουν αναφορές ότι αποσπάσματα που δρούσαν στην ευρύτερη περιοχή του Χαλανδρίου, συνέδραμαν στην Επανάσταση του 1821 και συμμετείχαν στην πολιορκία της Ακρόπολης.
Στις αρχές του εικοστού αιώνα το Χαλάνδρι αποτελεί μία αραιοκατοικημένη περιοχή με τους λιγοστούς κατοίκους του να απασχολούνται κυρίως στον πρωτογενή τομέα γεγονός που επιτρέπει στη νέο ιδρυθείσα Γεωργική Εταιρεία να εγκαταστήσει στην περιοχή πρότυπο κέντρο γεωργικής και κτηνιατρικής εκπαίδευσης. Θα ακολουθήσει η κατασκευή της σιδηροδρομικής γραμμής που συνδέει το Λαύριο με την Αθήνα ενώ το 1909 τίθεται για πρώτη φορά σε εφαρμογή το σχέδιο πόλης σε συνδυασμό με την οδική σύνδεση του Χαλανδρίου μέσω της σημερινής λεωφόρου Κηφισίας με το κέντρο της Αθήνας. Ήδη αστικά στρώματα της πρωτεύουσας αρχίζουν σταδιακά να αποκτούν στην περιοχή τις θερινές τους κατοικίες, ενώ και φυματικοί κατοικούν σε εξοχικά σπίτια για θεραπεία, αφού το κλίμα του θεωρείτο ξηρό και υγιεινό. Η κεντρική πλατεία είχε μεγάλη κίνηση που αυξανόταν στις αργίες από Αθηναίους εκδρομείς. Εκεί υπήρχαν καφενεία, ένας κινηματογράφος και τα κτίρια της Γεωργικής Σχολής που λειτούργησε από τα τέλη του 19ου αιώνα ως το 1922, αν και οι εγκαταστάσεις της κατεδαφίστηκαν πριν από το 1940. Έτσι το 1920, όταν ακόμη το Χαλάνδρι υπάγεται διοικητικά στο Δήμο Αθηναίων, καταγράφονται 1.897 κάτοικοι.
Στο τέλος της δεκαετίας του ’20, το τραίνο ξεκινούσε από την Πλατεία Ομονοίας κάθε μέρα στις 7.15 το πρωί και έφτανε στο Χαλάνδρι μετά από μισή ώρα περίπου. Από εκεί συνέχιζε για τα Μεσόγεια και το Λαύριο. Από το Χαλάνδρι προς την Ομόνοια υπήρχε πάλι ένα καθημερινό δρομολόγιο στις 8.42 το πρωί. Οι παλιοί κάτοικοι θυμούνται το πρώτο λεωφορείο που συνέδεσε το Χαλάνδρι με την Αθήνα από τις αρχές της δεκαετίας του ’20, για να αντικατασταθεί αργότερα με τα κίτρινα αυτοκίνητα της εταιρείας Πάουερ.
Μετά τη Μικρασιατική καταστροφή, κατά μήκος της σιδηροδρομικής γραμμής στα όρια της πόλης, σε γη που ανήκε στη Μονή Πεντέλης, ιδρύεται προσφυγικός συνοικισμός, αποτελούμενος αρχικά από παραπήγματα και σκηνές. Μέχρι περίπου τον πόλεμο χτίζονταν σταδιακά σπίτια και οι πρόσφυγες εγκατέλειπαν τα πρόχειρες κατοικίες τους, ενώ αρκετές οικογένειες (60-70) μετακινήθηκαν και δημιούργησαν το συνοικισμό, που ονομάστηκε αργότερα Νέο Ψυχικό.
Η αύξηση του πληθυσμού θα οδηγήσει στην απόσπαση του Χαλανδρίου από το Δήμο Αθηναίων το 1925 και τη μετατροπή του σε αυτόνομη κοινότητα, ενώ κατά την απογραφή του 1928 ο πληθυσμός του ανέρχεται σε 6.882 άτομα.
Ο Οδηγός της Ελλάδος του Ν. Ιγγλέση, παρουσιάζει το Χαλάνδρι του 1930 με ιδιαίτερα λιτό και σύντομο τρόπο: «Το Χαλάνδρι κείται Β.Α. των Αθηνών, εντεύθεν του Αμαρουσίου, εις ωραίαν θέσιν πλησίον δασυλίου πευκών. Πολυσύχναστος θερινή διαμονή. Συγκοινωνεί μετά των Αθηνών δια λεωφορείων αυτοκινήτων, ως και δια του Σιδηροδρόμου Αθηνών-Λαυρίου». Στον οδηγό καταγράφονται κάποιες από τις επαγγελματικές δραστηριότητες των κατοίκων του. Τα αγγειοπλαστεία του Δεπάστα, του Κασάπογλου και του Παπαγιάννη, τα βυρσοδεψεία των Βασιλειάδη και Κινδύνη, το επιπλοποιείο του Ορφανού, το ποτοποιείο του Δουζένη, το ραφείο του Τριανταφύλλλου, τα σιδηρουργεία των Καλαπόδα, Παπαϊώννου και Παπαδημητρίου και έξι ακόμη υποδηματοποιεία. Αυτά μαζί με αρκετά οπωροπαντοπωλεία, γαλακτοπωλεία, εστιατόρια, οινομαγειρεία και καφενεία αποτελούσαν τις τοπικές μεταποιητικές και εμπορικές επαγγελματικές δραστηριότητες της πόλης.
Η χρονική περίοδος που μεσολαβεί ανάμεσα στη Μικρασιατική Καταστροφή και τον Β΄ Παγκόσμιο Πόλεμο αποτελεί για την πρωτεύουσα και για την Αττική γενικότερα περίοδο δημογραφικής ανάπτυξης και διαμόρφωσης των ιδιαίτερων χαρακτηριστικών του αστικού χώρου. Το Χαλάνδρι δέχεται και αυτό σε όλη αυτή τη χρονική περίοδο νέους κατοίκους: Μικρασιάτες πρόσφυγες, επαρχιώτες –κυρίως νησιώτες- μετανάστες και λίγους Αθηναίους. Η δημογραφική του εικόνα αλλάζει, ενώ τα επαγγελματικά χαρακτηριστικά των νεοεγκατασταθέντων συμβάλλουν στη σταδιακή διαμόρφωση της νέας του φυσιογνωμίας. Ο παλαιότερος κυρίαρχος αγροτικός του χαρακτήρας δεν θα μπορέσει να διατηρηθεί επί πολύ. Η γη κατατεμαχίζεται και οικοδομείται. Οι πλειοψηφία των κατοίκων δεν είναι πια καλλιεργητές, είναι τεχνίτες, εργάτες και υπάλληλοι, παρόλο που η περιοχή δεν θα αποτελέσει τόπο συγκέντρωσης πολλών βιοτεχνικών ή βιομηχανικών δραστηριοτήτων.
Ο πληθυσμός εξακολουθεί να αυξάνεται, καθώς η περιοχή απορροφά τμήμα της εσωτερικής μετανάστευσης προς την Αθήνα και την περιφέρειά της και φτάνει τους 11.149 κατοίκους, σύμφωνα με την απογραφή του 1940.
Τυπικά στις 19/12/1942 η κοινότητα Χαλανδρίου αναγνωρίζεται σε δήμο, ουσιαστικά όμως αυτό γίνεται πραγματικότητα μετά την απελευθέρωση. Κατά την περίοδο της Κατοχής, και στο Χαλάνδρι όπως σε όλη την Ελλάδα αναπτύσσονται αντιστασιακές πρωτοβουλίες χωρίς να λείπουν και οι λίγες περιπτώσεις συνεργασίας με τον κατακτητή.
Μετά τα μέσα της δεκαετίας του ’70 όταν πια οι κάτοικοι του Αθηναϊκού κέντρου το εγκαταλείπουν και αναζητούν νέα κατοικία στις βόρειες και νότιες περιοχές του λεκανοπεδίου το Χαλάνδρι αναπτύσσεται ραγδαία. Σήμερα ο πραγματικός πληθυσμός του ξεπερνά τους 100.000 κατοίκους και ανήκει στα συνεχώς αναπτυσσόμενα ή μάλλον κορεσμένα πια βόρεια προάστια. Σχεδόν τίποτε δεν θυμίζει το παρελθόν, εκτός από κάποια ερείπια παλιών βιοτεχνικών εγκαταστάσεων και ελάχιστα παλιά σπίτια που διασώθηκαν από την ανοικοδόμηση.