Το Τμήμα Ηλεκτρολόγων Μηχανικών ιδρύθηκε με το ΒΔ.400/72 και άρχισε να λειτουργεί το 1972-73. Το ΑΠΘ είχε τότε ήδη 28.000 φοιτητές. Η ακριβής ονομασία του Τμήματος ήταν τότε Τμήμα Μηχανολόγων-Ηλεκτρολόγων Μηχανικών, πράγμα που σήμαινε την κάλυψη δύο ευρύτερων επιστημονικών περιοχών και όχι μίας.

Με το ΠΔ.651/76 έγινε διαχωρισμός αυτών των δύο περιοχών σε ξεχωριστά Τμήματα. Ετσι από το ακαδημαϊκό έτος 1976-77 από το Τμήμα Μηχανολόγων – Ηλεκτρολόγων Μηχανικών δημιουργήθηκαν δύο νέα τμήματα, το Τμήμα Μηχανολόγων Μηχανικών και το Τμήμα Ηλεκτρολόγων Μηχανικών. Με το Π.Δ. 266/93 το Τμήμα μετονομάστηκε σε Τμήμα Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών. Η αλλαγή αυτή ισχύει από το πανεπιστημιακό έτος 1993-94. Το δίπλωμα του Ηλεκτρολόγου Μηχανικού και Μηχανικού Υπολογιστών απονέμεται μόνο στους φοιτητές που εισήχθησαν από το πανεπιστημιακό έτος 1993-94 και μετά.

Από το πανεπιστημιακό έτος 1993-94 άρχισε να λειτουργεί στο Τμήμα Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών Πρόγραμμα Μεταπτυχιακών Σπουδών που οδηγεί στην απόκτηση Διδακτορικού Διπλώματος.

Το Τμήμα συμμετέχει πολύ δυναμικά σε ερευνητικά και εκπαιδευτικά προγράμματα, Ευρωπαϊκά και Ελληνικά, γεγονός που επισημαίνεται και από την εξωτερική χρηματοδότηση ύψους 7,3 εκ ευρώ  περίπου που έχει προσελκύσει κατά την τελευταία τριετία.

Το Τμήμα ΗΜΜΥ συμμετέχει επίσης σε Διατμηματικά και Διευρωπαικά Προγράμματα Μεταπτυχιακών Σπουδών.