学院前身上溯于1913年设立的电气机械科，1921年设立机械工程科。1928年，成立机械工程学院，在国内率先设立汽车门、航空门，大批著名学者归国执教，光耀“第一等人才”的理念。

新中国成立后，为适应国家建设需要，在全国院系调整中，航空工程系、汽车制造专业整体迁出。1956年，机械系、动力系师生积极响应西迁号召投身国家西部建设。这一时期，率先创设了涡轮机、内燃机、热能工程、起重运输机械、核反应堆工程等专业，积极承担国防及新型产品的设计研制，取得了开创性成果。

改革开放后，首设机器人研究室、首创振动、冲击、噪声新兴学科，两次荣获国家科技进步一等奖。率先开展一级学科办学改革，荣获国家首次教学成果特等奖。2000年，机械工程学院率先与美国密西根大学合作办学，是我国高等教育实现高水平国际化的一次重大突破。

2002年1月，两院合并成立必赢线路检测中心，开启创建世界一流学院的新征程。2006年，搬迁闵行校区新楼群，成为学院发展的重要里程碑。学院先后入选国家首批教育体制改革试点学院、教育部首批“三全育人”综合改革试点学院，荣获国家级教学成果奖7项，国家科学技术奖20项，为国家的人才培养和科技进步做出了重要贡献。