古人在很早以前就发明了一些简易的搬运货物的工具。公元前10年，古罗马建筑师维特鲁卫斯曾在他的建筑手册里描述了一种起重机械:它是由桅杆、滑轮、绳索三部分组成的。滑轮装在杆顶，由缆索固定桅杆的位置，用绞盘拉动通过滑轮的缆索，以吊起重物。有些起重机械可用两根桅杆，构成人字形，把吊起物横向移动，但移动幅度很小，操作也十分吃力。

到了15世纪，意大利人发明了转臂式起重机，才解决了这个问题。这种起重机有根倾斜的悬臂，臂顶装有滑轮，既可以升降又可以旋转。但直到18世纪，人类所使用的各种起重机械还都是以人力、畜力为动力的，在超重量、使用范围和工作效率上有明显的局限性。

18世纪中后期，英国人瓦特改进和发明了蒸汽机之后，为起重机械提供了动力条件，1805年，苏格兰工程师伦尼为伦敦船坞建造了第一批蒸汽起重机。1846年，英国的阿姆斯特朗把新堡船坞的一台蒸汽起重机改装为水力起重机。20世纪初期，欧洲开始使用塔式起重机。到1933年，有些起重机己装上了活动式起重臂。正是有了现代化的起重机，才能产生现代的建筑结构和大规模装卸货物。