少林寺位于河南省登封县，创建于北魏太和二十年(496年)，因其位于少室山林中，故称少林寺。

北魏正兴初年(522年)，天竺高僧菩提达摩为传播佛法东来中国，达摩渡江来到少林寺以后，神光追赶达摩到达少林寺，一心一意拜达摩为师。时值寒冬，达摩在后院达摩亭坐禅，神光依旧侍立亭外。深夜，鹅毛大雪铺天盖地压了下来，但是神光仍然双手合十，虔诚地站在雪地里。第二天一早，达摩见神光仍在雪地里站着，就问道:“你站在雪地里干什么？”神光答道:“向佛祖求法。”达摩沉思片刻说:“要我给你传法，除非天降红雪。”神光毫不犹豫地抽出随身携带的戒刀，向左臂砍去，鲜血飞溅，染红地下的积雪和神光的衣衫。达摩被感动了，遂传衣钵、法器给神光，授以四卷《楞伽》，并取法名慧可。达摩与慧可创立了中国佛教的禅宗一派，少林寺也成为禅宗祖庭。

迄今1500年来，少林寺屡兴屡废。北周大象年间(580年)，曾改名为涉山古寺，后恢复旧称。隋代进行修葺，唐代规模宏大，此后荒废，元代中兴。民国后，因军阀混战，少林寺遭兵复焚毁。新中国成立后，屡加修缮，渐渐恢复其旧观。现有山门、大雄宝殿、千佛殿(众称毗卢阁)、法堂、地藏殿、白衣殿、达摩亭及方丈室、僧寮等建筑。

少林寺西北有“初祖庵”，后殿称“面壁庵”，原有达摩面壁石，现己毁坏。寺西有塔林。自唐代至清代，1000多年间少林寺僧人墓塔均建于此，它是研究少林寺人物及历代有关墓塔建筑的重要实物。

1983年，少林寺被定为全国重点寺院。