驰名中外的少林寺，位于河南登封县西北少室山的五乳峰下,对少室山，群山环峙，众峰耸立，溪水环流，林木茂盛，景致幽雅。佛教界称达摩为中国佛教禅宗的“初祖”，少林寺被誉为禅宗的“祖庭”。因其位处少室山林中，故称少林寺。

少林寺创建于北魏太和十九年（公元495年），是北魏孝文帝元宏为安顿印度僧人跋陀落迹传教而建造的。因寺座落于少室山阴的丛林之中，故名。正如清景日眕《说嵩》云："少林者，少室之林也"。

跋陀到少林寺后，长住于此传授小乘佛教。不乘是以自解脱为目的的早期印度佛教。当时前来少林寺求法的达数百人，高足弟子有慧光、僧稠等人。跋陀传法之后，传灯转移，并不继续发展。

北魏孝明帝孝昌三年（公元527年），释迦牟尼第二十八代佛徒菩提达摩漂洋过海到中国，途经广州、南京，然后北渡长江来到少林寺，在跋陀开创的基础上，广集信徒，传授禅宗，寺院逐渐扩大，僧日益增多，少林寺名重一时，成为禅宗祖庭。禅宗是佛教的一派，禅是梵语"禅那"的略称，即安定、止息杂虑的意思，其宗旨是"明心见性，一切皆空"。禅宗修道的禅法称为"壁观"，就是面对墙壁静坐修行。达摩曾在少林寺后五乳峰上的石洞里终日面壁了九年，由于年深日久，身影投于石上，留下千古传颂的"面壁石"，现在少林寺内还有达摩的面壁影石。达摩在少林寺修行多年，并于北魏天平三年传法于慧可，从此禅学在少林寺落迹流传。

南北朝时，佛教盛行，佛寺遍天下，北周武帝时采纳元嵩"定教先后"的建议，于建德三年（公元574年）下令禁止佛、道二教传流，当时少林寺也不能幸免，僧众流亡严重。北周大象年间，静帝为了维护封建统治秩序，复行佛、道二教，并重整少林，同时将少林寺改名为陟岵寺。

到了隋代，当隋文帝即位后，颇重佛教，于是在开皇初年复改陟岵寺为少林寺，并赐少林寺田地一百顷为寺院庄园，少林寺从此成为一个拥有百顷良田的大庄园。隋末唐初，少林十三和尚因助唐有功，受到唐太宗的优厚封赏，赐田地千顷，水碾一具，参战僧人也各有封赐。从此，少林寺名扬天下，被誉为"天下第一名刹"，少林寺也成了李唐最高统治者经常驾临游幸之所，如高宗、武则天不断到少林寺游幸，每次都有封赐，并对少林寺大加增建。到了唐宋年间，少林寺拥有土地14000多亩，寺基540亩，楼台殿阁5000余间，僧徒达2000多人，甚为兴盛。

元明时期少林寺仍很昌盛。元初，世祖命福袷和尚主持少林，并统领嵩岳一带所有寺院。福裕主持少林时，创建钟楼、鼓楼，增修廊庑库厨，金碧辉煌，殿宇一新，僧徒云集演武礼佛，"众常两千"。后福裕被元帝追封为晋国公。

明王朝建立后，少林寺的殿宇楼阁屡经修葺，并有所增建。嘉靖时因寺僧抗倭有功，明朝皇帝又大规模地修整了寺院，寺院并享有明朝官府所赐予的免除粮差等特权。

清朝初期，少林寺也颇为兴盛，康熙亲自为山门及大雄宝殿书写匾额；雍正时创建山门；乾隆皇帝还亲临少林，夜宿丈室，写下众多的诗词、匾额。清末以后，少林寺屡遭兵燹战火，特别是1928年军阀石友三火烧少林寺，大火延续四十余天，寺内建筑文物毁环严重。