号称“天下第一名刹”的少林寺，坐落在中岳高山西麓，面向少室山，背倚玉乳峰。因丛林环抱，所以取名为少林寺。始建子北魏太和十九年（495），魏孝文帝为安顿印度僧人跋跄居住传教而效建少林寺，距今已有一千四百多年。到北魏孝昌三年（527），印度另一僧人菩提达摩来寺广集信徒，传授禅宗，信徒尊他为中国佛教禅宗的初祖。因此，少林寺也称禅宗祖庭。据传说少林拳就起源于达摩。至东魏天平三年（536，达摩传法于慧可以后，便离开少林寺，圆寂于禹门。建德二年（573）北周武帝宇文岂下令禁止佛、道教流传，寺庙荒废。大象年间（579－581），北周静帝宇文衍重兴佛寺，改少林寺为险帖寺。隋代恢复旧名，并赐田百顷，佛寺渐盛。唐初，由于少林寺僧惠踢、志坚、昙宗等13人曾冒死救过李世民，又在讨伐土世充的战争中防助他取得胜利，立过汗马功劳。因此，在李世民做了皇帝之后，没有忘记这些僧人的救命之思，下诏允许寺内立招‘营，豢养僧兵，并大赐庄田，使少林寺达到极盛时期。从此少林寺僧众常习拳术，少林拳遂成为驰名中外的拳派。元、明两代更是少林寺发展的鼎盛时期，殿字楼阁达1000多间，寺僧有2000多人。明代嘉靖年间（1522－1566少林寺月空法师率领30余名僧徒赴松江抗击楼寇，后来在福建泉州修建了南少林寺，把少林拳传到了江南。到清代少戒寺逐渐衰落。民国时期军阀连年混战，少林寺也遭焚毁。这次火灾成为隋末到清初三次大火中最严重的一次，主要建筑天土殿、大雄宝殿、藏经阁、钟鼓楼、紧那罗土殿、六祖堂、跋跄殿等均付之一炬。现存殿堂面积30000多平方米，建筑多为明、清两代遗留，有山门、方丈室、达摩亭、白衣殿、千佛殿、地藏殿等。随着旅游事业的发展，1979年少林寺进行了全面整修，重建了天土殿、紧那罗土殿、六祖堂、东西配殿等。还全部翻修了原存殿堂，大雄宝殿也在重建立列。号称“天下第一名刹”的少林寺已焕然一新。
少林寺在中轴线上的主要建筑有山门、天土殿、大雄宝殿、法堂、方丈室、立雪亭、毗卢殿七座殿堂。寺前古柏苍翠，一对石狮蹲伏山门两侧，门额上悬清代康熙皇帝亲书的“少林寺”横匾。登石级进入山门，内供奉弥勒佛塑像，袒胸裸腹，笑脸迎人。佛皂后有木雕韦驮立像。山门后有雨道直通天土殿。雨道两旁原有碑林，存放着唐、宋、金、元、明、清各朝代的大量碑刻，其中有唐代《唐土告少林寺教主碑》，土知敬书写的《大唐天后御制诗书碑》，宋代米莆书写的“第一山”刻石，元代赵孟顺书写的《裕公碑》以及明代董其昌书写的《道公碑》等，都是出自名家之手，极为珍贵。
过雨道进天土殿。殿内有高大的彩塑金刚力士像两尊，另有四大天土像，造型均极生动，传神，威武雄壮。天土殿后的种楼遗址，置放着盒代大钟和明代地藏土像。
大雄宝殿在天土殿后，大雄宝殿东侧为紧那罗土殿；西侧为六祖殿。紧那罗土殿内有紧那罗土彩塑像三尊。六祖堂内有观音、文殊、普贤、地藏、大势至等菩萨玉雕像。两山安放初祖达摩、二祖惠可、三祖僧璨、四祖道信，五祖弘忍、六祖慧能的彩塑像。这些塑像神态各异，形象真实，在后壁悬塑的秀丽景色衬托下，展现出一派佛门僧众的生活图景。后面的方丈室内陈放着清代木版藏经和1980年口本少林寺拳法联盟所赠送的达摩铜像。口本高僧宗道臣在三十年代曾到过少林寺，回国后便组织了口本少林寺拳法联盟，发展盟员达百万人。他在七十年代经常到少林寺拜渴祖庭，并互相观摩拳法，现已去世。
出方丈室，沿台阶拾级而上到立雪亭，又名达摩亭。殿内佛皂供奉达摩铜像和二祖、三祖、四祖、五祖的立像。相传达是神光立雪断臂得授达摩真传衣钵的地方。“断臂求法”的故事，讲的是北魏孝明帝正光元年（520），有一名叫神光的和尚，到少林寺走访达摩，望能得到达摩授法真传。达摩闭门面壁不予理睬，神光就站在门外恭候。时值严冬，北风怒吼，雪花飞舞，但神光始终不动，至次口清晨，雪已没膝，达摩仍不许入见。神光为了表示求法的真诚，用刀砍下自己的左臂献达摩。达摩见他确有真心诚意，才起身点头授予衣钵，并赐各惠可，后来神光便成为禅宗二祖。