关于阿里山名的来历，流传着这样一个故事：很久以前，有个叫阿里巴的高山族首领在打猎时，追逐一只白鹿来到这里，忽然白鹿不见了，在他眼前却展现一片风光秀丽、林木繁茂的山林。阿里巴就带领部落在此定居，以猎为生，于是这里就称为阿里山。
阿里山上下，遍布花草树木，是一片森林的海洋。口本侵略者占领时期，曾大肆采伐这里树木，运往口本去修筑皇宫、神社，在2000余米高的阿里山中心地一带，原始森林资源已近枯竭，处处可见一招‘招‘硕大无朋的树根。就在这一片开阔地中，现已建立了阿里山森林游乐区，成为台湾最著名的旅游风景区之一。
从海拔30米的嘉义市乘火车上山，一路风光十分迷人。火车穿行在连峰叠嶂、激流深林之间，沿途一共要过86座桥梁，66座隧道。由于地势陡急，火车招‘旋绕山而行，时而奔驰在高峡天桥之上，时而钻进幽深的山洞。当火车行驰在峭壁悬崖旁时，只觉得天旋地转，忽又豁然开朗，眼前是青山翠谷，令人眼花缭乱，应接不暇。倘若在盛夏季节，山麓平原一带处处可见甘蔗、龙眼、柑橘和美人蕉、相思树等热带作物，一派迷人的南国风光。上山不久，暑气全消，似金秋季节到来。满山均是樟、楠、枫、栋等亚热带的阔叶高大乔木。在2000米高处，满山遍野的樱花竞相怒放，桧、柏、杉、松等温带针叶树密布成林。“高处不胜寒”，至此游人已需穿上御寒的毛衣了。
阿里山顶的森林公园中，有几株巨大擎天的古树十分引人注目。被称为“亚洲树土”的阿里山神木，高50多米，15人才能合抱，树龄已超过3000年！这株大红桧树在1956年因遭雷击而成枯木，但后来接种了寄生红桧又使树梢再现绿意，重续生机。这株神木成为阿里山的标志。在其东南方还有一棵高40米、粗3。 5米、树龄达1900年的老桧，被称为“光武桧”。再往东南，还有一棵奇特的“三代木”，第一、二代枯木已仆地腐朽，只留干老壳空的树根，但根侧竟还进发出第三代枝叶。居然枝叶繁茂，高达三、四米。
阿里山中古树名木甚多，最年长的一棵古树远在溪头与阿里山之间，高约48米，树围7米，据测已有4100年漫长的树龄，可谓树中长寿之土了。
阿里山不仅树木茂密，苍翠欲滴，而且野草鲜花，布满山谷，盛开之时，争妍斗艳。尤其是三、四月间樱花盛开，妮紫嫣红，呈现一派“春到高山樱似海，满山都是赏樱人”的景象。山中的杜鹃、百合、兰花都竞相开放，其中有不少名贵的品种。
阿里山游览区中还有慈云寺、树灵塔、受镇宫、姊妹潭以及高山博物馆、高山植物园等名胜和景点。
慈云寺中供奉着1918年泰国国土所赠的释迎佛像。这里面临深谷，在此观赏云海、晚霞，景色极佳。姊妹潭是一大一小相距不过百米的两个小湖，环湖树木倒影如画，有凉亭小桥点缀其间。高山植物园内集阿里山花草树种之大全，高山博物馆则向人们展示阿里山各种鸟兽、草木和矿物的标本以及高山族同胞的服饰用品和阿里山的历史资料。
云海和口出乃是阿里山的奇观胜景，“阿里云海”被列为“台湾八景”之一。
每当黄昏时分，雪白的云朵从山谷中慢慢腾起，顷刻之间，滚滚白云似大海笼罩着群峰。只见那瞬息万变的白云像波浪翻滚，奔腾不息，又像莽莽雪原的银蛇蜡象，前呼后拥。时而云雾奔来，满山满谷浓雾迷漫，置身其间，飘飘欲仙，令人陶醉。倘若此时夕阳西下，白云衬托晚霞，彩虹七色纷飞，艳丽迷人。原来，阿里山正处在水汽凝结成云的高度，来自海洋的暖湿水汽又特别丰富，所以每年雾口可达250多夭，云雾特别浑厚壮观。
与云海同享盛名的是阿里山的口出，2460米高的祝山观口楼是观赏口出的最佳处。每口凌晨总有大批游客在此等待口出美景的到来。朝阳从阿里山以东的台湾第一高峰玉山背后升起之时，山光岚影，瞬息万变。刹间，玉山背后如同一团火球腾起，耀眼的金光如无数支金箭，射向一座又一座山头。顿时阿里山诸峰山青林翠、谷明溪亮，呈现出一派绚丽多采的景象。