公元前二世紀，印度大乘佛教建立，為爭奪佛教正統，大乘佛教將以前的原始佛教和部派佛教貶稱為“小乘”，意謂“小道”或“小業”。在大乘看來，小乘佛教是“在小道行進的車輛”，是佛陀為小根器之人所說的教法。小乘佛教在教義和實踐上較多地保持了早期佛教的特點，在理論上，小乘佛教主張“我空法有”，即否認實有的我體，但不否認客觀物質世界的存在。對佛陀，認為佛陀是歷史性人物，他所達到的解脫境界，是一般世俗之人所不能達到的。並且主張通過自己的修行來得到解脫，重視修行次序和修行效果，強調修習戒、定、慧三學和八正道方法，要求獨善其身，先利已，後利他人等等。據資料記載，南傳佛教認為有18個部派，北傳佛教說有20個部派。

公元前3世紀，佛教由南印度向南傳播到斯?蘭卡、緬甸等國，復又傳入泰國、老撾、柬埔寨等國，形成了南傳佛教系統。這一系統的佛教因基本上沒有受到大乘佛教的影響，至今仍然保留了部派佛教的一些特征，因之有人稱其為小乘佛教。但是，該派認為自己屬於南傳上座部佛教，不同意小乘的稱呼。現在我們所說的“小乘”，主要是沿用了歷史的固定說法，沒有任何褒貶。不過，為了尊重佛教徒的思想感情，使用“小乘”要慎重，若指南傳佛教，應用“南傳上座部佛教”為宜。小乘佛教也曾傳入過中國。中國最早傳入的是安世高的小乘禪數學，後來流行的小乘說一切有部的學說。與有部對立的小乘空宗成實宗的思想也一度有過重要的影響。小乘佛教的基本經典都在中國譯出，至今仍然保存下來。但是，小乘最終沒有在中國漢、藏兩地佛教?占有主流的地位，只有一些小乘的經論曾經在中國佛教?起到過重要作用，例如《俱舍論》、《成實論》等等。