舍利弗是以母親的名字而立名。舍利是一種鳥的名字,這種鳥的眼睛特別明亮。舍利弗的母親於女人中最聰明,聰明相在眼。他母親的眼睛就好像舍利鳥的眼睛般明亮,故名舍利。弗,即是兒子的意思。舍利弗即舍利的兒子。

舍利弗八歲就能與大論議師辯論,十六歲已經讀盡一切經典。最初跟一位名曰沙然的外道學道術,與目犍連為師兄弟。外道臨終時他們倆侍奉在側,外道忽然放聲大笑起來。舍利弗問他為何笑?外道說:「世間人無眼,只知有恩愛,不知業報各不相同。我見金地國王死後火化時,他的夫人亦跳入火中同死,希望來世能與國王同生一處。」言畢即命終。這句話的意思是指每個人的業報不同,死在一處未必將來就能夠生活在一起。如果國王前生的善業成熟而夫人的善業未成熟,反而惡業成熟,那麼國王生三善道而夫人墮三惡道,這樣便不可能同生一處。反之,夫人善業成熟而國王惡報現前,那麼夫人生在人天享福而國王在惡道受苦,亦不可能同生一處。

舍利弗把這件事記錄下來,遇到金地國的商人便向他們查問可有此事,商人答言有。舍利弗言:「一定是沙然沒有授我們這一個道法。」於是與目犍連商量尋師學道術。他們互相約定,先得解脫者必定回來告訴另一人。

有一天,舍利弗在路上遇到馬勝比丘,見他威儀具足,舉止安祥,必定是一個有道的人。舍利弗上前請問他:「你跟誰學道?」馬勝比丘答:「我跟佛學。」「佛教了你些甚麼,你可以說一點給我知嗎?」馬勝比丘說:「我生性愚蠢,未能全學佛所教。」於是說了一首偈:「諸法因緣生,諸法從緣滅。我佛大沙門,常作如是說。」

舍利弗聽了這首偈,即時得初果須陀洹。他立即跑回去見目犍連。目犍連見舍利弗容顏光潤,知道他已經得了甘露法味,於是問他。舍利弗立即把剛才馬勝比丘所說的偈告訴他。目犍連聞已,要求他再說一遍。舍利弗重說:「諸法因緣生,諸法從緣滅。我佛大沙門,常作如是說。」

目犍連聽罷又再請他重說,於是舍利弗對他重說第三遍。第三遍說畢,目犍連亦得初果。兩人來到佛所,佛說:「善來比丘!」他們的鬚髮自落,自然有袈裟披體。七日後証得阿羅漢果。