現在耶穌運用一個比喻，他在其中提及三個羊圈以及他所擔任的好牧人的角色。他所說的第一個羊圈相當於摩西律法之約的安排。其他民族並沒有與上帝訂立這個特別的約；因此律法彷彿一道籬笆，將猶太人和這些人的種種腐敗行為分隔開來。耶穌解釋說：「我實實在在的告訴你們，人進羊圈，不從門進去，倒從別處爬進去，那人就是賊，就是強盜。從門進去的，才是羊的牧人。」

曾有其他的人來到自稱是彌賽亞或基督，但他們並非耶穌進一步談及的真牧人：「看門的就給他開門；羊也聽他的聲音。他按著名叫自己的羊，把羊領出來。……羊不跟著生人，因為不認得他的聲音，必要逃跑。」

耶穌按名領出來的這些羊最後得以進入另一個羊圈中，正如他解釋說：「我實實在在的告訴你們，我就是羊的門，」意即一個新羊圈的門。耶穌與門徒訂立新約。當他在隨後的五旬節將聖靈從天上澆灌在門徒身上時，門徒就被帶進這個新羊圈中了。

但耶穌卻繼續說：「我另外有羊，不是這圈裡的；我必須領他們來，他們也要聽我的聲音，並且要合成一群，歸一個牧人。」

既然耶穌「另外有羊」，「不是這圈裡的」，他們必然屬於另一個羊圈，第三個羊圈。第二和第三個羊圈裡的羊懷有不同的前途希望。第二個羊圈裡的「小群」會與基督一同在天上作王統治，另一個羊圈內的『另外的羊』則會生活在地上的樂園裡。可是，雖然有兩個羊圈，羊卻不會互相嫉妒，也不會彼此隔離，因為正如耶穌說，他們「要合成一群」，「歸一個牧人」。