耶路撒冷聖殿還存在的時候，會堂在猶太人的敬拜活動中只佔次要的位置。它最主要的作用是作為一個禱告和學習聖經的地方。雖然我們缺乏考古學上相關的證據，但相信在新約時期，猶大地每一條鄉村和大小城市，都設有會堂。很多會堂的外形與普通房屋沒有明顯的不同，因此很難分辨。不過，在瑪撒大、甘拉和莫迪因（Modi’in），考古學家都能根據它們的大小、定位方向、裝飾，或是否有禮儀用的水池，而辨認出會堂的遺址。

會堂安息日敬拜的模式因地而異，但通常包括誦讀示瑪禱文（參申六4-5）、宣讀律法書和先知書的經文、禱告、感恩和個人講道。主後70年之後，會堂的聚會也加進了某些聖殿敬拜的禮儀，只是沒有施行動物獻祭。舉行敬拜的時候，會堂開放給所有人，並且吸引了一些敬虔的希臘人，他們對猶太律法的道德教訓產生了興趣，有些人更歸入猶太教或者成為「敬畏神的人」（徒十三16、26、43，十四1）。

會堂的領導權並非掌握在祭司手中，而是由普通擔當會堂管理員和長老組成的議會主持會堂的敬拜，監督會堂的保養，並執行整個羣體的規例。有些時候，參加者或差役會協助會堂的領袖（路四20）。他們也有責任懲戒不遵守律法的成員（路十三14）。

主後66年至74年之間的猶太起義，以及132年至135年之間的巴柯巴起義，為猶大的人口帶來劇變。耶路撒冷和很多猶太人的鄉村被毀，有很多倖存者被賣作奴隸，甚至到最後羅馬皇帝哈德良禁止猶太人在巴勒斯坦居住。這表示猶太人的信仰和思想核心不得不轉移到散居地的猶太人羣體。會堂成為敬拜中心，地區的拉比和長老成為散居各地的猶太人的知識領袖。