המשנה במסכת ראש-השנה מציינת את ימי חג הסוכות כימים בהם נידון העולם על המים: האם יהיה ריבוי גשמים במשך השנה או חלילה תהיה זו שנת בצורת. כדי לבקש שנה גשומה ומבורכת נהוג היה לשאוב מים ממי השילוח, שליד ירושלים, ולנסכם על גבי המזבח. אמר הקב"ה לבני ישראל: נסכו לפני מים בחג כדי שאברך את שדותיכם בגשמים.
שמחת "ניסוך המים" בבית-המקדש החלה כבר במוצאי החג הראשון של סוכות. היו מסדרים מתקנים מיוחדים כדי לקלוט את המוני החוגגים שהשתתפו בשמחה והאירו את הרחבה במנורות רבות, עד כדי כך שמסופר בגמרא שהיו יכולים אפילו לברור חיטים בלילה לאור הנרות הגדולים. חסידים ואנשי מעשה ואף גדולי הדור היו מרקדים לפני הקהל שעמד מסביב, והלויים היו מנגנים בכינורות, נבלים, מצלתיים, חצוצרות וכלי נגינה אחרים.
על נשיא ישראל רבן שמעון בן גמליאל מסופר שהיה לוקח שמונה אבוקות בוערות וזורק אותן באויר מיד ליד באופן שלא היו נוגעות אחת בשניה, ואילו ר' יהושע בן חנניה העיד מאוחר יותר כי במשך כל אותם ימים לא טעמו טעם שינה והיו מתנמנמים בזמן הריקודים אחד על כתפי חבירו.
כמובן שאת טקס שאיבת המים מן השילוח ליותה שמחה המונית. רמז לכך אנו מוצאים בפסוק הלקוח מספר ישעיה: "ושאבתם מים בששון ממעיני הישועה". היו אלה רגעים של התרוממות הרוח, כפי שמפרש הירושלמי את המילה "שואבה" שמשם היו שואבים רוח הקודש שהשכינה שורה מתוך שמחה, כמו שכתוב : "והיה כמנגן המנגן ותהי עליו רוח ה"'.
ואכן השמחה היתה רבה כפי שמצאנו בדברי חז"ל: מי שלא ראה שמחת בית השואבה . . לא ראה שמחה מימיו. בימינו שאין בית-המקדש קיים נוהגים לעשות זכר לדבר ועורכים את חגיגות שמחת בית השואבה בבית הכנסת ובחוצות העיר. אנשים נשים וטף יוצאים אל הרחובות ויוצאים בשירה וריקודים לקול צלילי התזמורת. בין ניגון אחד למשנהו מאזינים המשתתפים לדברי הלכה ואגדה מעניני החג. יש מקומות בהם נוהגים לומר בהזדמנות זו את חמישה עשר פרקי שיר המעלות (תהילים ק"כ-קל"ד), כמעשה הלוויים שהיו אומרים כל פרק בעומדם על אחת מ- 15 המעלות שבין עזרת ישראל לעזרת הנשים.