در تاریخ گفته شده است: کاهن بزرگ در روز دهم تیشری (یوم کیپور) برای کفّارۀ گناهان مردم قربانی قرار می‌داد. این قربانی یک قوچ برای سوزاندن و دو بُز بود. این دو بز یکی برای «یَهُوَه: نام خدا در آیین یهود» و یکی برای «عزازیل» در نظر گرفته می‌شد. بزی که برای خدا بود قربانی می‌گردید؛ ولی بزی که برای عزازیل بود، ابتدا کاهن بزرگ دستش را روی سر آن می‌گذاشت و گناهان مردم را اعتراف می‌کرد. سپس این بز به منطقه‌ای بیرون از شهر و دور از مردم برده و آنجا رها می‌شد. شاید نام «عزازل» نام جایی باشد که بز آنجا رها می‌گشت. برخی گمان می‌کنند که «عزازل» از دو واژۀ «عزاز» و «ال» به معنای «کوهِ سخت» پیوند یافته است. منطقه‌ای به نام «کوه عزازل» نیز موجود است که ظاهراً جایی است که این بز در آنجا رها می‌شد. واژۀ Scapegoat در زبان انگلیسی نیز از همین داستان برگرفته شده‌است.