این قلعه با دارا بودن حدود ۱۰ کیلومتر طول و ۴ کیلومتر عرض یکی از بزرگترین قلعه های طبیعی ایران میباشد.
دیواره های آن در دوره چهارم زمین شناسی و به سبب ریزش یکپارچه و عمودی دیواره های بنا و همچنین فرسایش ناشی از طغیان رودخانه پدید آمده اند. که ارتفاع این دیوارها در بلندترین نقطه به ۷۰۰ متر و در کوتاهترین نقطه به ۳۰ متر میرسد. این قلعه با بسیاری دیگر از بنا های قدیمی که نام قلعه برخود دارند متفاوت است اول اینکه که کاملا در داخل کوه کنده شده است و دوم اینکه بناهای ساخته شده با خشت و سنگ و گل کم و محدود به یک بنای ذخیره آب است . گفته می شود اینجا محلی بوده است که اهالی منطقه برای فرار از دست راهزنان به اینجا پناه می آورده اند ولی مطمئنا در دوره هایی نیز خود مقر جنگجویان بوده است.
قلعه از موقعیت بسیار عالی استراتژیکی برخوردار است و دسترسی به آن تقریبا غیر ممکن و تنها محدود به یک مسیر باریک و صعب العبور از دیواره شمالی می باشد.
این قلعه در دوره ساسانیان و قبل از آن به نامهای "دژ انوشبرد" یا "گیلی گردا " و یا " دژ فراموشی " معروف بوده و در آن آثاری شامل آسیاب بادی ، حوض آب انبار و غارهایی که جهت زندگی و یا انبار غلات و مواد غذایی منطقه بوده وجود دارد.