Գնդեվանքը գտնվում է Վայոց ձորի գեղատեսիլ հովտով հոսող Արփա գետի ձախ ափին, բարձրադիր տեղանքում, Գնդեվազ գյուղից մոտ 1 կմ արևմուտք: Պատմիչ Ստեփանոս Օրբելյանի (XIII-XIV դդ.) վկայության համաձայն` Գնդեվանքը հիմնադրել է Սյունյաց Սոփիա (Սոփի) իշխանուհին X դ., որպես ճգնավորների մենաստան: Գնդեվանք է կոչվել հայր Սուփան Գնդունու անունով: Հուշարձանախումբը X-XVII դդ. կառույց է, որի կազմում են Ս. Ստեփանոս եկեղեցին, գավիթը, սեղանատունը, գերեզմանատունը, բնակելի և տնտեսական շինությունները, վանքապատկան ջրանցքը: Պարսպապատ է: Վանքը և գյուղը ավերել է պարսից շահ Աբասը 1604 թ.:
Ս. Ստեփանոս եկեղեցի – կառուցել է Սյունյաց Սոփիա իշխանուհին 936 թ.: Եկեղեցու արևմտյան պատի վրա գտնվող շինարարական արձանագրության մեջ Սոփիա իշխանուհին հիացմունքով նշում է` «Մատանի էր անակն Վայոց ձոր, շինեցի զսա եւ եդի ակն վերայ»: Կառուցված է բազալտի սրբատաշ քարերով: Ըստ հատակագծային հորինվածքի եկեղեցին քառախորան` արտաքուստ խաչաձև կենտրոնագմբեթ կառույց է` արևելյան զույգ ավանդատներով: Խաչաթևերը մշակված են եռանկյունաձև հատվածքի «հայկական խորշերով»: Գմբեթի առագաստներին պատկերված են չորս ավետարանիչների խորհրդանշանների բարձրաքանդակներ: Եղել են նաև որմնանկարներ, որոնց հեղինակը նկարիչ Եղիշե երեցն է (X դ.): Ավագ խորանում պահպանվել է Քրիստոսի պատկերի փոքր հատվածը: Ավելի ուշ շրջանի գործեր են ավանդատների մուտքերից վեր պատկերված ֆիգուրները: Կատարման վարպետությամբ աչքի է ընկնում հյուսիսային ավանդատան պատի Աստվածամոր պատկերը, որն ուշ միջնադարի հայկական կերպարվեստի լավագույն ստեղծագործություններից է: Որմնանկարները, ցավոք, վերջին տասնամյակներում խոնավությունից քայքայվել են:
Գավիթ – թաղածածկ դահլիճ, կից է եկեղեցուն արևմուտքից, կառուցել է Քրիստափոր վանահայրը 999 թ.:
Սեղանատուն – գտնվում է հուշարձանախմբի հարավային կողմում, ուղղանկյուն հատակագծով թաղածածկ մեծ դահլիճ է (4,11 x 7,62 մ)` նկուղով, օժանդակ սենյակներով և կրակարանով (մեծ օջախ):
Սենյակներ – գավթի հյուսիսային պատի երկայնքով տեղավորված են ուղղանկյուն հատակագծով երկու սենյակներ (արևմտյանը հավանաբար ծառայել է որպես գրատուն): Կան թաղածածկ սենյակներ հարավային ու արևմտյան պատերի երկայնքով, որոնք կառուցվել են XVII դ.:
Գերեզմանատուն – գտնվում է վանքի բակում, կան X- XVI դդ. խաչքարեր, օրորոցաձև տապանաքարեր:
Պարիսպներ (բուրգերով) – շրջափակում են վանքը: Կառուցել է վանքի վանահայր Պետրոս վարդապետը 1691 թ.:
Ջրանցք – վանքապատկան հողերը ոռոգելու համար վանքի առաջնորդ Հայր Սարգիսը 1008 թ. կառուցել է տվել ջրանցք, որի երկարությունը` 24 կմ է:
Գնդեվանքը ժամանակի ընթացքում քանիցս վերանորոգվել է: Հայտնի է, որ 1309 թ. եկեղեցին նորոգել է Գրիգորը (Գրիգորես), 1691 թ.` Պետրոս վարդապետը, որի արձանագրությունը պահպանվել է եկեղեցու արևմտյան պատին: 1875 թ. Հովհաննես վարդապետ Տեր-Հարությունյանը, բնակվելով վանքում, մաքրել և բարեկարգել է, ապա վանքը նորոգել է տաթևցի վանահայր Պետրոս վարդապետը: 1968 թ. Պատմական հուշարձանների պահպանության հայկական ընկերության պատվերով և միջոցներով սկսվել է հուշարձանախմբի (եկեղեցու, գավթի) վերանորոգումը, որն ավարտվել է 1971 թ.: Վերանորոգումից բացի` կատարվել են նաև վանքապատկան տարածքի բարեկարգման որոշ փոքրածավալ աշխատանքներ: Գնդեվանքի տարածքում Հուշարձանների պահպանության և վերականգնման վարչությունը 1970 թ. հիմնել է թանգարան, որը հետագայում լուծարվել է: