Родился 14 октября 1959 года в Москве. Окончил Институт иностранных языков. Кандидат в мастера спорта по самбо, выигрывал первенство спортивного общества «Динамо» среди юниоров. Работал ночным сторожем, рабочим в геологических и археологических экспедициях, тренером по самбо, жонглером, преподавателем английского языка, читал лекции о русской литературе.

Первые поэтические публикации состоялись в начале 1980-х годов в самиздате и тамиздате. Начиная с 1987 года публиковался в журналах «Новый мир», «Континент», «Знамя» и других.

В 2010 году избран лауреатом премии «Московский счёт», лауреат премии-стипендии Мемориального фонда Иосифа Бродского (2011). В 2019 году стал первым лауреатом новой премии «Поэзия», присуждаемой за одно стихотворение, опубликованное годом раньше, разделив награду с Екатериной Симоновой. Известен также как переводчик.

Главные черты поэзии Веденяпина — независимость и сила. Не та независимость, когда человек спорит с другими, а та, когда он прислушивается только к себе — или к чему-то в себе. Не та сила, с которой разгоняется словесный аппарат, а сила, с которой хочет превратиться именно в стихи какой-то независящий от автора опыт.