Есть решение! Смотрим здесь:
http://blog.isrichtig.de/Lists/Beitr...ost.aspx?ID=81. Смысл такой - в папке C:\Program Files\Common Files\Microsoft Shared\OFFICE14\Office Setup Controller\Groove.en-us не хватает файла setup.xml. Берем этот файл из дистрибутива, кидаем в указаную папку и пробуем запустить удаление снова. У меня получилось!