[vadblm]

И ещё один вариант, имхо самый правильный:
find . -type f -exec grep -q 'REMOVE' '{}' \; -delete