Ejecutar comandos sobre los archivos encontrados:
for i in `find . -name "*.bak"`; do rm $i; echo "buscando ..."; done
Esto busca todos los *.bak, incluidos los subdirectorios
Note: Las comillas inversas (`, a la derecha de la "p") son necesarias porque significan que se lea el resultado del comando find, no la cadena de texto literalmente (la explicación es penosa, pero para enterderme vale).
Otra forma más sencilla
find /directorio -name *.bak -exec rm {} \;