ларчик просто открывался
Код:

set /a %SIZEFILE:~0,-3%
откусывает три последних символа, т.е. делит на 1000
может еще подскажете как можифицировать батник чтобы вычислять размер папок и обрабатывать их наравне с файлами по секциям big/small/verysmall
Код:

@SET FILE=%2
@SET SIZEFILE=%~z2
@SET SIZEFILEKb=%SIZEFILE:~0,-3%
@SET SIZE1=1000
@SET SIZE2=600001
@SET SIZE3=10000001
@SET FOLDER=%3
@SET FILENAME=%1
@echo %FILE%
@rem @rd %FOLDER%
md %FILENAME%
IF %SIZEFILEKb% LEQ %SIZE1% (goto big)
IF %SIZEFILEKb% LEQ %SIZE2% (goto verysmall)
IF %SIZEFILEKb% LEQ %SIZE3% (goto small)
goto big