M>Выдает ошибку, когда имя больше(не знаю точно) 300 знаков, да еще по алгоритму новое имя в три раза длиннее 900. Ошибка: dwError = 3.
M>По мсдн можно до около 32000 знаков в имени с поддержкой уникоде и WinXP. Так что где реальность?

Там надо специальным образом имена файлов записывать, чтобы можно было использовать "длинные" длинные имена:
\\?\C:\Folder1\Folder2\file.ext