в 3д_максе (версии после 2000 года) есть такая операция, как скручивание объекта по спирали. При проведении анимации можно скомбинировать операторы вращения и сжимания, просто флажки надо в нужной последовательность ставить, ещё и углы и направление деформаций подкорректируй.. короче - вечер работы.