Судя по видюхе, хардкорным геймером вы не являетесь, и поддержка DirectX 10-й версии вам, скорее всего, тоже не нужна. Учитывая, что «Виста» все-таки несколько тормознутее своей предшественницы, оптимальным выбором, думаю, будет Windows XP (только интересно, где вы ее сейчас купите?). С платформой все несколько сложнее. Если вы работаете над «тяжелыми» проектами в 3ds Max, то, наверное, знаете, что при рендеринге этот монстр готов слопать весь объем доступной оперативки. Так что для подобных приложений лучше ставить 64-битную ОС – но надо учитывать, что не весь софт дружит с такими системами.
Если же вы остановитесь на 32-разрядной «Винде», то в лучшем случае она увидит около 3,5 Гбайт памяти (ничего не поделаешь – особенности архитектуры, то же самое будет и с Linux), но зато у вас не будет никаких проблем с ПО. Ну а игрушкам, насколько я могу судить, четырех гигов хватит за глаза. Что же касается быстродействия самой RAM, то в данном случае (эффективная частота 667 либо 800 МГц) большой разницы вы не заметите. Решать, разумеется, вам, но для максимальной производительности 3ds Max я бы выбрал Windows XP x64 и 6 Гбайт оперативной памяти. И еще: если машина нужна вам для работы, а не для экспериментов, то на следующую версию «Окошек» переходить, думаю, пока рановато.