На выставке ISC High Performance 2023 в Гамбурге Intel и Аргоннская национальная лаборатория рассказали о ходе разработки суперкомпьютера Aurora и новом искусственном интеллекте. Intel сообщила, что суперкомпьютер Aurora будет содержать в общей сложности 10’624 узла, включая 21’248 процессоров Xeon на основе семейства Sapphire Rapids-SP и 63’744 графических процессора на основе дизайна Ponte Vecchio.
Суперкомпьютер Aurora будет оснащен 10,9 ПБ системной памяти DDR5, 1,36 ПБ HBM для центральных процессоров и 8,16 ПБ HBM для графических процессоров. Системная DRAM достигает пиковой пропускной способности 5,95 ПБ/с, CPU HBM достигает пиковой пропускной способности 30,5 ПБ/с, а GPU HBM достигает пиковой пропускной способности 208,9 ПБ/с. Система хранения оснащена DAOS емкостью 230 ПБ, которая работает с пиковой пропускной способностью 31 ТБ/с.
Утверждается, что Aurora с новейшим графическим процессором Intel Data Center Max Series 1550 предлагает самую высокую производительность SimpleFOMP, превосходя ускорители NVIDIA A100 и AMD Instinct MI250X.
Суперкомпьютер Aurora с производительностью 2 экзафлопса будет использоваться для обучения модели искусственного интеллекта Aurora genAI. Модель Aurora genAI будет обучаться на общеязыковых текстах, а также научных текстах, научных данных и кодах, связанных с предметной областью. Это будет сугубо научно-ориентированная модель генеративного ИИ с потенциальными приложениями:
- системная биология;
- исследования рака;
- климатология;
- космология;
- химия полимеров и материалов;
- наука.
Основой модели Intel Aurora genAI являются Megatron и DeepSpeed. Целевой размер новой модели составляет 1 триллион параметров. Для сравнения, целевой размер бесплатной и общедоступной версий ChatGPT составлял 175 миллионов. То есть для Aurora genAI количества параметров достигло увеличения в 5,7 раза.
