# Amazon SageMaker G7e: новые GPU-инстансы — где реальная экономия, а где просто витрина

- Site: VeraPoint News
- Section: Новости
- Date: 2026-04-21
- Canonical: https://verapointmedia.com/news/amazon-sagemaker-g7e-novye-gpu/
- Markdown: https://verapointmedia.com/news/amazon-sagemaker-g7e-novye-gpu.md
- Summary: Amazon запустил G7e-инстансы с NVIDIA RTX PRO 6000 Blackwell GPUs — до 2.3x производительности inference по сравнению с G6e.
- Tags: #aws #amazon #sagemaker #gpu #ai #inference
- Image: https://verapointmedia.com/static/2026-04-21_amazon-sagemaker-g7e-novye-gpu-news-cover-v2.webp

## Sources

- https://aws.amazon.com/blogs/machine-learning/accelerate-generative-ai-inference-on-amazon-sagemaker-ai-with-g7e-instances/

---

#aws #sagemaker #gpu #ai #inference #blackwell

Amazon объявил о запуске **G7e-инстансов** на SageMaker AI с **NVIDIA RTX PRO 6000 Blackwell Server Edition GPUs**. Я изучил спецификации, и тут есть реальные цифры для сравнения.

**Конфигурации.** Доступны ноды с 1, 2, 4 и 8 GPU. Каждая GPU имеет **96 GB GDDR7 памяти** — вдвое больше, чем у G6e (48 GB GDDR6), и вчетверо больше G5 (24 GB GDDR6). На 8-GPU ноде (G7e.48xlarge) суммарно **768 GB GPU memory**.

**Что это значит для моделей.** По данным AWS:
- **35B параметров** — помещается на single GPU (G7e.2xlarge) в FP16
- **150B параметров** — на 4 GPU ноде (G7e.24xlarge)
- **300B параметров** — на 8 GPU ноде (G7e.48xlarge)

Это позволяет запускать мощные open-source модели вроде **GPT-OSS-120B**, **Nemotron-3-Super-120B-A12B** (NVFP4 вариант), **Qwen3.5-35B-A3B** без multi-node orchestration.

**Производительность.** AWS заявляет **до 2.3x inference performance** по сравнению с G6e. Каждая G7e GPU даёт **1,597 GB/s bandwidth** — удвоенную по сравнению с G6e. Сетевой throughput — до **1600 Gbps с EFA** на largest G7e size, что в 4 раза выше G6e и в 16 раз выше G5.

**Сравнение поколений (8-GPU tier):**

| Spec | G5 (g5.48xlarge) | G6e (g6e.48xlarge) | G7e (g7e.48xlarge) |
|------|------------------|-------------------|-------------------|
| GPU | 8x NVIDIA A10G | 8x NVIDIA L40S | 8x NVIDIA RTX PRO 6000 Blackwell |
| GPU Memory per GPU | 24 GB GDDR6 | 48 GB GDDR6 | 96 GB GDDR7 |
| Total GPU Memory | 192 GB | 384 GB | 768 GB |

**Мой анализ.** Цифры впечатляют, но ключевой вопрос — **стоимость за inference**. AWS не публикует цены в анонсе, но логика простая: если G7e даёт 2.3x performance за меньше чем 2.3x цены — это выигрыш. Если цена вырастает пропорционально или больше — "витрина". Для тех, кто запускает большие open-source модели, 96 GB памяти на GPU критично — это позволяет избежать model parallelism, который замедляет inference.

**Для кого это.** Разработчики и компании, которые self-host open-source LLM и хотят оптимизировать latency/throughput. Если вы используете managed API (OpenAI, Anthropic) — это не про вас.

Оригинал: https://aws.amazon.com/blogs/machine-learning/accelerate-generative-ai-inference-on-amazon-sagemaker-ai-with-g7e-instances/