# Французский стартап Kog пытается выжать из GPU больше, чем обещает производитель

- Site: VeraPoint News
- Section: Новости
- Date: 2026-08-15
- Canonical: https://verapointmedia.com/news/kog-is-going-deeper-to-squeeze-more-inference-out-of-gpus/
- Markdown: https://verapointmedia.com/news/kog-is-going-deeper-to-squeeze-more-inference-out-of-gpus.md
- Summary: Пока рынок ИИ-железа сходит с ума по специализированным чипам, французский стартап Kog решил пойти другим путем. Вместо создания нового «железа» они пытаются заставить уже существующие серверные GPU работать на пределе своих физических возможностей. В мае компания привлекла внимание сообщества Hacker News, показав, что
- Target queries: AI news; AI developments; kog-is-going-deeper-to-squeeze-more-inference-out-of-gpus
- Tags: #ai #technology
- Image: https://verapointmedia.com/static/content-assets/news/kog-is-going-deeper-to-squeeze-more-inference-out-of-gpus/cover.webp

## Sources

- https://techcrunch.com/2026/08/14/kog-is-going-deeper-to-squeeze-more-inference-out-of-gpus/

---

Пока рынок ИИ-железа сходит с ума по специализированным чипам, французский стартап Kog решил пойти другим путем. Вместо создания нового «железа» они пытаются заставить уже существующие серверные GPU работать на пределе своих физических возможностей. 

В мае компания привлекла внимание сообщества Hacker News, показав, что стандартные дата-центровые видеокарты, такие как AMD MI300X и Nvidia H200, способны на гораздо большее при правильной программной оптимизации. Это не просто попытка ускорить код — это попытка переосмыслить взаимодействие софта с архитектурой чипа.

Почему это важно сейчас? Скорость генерации ответов (inference) стала главным узким местом для бизнеса. Когда вы ждете ответа от нейросети часами, это не просто неудобство, это прямые финансовые потери. Kog пытается решить эту проблему, предлагая Kog Inference Engine (KIE) как способ ускорить работу моделей на том оборудовании, которое у компаний уже есть.

Механика подхода Kog напоминает работу хакеров, а не классических разработчиков ПО. Основатель компании Гаэль Деллалло, имеющий опыт в наступательной кибербезопасности, применяет методы реверс-инжиниринга к GPU. Он буквально спускается до уровня ассемблера и бинарного кода, чтобы понять, как заставить чип выполнять задачи, для которых он, возможно, не был спроектирован изначально.

Последствия такого подхода двояки. С одной стороны, это позволяет выжимать максимум из пропускной способности памяти современных GPU. С другой — это невероятно трудоемкий процесс. На оптимизацию под каждую новую модель или чип у команды из 11 человек уходят недели, а иногда и месяцы. 

Пока неясно, сможет ли Kog масштабировать этот подход. Сейчас их успех ограничен демонстрацией на небольшой модели Laneformer 2B, которая показала впечатляющие 3000 токенов в секунду. Однако перенос этой методики на полноценные большие языковые модели (LLM) — это совсем другая задача. Компания обещает показать 10-кратное ускорение на крупных моделях уже в сентябре, что должно стать решающим аргументом для инвесторов перед раундом Series A.

На рынке уже есть игроки, которые пытаются оптимизировать работу с GPU, например, ZML, предлагающая аппаратную независимость от CUDA. Однако Kog делает ставку на еще более глубокий уровень «железной» инженерии. 

Вопрос остается открытым: хватит ли у небольшой команды ресурсов, чтобы поддерживать темп гонки за производительностью, пока гиганты индустрии выпускают новые поколения чипов каждые несколько месяцев? Если сентябрьский тест на больших моделях пройдет успешно, Kog докажет, что программная оптимизация может быть такой же мощной, как и новые транзисторы.

## Похожие материалы

- [Как отличить рабочий AI-инструмент от красивой демки](https://verapointmedia.com/guides/kak-otlichit-rabochiy-ai-instrument-ot-krasivoy-demki/)
- [Что такое AI-агент простыми словами](https://verapointmedia.com/guides/chto-takoe-ai-agent-prostymi-slovami/)