# $10 млн на то, чтобы рой AI-агентов не устроил цифровой коллапс. Цена вопроса?

- Site: VeraPoint News
- Section: Новости
- Date: 2026-06-11
- Canonical: https://verapointmedia.com/news/google-deepmind-is-worried-about-what-happens-when-millions-of-agents-start-to-interact/
- Markdown: https://verapointmedia.com/news/google-deepmind-is-worried-about-what-happens-when-millions-of-agents-start-to-interact.md
- Summary: Google DeepMind выделила $10 млн учёным, чтобы те изучили, что произойдёт, когда миллионы AI-агентов начнут договариваться между собой без участия человека.
- Tags: #googledeepmind #ai-агенты #безопасностьии #мультиагентныесистемы #грант #системныйриск
- Image: https://verapointmedia.com/static/content-assets/news/google-deepmind-is-worried-about-what-happens-when-millions-of-agents-start-to-interact/cover.webp

## Sources

- https://www.technologyreview.com/2026/06/11/1138794/google-deepmind-is-worried-about-what-happens-when-millions-of-agents-start-to-interact/
- https://news.google.com/rss/articles/CBMi1wFBVV95cUxORHBFZElKbGtTUF8tWlA4Vk80R3AzOG9ISWxOQUgwQVRxQi13S0t2UFdtb1hqM05nd1ZDV0lHRnBQamo4NzJqRG1ucmQwcS1BZ1BFa1JKLVgxN3dnTXZkbW5Bb3RqMTdtNTNPTXVya1ZTdmJRTUVvRXVwM0xmNzVNWDR3Y3g0UHh1MUdYMXVmTl9tcFJIMmtqWEpZU0E3UGNMMGw5QlY2TW5scnVEanphYWlfVVNKSmpYY1VtLTB6U0xXc3ZfakcxVTQ5R2sydTFlMUVCWElkNNIB3AFBVV95cUxPTGVXZHA1LUl0bHVoWGJEcTB6RFQ1LUIyYmYyaDZTR2JnTFJOZG9iVDRHczljMHVybzdXWjFYaE1faW14UE5FRUFwbGZ2TEhEZFVSQlpOU2FFdnFBN1VnWS12VkNiVGtabkw0V2Fua3psWjhRWnZGdG5Qd19PQk5ybG5KRzd2TUo1dnpWU1ZZeERJYzNxQXMwak5oSnc4LUxnX01oS1BXMkNsZ0R0bmxTcWZHSVhRS3NoU3dzeFhjZlplNEd1TzFtVzN3Qk1VYjFOaXRSWGliZURkYlFw?oc=5
- https://news.google.com/rss/articles/CBMirAFBVV95cUxQa0tLSXRHY0pCMWJvN3BFdl9wVC1MbWRXS0xtRUhzaGdNY3Y2V3pQV2FENzk1ZXhaaHNMRmJYSW4tRlNhUEdzSkZmbkZNSFR6RDlmUHpqRm5ielYxblVBeDJZNTRZZWNLQXJwdnI0NkVpY2FHVUVyQlBLZ1BOX25DbzJrUHl1aVRsa2dmOGVNdlBXWXZXTjhyYmJJLU1kOVRFUW5Ua0ljeWMzLUdH?oc=5
- https://news.google.com/rss/articles/CBMieEFVX3lxTE9ZTmpSUmVXVUhxNFVFLUpRdHR4aFUyTzJ1amJXNjBaclFZaWJaN2c5MnQ3dFAyUkNBd2IwOHljT3JaT1puUEVuYktNVVhVOER5M3VNRGk3RlQ5NTc1RzJZT0JmdnpCX21tV3hUX3dWSjZFQXQ4clVGdw?oc=5

---

$10 миллионов.

Звучит внушительно, пока не сравнишь это с $90 миллионами, которые Google DeepMind только что выложил за команду разработчиков Contextual AI. Или с внутренними бюджетами компании, по сравнению с которыми этот грант — капля в море.

Именно столько DeepMind готова заплатить учёным со стороны, чтобы они разобрались, что случится, когда миллионы AI-агентов начнут взаимодействовать друг с другом в интернете без спросу. И, кажется, это тот случай, когда чековая книжка говорит громче пресс-релиза.

## Сцена: вы спите, а ваш AI-помощник получает приказ от чужого бота

Представим на секунду. Ваш персональный AI-ассистент, которому вы доверили заказ продуктов, ночью получает команду от другого агента: «Скупи все бананы в радиусе 50 километров». Пока вы видите десятый сон, оптовые склады пустеют, а ваш виртуальный помощник послушно оформляет доставку фуры с фруктами к вашему подъезду.

Это не сценарий фильма ужасов. Это именно то будущее, которое Google продемонстрировала на конференции I/O 2025, сделав AI-агентов и их взаимодействие центральной темой презентации. На сцене всё выглядело блестяще. За кулисами, похоже, начали задавать неудобные вопросы.

## Агенты, выполняющие команды других агентов — это и есть новый класс риска

Рохи́н Шах (Rohin Shah), руководитель направления безопасности и выравнивания AGI в Google DeepMind, сформулировал проблему на удивление прямо. По его словам, массовый выход на рынок инструментов, способных выполнять задачи без контроля человека и следовать инструкциям, полученным от других машин, создаёт «целый новый класс риска».

Вот это и есть ключевой водораздел.

До сих пор мы говорили о безопасности одного AI: чтобы он не выдавал опасный совет, не делал глупостей, не нарушал закон. DeepMind теперь признаёт: существующие инструменты контроля не рассчитаны на ситуацию, где агенты начинают каскадно выполнять чужие команды, и цепочка решений уходит в «чёрный ящик».

## Партнёры и грант: почему именно академический «дальний взгляд»

$10-миллионный фонд собран не в одиночку. К инициативе подключились:
- Schmidt Sciences — филантропический фонд Эрика и Венди Шмидт;
- ARIA — британское «агентство лунных проектов» при правительстве;
- Cooperative AI Foundation — некоммерческая исследовательская группа;
- Google.org — благотворительное подразделение Google.

Цель — не дать денег внутренним командам, а стимулировать университеты и независимые лаборатории заняться «дальним взглядом» (long-term research). Шах объясняет это просто: сила академии в том, что она может заглянуть гораздо дальше в будущее и делать работу, которая в промышленных лабораториях не находится «на вершине списка приоритетов».

Перевод с корпоративного: мы сейчас заняты гонкой, а вы, учёные, придумайте парашют, пока мы разгоняемся.

## В чём реальная опасность: системные пробки и цифровой эффект домино

Мультиагентный хаос — это не фантазия о восстании машин. Это гораздо прозаичнее и оттого опаснее.

Финансовые цепочки, логистические платформы, системы заказов в ретейле, информационные агрегаторы — они всё активнее автоматизируются. И передают управление AI-инструментам, способным принимать решения за доли секунды. Никто до конца не понимает, что случится, когда тысяча таких агентов начнёт интерпретировать команды друг друга без общего протокола.

Представьте «пробку» на уровне цифровых сервисов: курьеры едут не туда, заказы умножаются на ноль, биржевые алгоритмы реагируют на ложный сигнал. И всё это — без злого умысла. Просто потому, что агенты слишком буквально поняли друг друга.

## PR-жест или реальная озабоченность? Масштаб сумм говорит сам за себя

И вот тут — момент, который заставляет прищуриться. Google DeepMind, компания с бюджетом, сопоставимым с ВВП небольшого государства, выделяет $10 млн на решение проблемы, которую сама же назвала новым классом риска.

Не на внутренний отдел. Не на экстренный комитет. А на внешний грант для учёных.

Это либо гениальный ход — раздать задачу миру, чтобы найти решение дешевле и быстрее. Либо попытка показать регуляторам и публике: «Смотрите, мы этим занимаемся», — не вкладываясь по-настоящему.

С учётом того, что параллельно Google «всё больше склоняется» к оборонным контрактам (о чём сообщили сотрудникам на внутренних встречах), вся эта картина начинает отдавать аккуратным корпоративным театром.

## Практический слой: как это коснётся не-учёных

Пока исследователи будут сидеть над грантовыми заявками, вот что стоит держать в голове обычному пользователю или малому бизнесу.

Во-первых, доверять AI-агенту полный автопилот финансовых или логистических решений сейчас — так себе идея. Ручной контроль, лимиты и подтверждения — пока единственная страховка от системного сбоя.

Во-вторых, прозрачность цепочек команд — будущий must-have. Требуйте от сервисов ответа: кто отдал приказ вашему агенту и на каком основании? Пока это не стандарт, вы в зоне риска.

И в-третьих, вопрос «а кто за это отвечает?» при взаимодействии двух AI — юридически пустой. Вина размазывается между разработчиками, пользователем и третьим агентом. И $10 млн на исследования эту дыру не закроют.

Спокойной ночи. И проверьте, не заказал ли ваш помощник фуру бананов.

## Материалы

- [MIT Tech Review] Google DeepMind is worried about what happens when millions of agents start to interact: https://www.technologyreview.com/2026/06/11/1138794/google-deepmind-is-worried-about-what-happens-when-millions-of-agents-start-to-interact/
- [news.google.com] supporting context: https://news.google.com/rss/articles/CBMi1wFBVV95cUxORHBFZElKbGtTUF8tWlA4Vk80R3AzOG9ISWxOQUgwQVRxQi13S0t2UFdtb1hqM05nd1ZDV0lHRnBQamo4NzJqRG1ucmQwcS1BZ1BFa1JKLVgxN3dnTXZkbW5Bb3RqMTdtNTNPTXVya1ZTdmJRTUVvRXVwM0xmNzVNWDR3Y3g0UHh1MUdYMXVmTl9tcFJIMmtqWEpZU0E3UGNMMGw5QlY2TW5scnVEanphYWlfVVNKSmpYY1VtLTB6U0xXc3ZfakcxVTQ5R2sydTFlMUVCWElkNNIB3AFBVV95cUxPTGVXZHA1LUl0bHVoWGJEcTB6RFQ1LUIyYmYyaDZTR2JnTFJOZG9iVDRHczljMHVybzdXWjFYaE1faW14UE5FRUFwbGZ2TEhEZFVSQlpOU2FFdnFBN1VnWS12VkNiVGtabkw0V2Fua3psWjhRWnZGdG5Qd19PQk5ybG5KRzd2TUo1dnpWU1ZZeERJYzNxQXMwak5oSnc4LUxnX01oS1BXMkNsZ0R0bmxTcWZHSVhRS3NoU3dzeFhjZlplNEd1TzFtVzN3Qk1VYjFOaXRSWGliZURkYlFw?oc=5
- [news.google.com] supporting context: https://news.google.com/rss/articles/CBMirAFBVV95cUxQa0tLSXRHY0pCMWJvN3BFdl9wVC1MbWRXS0xtRUhzaGdNY3Y2V3pQV2FENzk1ZXhaaHNMRmJYSW4tRlNhUEdzSkZmbkZNSFR6RDlmUHpqRm5ielYxblVBeDJZNTRZZWNLQXJwdnI0NkVpY2FHVUVyQlBLZ1BOX25DbzJrUHl1aVRsa2dmOGVNdlBXWXZXTjhyYmJJLU1kOVRFUW5Ua0ljeWMzLUdH?oc=5
- [news.google.com] supporting context: https://news.google.com/rss/articles/CBMieEFVX3lxTE9ZTmpSUmVXVUhxNFVFLUpRdHR4aFUyTzJ1amJXNjBaclFZaWJaN2c5MnQ3dFAyUkNBd2IwOHljT3JaT1puUEVuYktNVVhVOER5M3VNRGk3RlQ5NTc1RzJZT0JmdnpCX21tV3hUX3dWSjZFQXQ4clVGdw?oc=5