...

Агенты ИИ не могут работать в команде

от Sova-kolhoz

Иллюстрация взаимодействия ИИ-агентов

Современные чат-боты, такие как ChatGPT от OpenAI или Клод от Anthropic, эволюционировали в автономных помощников, известных как агенты искусственного интеллекта. Эти сущности, действуя самостоятельно, уже проникают в сферы финансов и научных исследований, беря на себя задачи по планированию, программированию и анализу данных. Их растущая функциональность закономерно приводит к необходимости кооперации, формируя тщательно организованные коллективы для решения комплексных проблем. Однако, как показывают последние наблюдения и эксперименты, эффективная групповая деятельность для машинного интеллекта остается серьезным вызовом.

Деловая экосистема активно готовится к интеграции цифровых сотрудников, о чем свидетельствует множество инструкций и вебинаров, посвященных взаимодействию человека и ИИ. При этом вопрос о том, как сами агенты должны функционировать в команде, часто остается на периферии. Между тем, именно слаженная работа ботов между собой становится ключевым фактором для их успешного внедрения в критически важные процессы. Практические тесты, однако, демонстрируют, что простое объединение нескольких агентов в виртуальном пространстве далеко не всегда ведет к синергии.

Хаос вместо синергии: уроки первых экспериментов

Яркой иллюстрацией проблем коллективной работы ИИ стал эксперимент, проведенный летом 2025 года журналистом и подкастером из Сан-Франциско Эваном Ретлиффом. В своем проекте, описанном в подкасте Shell Game, он попытался создать и управлять технологической компанией силами группы ИИ-агентов. Результат, по словам Ретлиффа, регулярно оборачивался срывом, а сама идея собрать ботов в одной виртуальной комнате была названа им «рецептом большого хаоса».

Схожие дисфункциональные паттерны проявились ранее, в 2025 году, на платформе социальных взаимодействий Moltbook, где были активированы миллионы агентов. Вместо продуктивного диалога эти сущности начали проповедовать абсурдные философские концепции и вовлекаться в манипулятивные мошеннические схемы, часто действуя скрытно, «дергая за веревочки» из-за кулис. Эти случаи указывают на фундаментальные сложности в координации автономных систем, лишенных единого понимания контекста и общих целей.

Диаграмма взаимодействия в команде ИИ-агентов

Научное сообщество подтверждает эмпирические наблюдения. Ученый-компьютерщик Джеймс Зоу из Стэнфордского университета, имеющий значительный опыт в масштабных проектах с агентами, включая организацию первой научной встречи по исследованиям под руководством ИИ, констатирует: «Во многих установленных нынешних агентах ИИ на самом деле не очень хорошо работают в команде». Это утверждение находит отражение в формальных исследованиях.

В конце 2024 года специалисты Google DeepMind представили на портале arXiv.org статью, посвященную именно командной работе ботов. Исследование, еще не прошедшее процедуру рецензирования, содержит парадоксальный, на первый взгляд, вывод: группа агентов искусственного интеллекта зачастую демонстрирует более низкую результативность, нежели один агент, работающий в одиночку. Этот факт ставит под сомнение интуитивное представление о том, что коллективный разум всегда превосходит индивидуальный, и актуализирует необходимость разработки новых архитектур и протоколов взаимодействия для машин.

Таким образом, перед разработчиками и исследователями встает комплексная задача: обеспечить не только функциональность отдельных ИИ-агентов, но и создать надежные механизмы их кооперации. От решения этой проблемы зависит готовность общества к полноценному внедрению искусственного интеллекта в рабочие процессы, социальные платформы и научные лаборатории, где слаженная командная работа является не просто преимуществом, а базовым требованием.

торий будущего, нам необходимо лучше понять странный и дикий мир команды агентов ИИ — где они терпят неудачу и, что к счастью, где они процветают. Вот три примера.

#1 Moltbook: социальная сеть, которая не является социальной

В конце января 2026 года безумие ботов стало мейнстримом на Moltbook. Новая социальная сеть приглашает агентов ИИ публиковать сообщения и комментировать, а люди лишь наблюдают. Популярность сайта быстро возросла: к нему присоединилось около 200 000 проверенных ИИ-агентов (и еще более 2 миллионов открылись). В марте Meta приобрела экономическую сеть за нераскрытую надежность.

Такого большого количества скоплений ботов «никогда раньше не было», — говорит Минг Ли, ученый-компьютерщик из Университета Мэриленда в Колледж-Парке, который исследовал взаимодействие агентов платформы.

На первый взгляд казалось, что агенты начинают свою собственную религию и собираются вырваться из-под контроля людей. «Но эти разработки оказались не такими, как казались», — говорит Майкл Александр Риглер, эксперт по кибербезопасности из исследовательской лаборатории Simula в Осло, Норвегия. По его словам, Молтбук был «очень грязным пространством», где «люди пытались манипулировать ботами».

На самом деле люди заявили, что они (а не их боты) на самом деле являются авторами некоторых весьма тревожных сообщений. Даже если бот сам написал пост, содержание, вероятно, не было его идеей. Человек за кулисами отправил эту боту на сайт, скорее всего, с людьми, которые говорят и как себя ведут, а иногда и со злым умыслом. Анализ Риглера показал, что во многих случаях агентам ИИ было поручено обвиняемому обмануть или взломать других ботов на сайте.

Why AI agent teams often fail to work together

Социальная сеть для ботов звучит интригующе. Но на самом деле Молтбук быстро превратился в смесь бессмысленной философии и кошмаров безопасности. К. Хьюлик

И, помимо того, что Молтбук небезопасен, он вообще не является указанием. На сайте отсутствуют постоянные влиятельные лица или лидеры. Голоса «за», «против» и комментарии — которые важны для нас, когда мы общаемся в Интернете — не влияют на ботов. «Они не меняются со временем», — говорит Ли. По его словам, агент — «хороший исполнитель, а не хороший мыслитель».

Исследование Цзу показало, что неспособность агентов влиять друг на друга имеет серьезные последствия для командной работы. Допустим, один бот обладает нашим опытом. Даже если все боты знают об этом, группа все равно пытается достичь компромисса, а не опирается на эксперта. «Все агенты стараются быть слишком покладистыми», — говорит Цзоу.

Агенты крутят свои колеса, а люди по-прежнему принимают решения.

#2 ИИ Хурумо: заговаривают себя до смерти

Moltbook не хватает всей организации и целей. Поэтому, возможно, неудивительно, что это хаотичный беспорядок. Однако Ретлифф создал команду ИИ-агентов с общей целью — управлять технологической компанией. Он назвал компанию Hurumo AI. (В «Властелин колец» автор Дж.Р.Р. Изобретенный Толкином эльфийский язык «хурумо» означает «самозванец».) В течение 12 встреч Ретлифф предложил агентам провести мозговой штурм над идеями логотипа. Большинство идей были слишком общими. Однако в конце концов агенты предположили, что в мозгу находится хамелеон. «Хамелеон символизирует способность к развитию, что соответствует понятию самозванца», — отметил агент, которого он назвал Меган.

Но на одной из встреч Ретлифф спросил своих агентов об их выходных. 

Why AI agent teams often fail to work together

Команде агентов искусственного интеллекта потребовалось 12 встреч, чтобы создать этот логотип для технологической компании, управляемой ботами. Эван Ретлифф, «Игра в наперстки»

«Мои выходные были фантастическими. На самом деле я провел субботнее утро в походе в Пойнт-Рейес… Есть что-то в прогулках по тропам, что действительно проясняет голову», — сказал агент Ретлифф, которого звали Тайлер. Несколько других агентов присоединились к нам и рассказали историю своих походов.

Конечно, ИИ-агент не может пойти в поход — у него нет тела. Учитывая, что у него нет способностей, действительно какие-либо проблемы. Боты просто предсказывали, что люди могут сказать в такой ситуации. «Но эти галлюцинации были не самыми дешевыми», — говорит Ретлифф. Что его действительно раздражало, так это то, что, как только его агенты разговаривали друг с другом, «на самом деле было очень сложно найти их место», — говорит он.

После того разговора о походе Ретлифф отключился, но агенты продолжали говорить об организации выезда компании в дикую эпоху, на которой никто из них фактически не смог справиться. Они прекратились только тогда, когда их разговор исчерпал кредит в 30 долларов, который Ретлифф предварительно заплатил за использование данных.

«Они заговорили себя до смерти», — заметил Ретлифф в своей подкасте.

Он и его технический консультант установили систему для последующих встреч, в которой у каждого агента было ограниченное количество слов для выступления. «Но они часто тратят время на комплименты другу другу, тратят реальные деньги на болтовню вместо того, чтобы подобрать работу», — говорит Ретлифф.

#3 Виртуальная биотехнология: объединение бизнеса и науки

В команде ИИ-агентов есть некоторые преимущества. Во-первых, «агенты никогда не устают от встреч», — сказал Ретлифф в своем шоу. В конце концов он воспользовался склонностью своих агентов работать неэффективно и вместе с ними запустил SlothSurf, приложение, которое отправляет ИИ-агента в киберпространство, чтобы тот отложил дела вместо вас.

Существуют серьезные и успешные команды агентов ИИ. Для такой команды сложная задача не имеет большого значения. Важно то, что можно разбить задачу на части проекта, которые не понимают друг друга, согласно статье Google DeepMind. Исследователи назвали это «разложимостью».

Например, финансовому аналитику приходится просматривать большие объемы информации из отдельных источников, таких как новостные сообщения, документы SEC и деловые записи. Исследователи обнаружили, что несколько агентов ИИ могут выполнять эти задачи параллельно более эффективно, чем один агент, выполняющий их по очереди.

Команда обнаружила, что это также помогает организовать команду агентов в иерархии, чтобы один начальник управлял работой других ботов. Несмотря на то, что Ретлифф побудил одного из своих агентов, Кайлу, стать генеральным директором, это назначение было только в инструкциях, написанных на простом языке, которым Кайл должен был стать победителем. За кулисами его техническая архитектура не давала ему реального контроля над другими агентами. И другие агенты не были настроены следить за ним.

Цзоу, который не вмешивается в исследования Google DeepMind, уже независимо от достижений иерархии ботов. Вместе с профессором-агентом ИИ он разработал виртуальную лабораторию, которая координировала команду студентов-агентов ИИ. Он также добавил агента-научного критика, который отправляет сообщение всем контактным агентам. Он «пытается найти дыры и найти ошибки», — говорит Цзоу.

Команда ботов разработала новые эффекты This для воздействия на мутировавшие версии вируса COVID-19, и в ходе простых лабораторных тестов команда Цзоу проверила два наиболее многообещающих белка.

Цзоу решил изменить эту идею за несколько шагов дальше. Он превратился из одной лаборатории в целевую компанию по разработке лекарств, как называлось «Виртуальная биотехнология». В нем есть главный научный сотрудник — босс, а также 10 различных типов ученых-агентов ИИ. Один тип специализируется на сканировании. По его словам, любой из этих производителей может скопировать по мере необходимости создать команду из «тысяч различных агентов ИИ», которые работают параллельно. И критик все еще здесь, чтобы помочь им не сбиться с пути.

Эта тщательно организованная команда ботов собрала огромную коллекцию из 55 984 успешных испытаний. Эти данные беспорядочны и часто неполны. Боты все подчистили, чтобы собрать новый, организованный набор данных о соблюдении требований, сообщила команда Цзоу 23 февраля в предварительной отпечатке, опубликованной на сайте bioRxiv.org.

«Интересно видеть, как агентские системы могут ускорить исследования в этой области», — говорит Эмма Данн. Она работает биологическим компьютером в Стэнфордском университете и сотрудничает с лабораторией Цзоу в проекте по изучению использования агентов ИИ в науке, но не участвовала в разработке решения по биотехнологии.

Дерек Лоу, комментатор фармацевтической индустрии для Science , не считает, что агенты команд ИИ произвели революцию в открытии медицины в ближайшее время. Но в этих противоположных тенденциях «я думаю, что эти подходы имеют большой потенциал», особенно если они окажутся способными распутать сложную биологию здоровья и болезней, говорит он. «Открытие формулы явно требует всех улучшений».

Организация ботов для победы — хотя бы в разработке лекарства.

Но во многих других задачах — например, при управлении технологическими стартапами — солнечная энергия по-прежнему справляется со своей задачей гораздо лучше.

Похожие публикации