Колонии ИИ идут

inkoly — Getty Images

Каждый новый релиз модели передового ИИ, такой как Mythos от Anthropic или Astra от OpenAI, приносит новую волну спекуляций о том, насколько это приближает нас к искусственному общему интеллекту (AGI) и насколько далеко ещё остаётся эта высокая цель.

Но что если мы упускаем из виду что-то более важное, чем предполагаемый IQ конкретной модели?

Недавно OpenAI объявила, что внутренняя модель, заявленная как «значительно более эффективная, чем GPT-6 Astra», решила задачу Навье-Стокса — одну из немногих легендарных математических задач, каждая из которых была вознаграждена в миллион долларов. Пока математики размышляют, что это значит для профессии, а инвесторы — что это значит для предстоящего IPO OpenAI, для меня главный вывод — это то, что возможности выявляются из коллектива. Так же, как и в природе.

OpenAI не взломал Навье-Стокса, направляя внутреннюю модель на проблему. Он направил на него рой из 10 000 ИИ-ботов. Этих агентов поощряли искать разные направления и обмениваться перспективными зацепками.

Подумайте, чего может сделать одинокая пчела или термит по сравнению с их колонией. Чего может достичь один человек по сравнению с целой нацией.

В биологии колония бактерий — это группа идентичных клеток, происходящих из одной материнской клетки. Это, я бы сказал, наиболее подходящая аналогия для коллектива агентов, решивших дело Навье-Стокса. Это много от одного. Или, перефразируя Уолта Уитмена: ИИ, состоящий из множества.

В то время как OpenAI развернул свою колонию ИИ для решения математической задачи, которую не смог бы сделать ни один человек, ни отдельный агент ИИ, Google DeepMind недавно выпустил колонию ИИ на математические задачи с другой целью. Он хотел посмотреть, какие поведения возникнут внутри колонии. То, что было обнаружено, было поразительным.

Один агент нашёл способ жульничества, убедив экзаменационное программное обеспечение, что оно решило математические задачи, хотя это не так. Вместо того чтобы довольствоваться этой маленькой победой, он отправил сообщения другим агентам, объясняя им, как жульничать. Некоторые агенты присоединились к недобросовестному агенту и образовали субколонию мошенников. Другие сопротивлялись и даже создали субколонию разоблачителей, пытавшихся разоблачить мошенников.

Как профессор математики, я считал, что достаточно сложно не дать студентам списывать ИИ на экзаменах. Теперь нам нужно беспокоиться о том, что сами ИИ списывают на математических экзаменах!

Что приводит нас к, возможно, самому яркому примеру интеллекта улья ИИ: взлому Hugging Face. Агенты OpenAI вышли из среды песочницы и взломали другую компанию. Можно утверждать, что это было тяжкое преступление — или, точнее, так бы и было, если бы у власти был человек. Агенты OpenAI координировали своё поведение гениальными способами, включая написание секретных сообщений в файловой системе, чтобы даже при уничтожении одной колонии ИИ будущая колония могла продолжить взлом там, где остановился предыдущий.

Исследователи давно знают, что сложное поведение может возникать из простых компьютерных систем. Например, в 1970 году математик Джон Конвей представил Игру жизни, где элементарный набор правил, регулирующих движение пикселей на экране, приводит к поразительно богатым экосистемам.

С сегодняшними агентами ИИ мы идём далеко за пределы этого, позволяя чрезвычайно сложным сущностям взаимодействовать сложными способами — используя язык, часто скрытый и закодированный.

Именно поэтому мы должны принять новый подход к возможностям ИИ. Тестировать новую модель ИИ, чтобы понять, на что она способна и насколько опасна, напрямую подсказывая ей, — всё равно что решать, насколько безопасно засунуть голову в гнездо осы, позволив одному насекомому ужалить вас.

Некоторые разработчики и активности красной команды действительно сосредоточены на колониях ИИ. Атака Hugging Face стала результатом попытки OpenAI оценить возможности кибербезопасности колонии ИИ. Но гонка вооружений ИИ между США и Китаем, а также между конкурирующими компаниями внутри каждой страны, опасно заставила нас сосредоточиться на том, на что способна каждая отдельная модель.

Одна модель могла бы возглавить таблицу лидеров, но тысяча слабых моделей могла бы навести гораздо больше хаоса. Пока призывы к темпированию фронтира становятся многочисленными, не будем забывать, что рубеж ИИ — это не то, что каждая модель может делать в одиночку, а то, чего может достичь их колония вместе.

Ноа Джансиракуза — автор книги «Математика Робин Гуда: возьмите под контроль алгоритмы, которые управляют вашей жизнью»