Сооснователь Google Сергей Брин (Sergey Brin) заявил, что новейшие версии искусственного интеллекта Gemini начали участвовать в создании собственных будущих поколений. По его словам, компания автоматизирует написание кода и поиск ошибок с помощью внутренних агентов. Это означает вступление в эпоху рекурсивного самосовершенствования, или RSI. Речь идет не о единичном эксперименте, а о части внутреннего процесса разработки, где модели применяются для ускорения собственного цикла обновлений.
Рекурсивное самосовершенствование предполагает, что система способна улучшать алгоритмы, архитектуру или программную обвязку следующей версии. В случае Gemini внутренние агенты могут анализировать кодовую базу, предлагать исправления, генерировать тесты и выявлять дефекты. Человеческие инженеры при этом сохраняют контроль над постановкой задач, проверкой результатов и выпуском моделей. Брин (Sergey Brin) указал на необходимость усиления мер безопасности, поскольку ускорение разработки повышает риски непредвиденного поведения, утечек данных и ошибок в критических сценариях.
Google развивает семейство Gemini как мультимодальную платформу. Модели этого семейства используются в поиске, Workspace, Cloud, Android и внутренних инструментах разработки. Компания применяет несколько уровней оценки: red teaming, автоматические бенчмарки, проверки на соответствие политикам Responsible AI и Frontier Safety Framework. Эти процедуры направлены на выявление опасных возможностей, включая кибербезопасность, биологические риски и автономное поведение. Для RSI требуется контроль за тем, чтобы агенты не обходили ограничения и не вносили изменения без аудита.
На рынке аналогичные подходы обсуждают OpenAI, Anthropic и Meta. OpenAI развивает модели o-серии для рассуждений и агентные системы. Anthropic делает ставку на интерпретируемость и Constitutional AI. Meta исследует агентов, способных использовать инструменты и писать код. Ни одна из компаний пока не подтвердила полностью автономное рекурсивное самосовершенствование, однако все они используют ИИ для ускорения собственных исследований. Google располагает масштабной инфраструктурой, доступом к поисковым данным и интеграцией Gemini в массовые продукты.
Заявление Брина (Sergey Brin) продолжает давнюю дискуссию о границах автоматизации разработки. С одной стороны, ИИ-агенты способны сократить время на рутинные операции, тестирование и документацию. С другой стороны, рост автономности требует прозрачных протоколов, журналирования действий и возможности отключения. Регуляторы в ЕС, США и Китае уже формируют требования к генеративным системам, включая оценку рисков и маркировку контента. Для Google это означает дополнительную нагрузку на юридические и инженерные команды.
В пресс-релизе не приводятся конкретные версии Gemini, даты запуска, объемы кода или метрики ускорения. Поэтому масштаб перехода к RSI пока нельзя измерить по открытым данным. Ясно лишь, что внутренние агенты уже применяются в цикле разработки, а человеческий контроль остается обязательным условием. Дальнейшие шаги Google будут зависеть от результатов тестирования, реакции регуляторов и способности компании обеспечить безопасность моделей на каждом этапе.
