Майлз Брундадж, видный деятель индустрии искусственного интеллекта (ИИ), объявил о своем уходе из OpenAI, ведущей компании по исследованию ИИ. Брундадж, занимавший в OpenAI должность старшего советника по готовности AGI, решил заняться независимыми исследованиями в области политики ИИ.
Брундаж проработал в OpenAI последние 6 лет, в течение которых он сыграл решающую роль в формировании ключевых практик компании по развертыванию и безопасности. По сообщениям, решение Брундаджа покинуть OpenAI обусловлено в первую очередь растущими ограничениями на публикацию исследований и его желанием стать независимым экспертом в дискуссии о политике ИИ.
За время работы в OpenAI Брундадж возглавлял несколько важных инициатив, в том числе внешнюю «красную команду» компании (тестирование кибербезопасности, симуляция реальных атак) и разработку первых системных карт, в которых подробно описывались возможности и ограничения моделей ИИ.
В будущем Брундадж планирует основать некоммерческую организацию, занимающуюся исследованиями и пропагандой политики в области ИИ. Его исследовательская программа будет включать оценку прогресса ИИ, разработку нормативно-правовой базы и изучение экономического влияния ИИ, в частности то, что он называет «грандиозной стратегией ИИ» — основы для обеспечения того, чтобы ИИ приносил пользу человечеству в целом.
Уход Брундаджа происходит на фоне более масштабных изменений в руководстве OpenAI. За последние месяцы из компании ушли несколько высокопоставленных руководителей, в том числе директор по технологиям Мира Мурати и директор по исследованиям Боб Макгрю. Кроме того, президент компании Грег Брокман в настоящее время находится в отпуске.
Несмотря на свой уход, Брундадж сохраняет оптимизм в отношении миссии OpenAI и считает, что определенная политическая работа может быть более эффективной, если ее проводить вне индустрии. OpenAI пока не объявила о преемнике на роль Брундаджа, а команда экономических исследований компании теперь будет возглавляться недавно назначенным главным экономистом Ронни Чаттерджи, в то время как другие проекты будут распределены между различными командами.
