На форуме Fellows Forum 23 сентября Борис Пауэр, руководитель прикладных исследований OpenAI, оценил, что 80–90% исследований компании посвящены «GPT-7, GPT-8 и следующим поколениям». Он назвал эту цифру, объясняя, как OpenAI совмещает работу над текущими продуктами с исследованиями более способных моделей. Это его оценка, высказанная в публичной беседе; OpenAI не публиковала разбивку исследовательских ресурсов, с которой ее можно было бы сопоставить.

Главное изменение

  • Что изменилось: Пауэр описал два взаимосвязанных направления: улучшение моделей, которыми люди пользуются сейчас, и исследования для следующих поколений. По его оценке, на будущее поколение приходится основная часть исследований OpenAI.
  • Почему это важно: Более мощная крупная модель может создавать обучающие примеры для меньшей и более дешевой модели, предназначенной для конкретной задачи. Поэтому разработчикам важно следить за исследованиями передовых моделей, даже если в своих продуктах они используют более компактные системы.
  • На что обратить внимание: Будущие выпуски моделей и технические публикации могут показать, переходят ли достижения крупных моделей в меньшие системы. В интервью не назывались даты выхода GPT-7 или GPT-8, их характеристики или результаты.

Контекст оценки

Пауэр отвечал на вопрос Захари Липтона о том, как запросы клиентов влияют на исследования. Он сказал, что OpenAI может улучшить конкретное поведение, например использование инструментов, с помощью специализированных данных и прикладных исследований. По его словам, постепенные обновления внутри одного поколения моделей часто решают такие задачи. Новое поколение более крупных моделей, как он утверждал, может изменить потребность в отдельных специализированных доработках. Некоторые текущие инвестиции он описал как способ учиться и быстрее улучшать продукты уже сейчас, даже если это не долгосрочная стратегия.

Именно в этом контексте прозвучала оценка в 80–90%: на отметке 1:32:52 в записи форума Fellows Forum. Пауэр говорил об исследованиях в OpenAI, а не только о работе собственной команды. Ни запись, ни опубликованные материалы OpenAI не определяют, какие исследования учитывались, за какой период, какой бюджет или число сотрудников имеется в виду и как была рассчитана оценка. Поэтому эту цифру следует понимать как описание приоритетов со слов Пауэра, а не как проверенный показатель расходов или численности персонала.

Пауэр назвал GPT-7 и GPT-8 примерами будущих поколений. Он не объявлял эти модели, не сообщал о стадии их разработки и не называл график выпуска. В актуальном каталоге моделей OpenAI перечислены GPT-6 Astra, Sol и Luna. Это публичный контекст для названий, использованных Пауэром, но не свидетельство о состоянии следующих поколений.

Зачем он упомянул дистилляцию

Сразу после оценки Пауэр описал, как крупная модель GPT-6 Astra обучает меньшую GPT Luna. Он имел в виду, что сильная модель может создавать примеры для обучения компактной. Это описание исследовательского подхода, а не свидетельство, что конкретную выпущенную модель Luna обучали на Astra.

руководстве OpenAI по дообучению с учителем описан этот механизм. Разработчик сначала проверяет, хорошо ли крупная модель справляется с конкретной задачей, сохраняет подходящие ответы, использует их как обучающие примеры для меньшей модели и проверяет ее на той же задаче. По словам OpenAI, так можно приблизить качество меньшей модели к результатам более крупной на конкретной задаче. Это не означает, что меньшая модель наследует все способности модели-учителя. В анонсе OpenAI о дистилляции моделей также описан итеративный процесс оценки, сохранения ответов и дообучения.

У этой идеи более долгая история. В исследовательской статье 2015 года Джеффри Хинтон, Ориол Виньялс и Джефф Дин изучали перенос знаний из более крупных систем в модель, которую проще развертывать. Работа объясняет принцип «учитель — ученик», но ничего не говорит о нынешнем распределении исследовательских ресурсов OpenAI.

Так становится понятна связь, которую проводил Пауэр, между исследованиями передовых моделей и практическими системами. Более мощная модель-учитель может создавать полезные обучающие материалы для специализированных и более дешевых моделей. Результат зависит от задачи, выбранных примеров и оценки качества. Пауэр не приводил результаты дистилляции или сравнительные измерения для примера Astra–Luna.

Оценка Пауэра примечательна тем, что показывает его мнение о том, где OpenAI ожидает наибольшую исследовательскую отдачу. Публичные данные подтверждают саму реплику и общий метод, о котором он говорил. Они не раскрывают фактическое распределение ресурсов OpenAI и не позволяют судить о том, что дадут будущие поколения GPT.