Модели с рассуждением: когда пауза дает лучший ответ

Некоторые модели сначала обдумывают задачу и только потом отвечают. В нашем чате этот режим включает кнопка Think. Он незаменим в математике, логике и коде, но почти бесполезен при быстром рерайте. Разбираемся, в чем разница.

5 мин чтенияОбновлено

В строке ввода нашего чата есть небольшая кнопка Think. Нажмите её, и следующее сообщение отправится в GPT-6.1 Terra вместо быстрой модели по умолчанию — GPT-6 Luna. Перед тем как выдать первое слово ответа, Terra тратит немного времени на обдумывание задачи, а в чате появляется короткая строчка вида «Thought for 3 s». Модели с таким поведением обычно называют reasoning-моделями (моделями с рассуждением). В этом руководстве мы расскажем, что происходит во время этой паузы, для каких задач она полезна и когда стоит нажимать Think.

Что значит «думать» для языковой модели

Языковая модель генерирует текст небольшими фрагментами, и каждый следующий фрагмент зависит от предыдущих. Если модель отвечает сразу, она связывает себя выбранным направлением с первых же слов. Если эта догадка неверна, весь остальной ответ обычно послушно следует за ней, поскольку модель опирается на собственное начало.

Модель с рассуждением обучена писать скрытые черновые выкладки перед выводом ответа. В этих черновиках она может переформулировать задачу, выписать условия, проверить гипотезу, заметить противоречие и вовремя отступить назад. Лишь после этого она пишет итоговый ответ, который вы видите. Эти рассуждения — реальный текст, который генерирует модель, поэтому на него уходит время, хоть он и скрыт от глаз.

В документации OpenAI это описывается параметром reasoning effort (глубина рассуждений). В зависимости от модели он варьируется от none (без рассуждений) через low, medium и high до extra high и max. Меньшая глубина дает скорость, большая — позволяет модели подумать основательнее. В OpenAI также отмечают, что модели умеют подстраиваться сами: на простые задачи уходит меньше токенов рассуждения даже при одинаковых настройках.

Luna и Terra в нашем чате

Мы подключаем обе модели через облачный API и сами подбираем уровень рассуждений, чтобы чат оставался быстрым:

МодельДумает перед ответом?Как выбратьДля чего подходит
GPT-6 LunaМинимум: наименьшая глубинаПо умолчанию; Think выключенТексты, рерайтинг, пересказы, перевод, быстрые вопросы
GPT-6.1 TerraДа, недолго: низкая глубинаНажать Think или выбрать в меню моделейМатематика, логика, планирование, отладка кода, подробные сравнения, сложные изображения
GPT-6 SolЗдесь не представленаЗаблокирована на gpt.meДоступна в нашем приложении AI Chat с подпиской Pro и в ChatPlus

В реальном тесте на коротком вопросе Luna начала отвечать примерно через полторы секунды, а Terra — меньше чем через две. На сложных задачах эта разница растет, так как Terra думает дольше, если того требует задача. Сам ход мыслей остается скрытым: в чате отображается только затраченное время, но не черновик. Подробнее читайте на странице GPT-6.1 Terra и в нашем сравнении Luna и Terra.

Задачи, ради которых стоит подождать

Размышления полезны везде, где одна ранняя ошибка портит весь результат или где нужно учесть сразу несколько условий.

  • Многоэтапные расчеты. Выплаты по кредиту, пересчет пропорций в рецепте, неравномерный раздел счета, перевод единиц измерения внутри текстовой задачи.
  • Расписания и ограничения. Графики смен, турнирные сетки, план подготовки к экзаменам с учетом подработки.
  • Поиск ошибок в коде. Отследить, что происходит в цикле на каждом шаге, — именно для такой трассировки и нужны черновики.
  • Выбор с компромиссами. Сравнение двух квартир, двух предложений о работе или трех тарифов связи по цене, расстоянию и условиям договора.
  • Поиск логических нестыковок. Слабое звено в доказательстве, скрытое допущение в бизнес-плане, логический скачок в тексте статьи.
  • Сложные изображения. OpenAI отмечает, что Terra отлично справляется с детальным анализом визуальных данных, таких как чертежи или перегруженные графики.
Задача, ради которой стоит нажать Think:
Трое друзей сняли дом на 7 ночей за 840 в сумме.
Анна живет все 7 ночей, Бен — 5, Хлоя — 3. Они хотят
разделить аренду по числу проведенных ночей, но Бен уже внес
предоплату 300. Сколько каждый из них еще должен и кто кому платит?

Отправьте её в Terra, затем задайте тот же вопрос модели Luna в новом чате и сравните, как каждая из них справится с предоплатой Бена.

Задачи, где достаточно Luna

Большая часть повседневных запросов не содержит скрытых сложностей, и предварительные размышления лишь добавляют лишнее ожидание. Оставляйте Think выключенным для:

  • изменения тональности или объема готового текста;
  • первых черновиков писем, постов, описаний товаров и историй;
  • простого объяснения терминов, идей или исторических событий;
  • мозгового штурма, где разнообразие идей важнее строгой точности;
  • обычного перевода текстов.

Руководство OpenAI дает схожие советы: минимальный уровень рассуждений рекомендуется для рутины вроде мелких правок и извлечения фактов, а более глубокий — для сложной отладки и глубокого анализа.

Как писать промпты для думающей модели

Модель с рассуждением отлично умеет выстраивать логику решения. Но она не сможет придумать факты, о которых вы умолчали. Указывайте все условия сразу в первом сообщении.

Слабый промпт:
Составь расписание подготовки к экзаменам.

Удачный промпт:
Составь расписание подготовки на следующие 14 дней. Экзамены:
математика на 9-й день, химия на 12-й, история на 14-й. Я работаю
в кафе в дни 2, 5 и 8 с 10:00 до 16:00. Могу заниматься максимум
5 часов в день, и мне нужен один свободный вечер в неделю.
Сделай таблицу по дням и отдельно выпиши правила, которые не удалось соблюсти.

Несколько полезных правил:

  • Не пишите «думай шаг за шагом». В рекомендациях OpenAI для reasoning-моделей это называют излишним: модель и так рассуждает внутри себя. Попросите показать шаги в самом ответе, только если хотите их проверить.
  • Задавайте цель и формат. Фраза «Выведи итоговое число отдельной строкой в самом конце» поможет быстро найти результат.
  • Просите указывать допущения. Если данных не хватает, думающая модель все равно будет строить догадки. Указание «Перечисли все сделанные допущения» сделает их явными.
  • Сохраняйте критичность. Безупречная логика, примененная к неверному факту, все равно приведет к ошибке. Наше руководство по проверке фактов подскажет, на что обращать внимание.
Простое правило: начинайте с Luna. Если в ответе есть расчеты, масса строгих условий или код, который все еще выдает ошибку, нажмите Think и отправьте запрос снова. Тратьте время на ожидание только тогда, когда это действительно нужно.

Проведите собственное сравнение

Возьмите задачу, ответ на которую вы уже знаете: решенное домашнее задание, исправленную в прошлом месяце ошибку в коде или вручную составленное расписание. Сначала спросите Luna, затем сгенерируйте ответ заново с включенным Think и переключайтесь между вариантами стрелками под сообщением. Обратите внимание на то, где именно ошибается каждая из них, а не только на финальную строчку. Через пару попыток вы начнете безошибочно понимать, какие задачи стоят лишних секунд. Решатель задач по математике и помощник по коду отлично подходят для таких тестов, а статья о том, как работают языковые модели, объяснит, почему предварительные выкладки дают лучший результат.

Часто задаваемые вопросы

Можно ли прочитать, о чем именно думала Terra?

Нет. Наш чат настроен так, чтобы модель не выводила свои черновики наружу — отображается только затраченное время, например «Thought for 4 s». Если вам нужен ход мыслей, попросите Terra объяснить свои шаги прямо в тексте ответа.

Тратит ли ответ в режиме Think больше бесплатных сообщений?

Нет. Каждый ответ считается за одно сообщение независимо от того, включен Think или нет. Единственная разница — небольшое ожидание. Подробнее о дневном лимите читайте в FAQ.

Всегда ли Terra точнее, чем Luna?

Не всегда. Она заметно лучше справляется с многошаговыми задачами, но дата актуальности её знаний ограничена, и она тоже может ошибаться. Для быстрого рерайтинга обе модели обычно дают похожий результат.

Почему GPT-6 Sol заблокирована?

Sol — старшая модель в семействе GPT-6 от OpenAI, созданная для сложного программирования и автономных задач. На gpt.me доступны Luna и Terra; модель Sol представлена в нашем приложении AI Chat с подпиской Pro и в ChatPlus. На странице GPT-6 Sol указано, где ей можно воспользоваться, включая наше приложение.

Остается ли Think включенным на весь диалог?

Режим действует на те сообщения, которые вы отправляете при активной кнопке, и вы можете отключить его в любой момент. Включайте его для самых сложных этапов диалога и выключайте для простых вопросов.

Есть вопрос? Задайте его прямо сейчас

Без регистрации и установки. Откройте чат, напишите свой вопрос — и ответ появится уже через пару секунд.

Начать общение