Генерация текста

Генерация текста устроена как обычный блок генерации, но ведёт себя иначе на нескольких важных этапах: ответ приходит не сразу, стоимость заранее не показывается, а результат — это такой же текстовый блок, который можно сразу пустить дальше по проекту как промпт. Ниже — то, что отличает именно текст.

Как собрать генерацию текста#

В каталоге блоков, в категории «Текст», есть блок генерации текста. Модели он берёт из OpenRouter — от Claude и GPT до открытых моделей, — а выбирают их списком прямо в блоке. Подключите к входу Промпт текстовый блок с заданием, как для любой другой генерации.

Результат генерации приходит в обычный текстовый блок — так же, как и при любой другой генерации. Подробнее об устройстве блока генерации и о том, куда попадает результат, — в статье Как работает генерация, о входах для примеров и содержимого — в статье Что подавать на вход генерации.

Текст приходит целиком или по частям#

По умолчанию ответ появляется в блоке постепенно, по мере того как модель его формирует: пока запрос ещё не начал обрабатываться, на блоке крутится индикатор загрузки, а как только модель начинает отвечать — текст в блоке дописывается небольшими порциями, без индикатора.

Это поведение можно отключить: среди параметров блока есть переключатель «Стриминг», включённый по умолчанию. Если его выключить, блок останется с индикатором загрузки до самого конца и получит весь ответ одним куском, когда модель закончит генерировать.

Можно ли остановить генерацию на середине#

Да, тем же способом, что и любую другую, — через список задач по счётчику кредитов (Очередь, ожидание и отмена генерации). Кнопки остановки на самом блоке нет.

Может ли модель прочитать изображение#

В каталоге есть текстовые модели, которые умеют распознавать содержимое изображений и учитывать его в ответе. Если вы выбрали такую модель, на блоке автоматически появляется дополнительная точка входа Изображения — к ней можно подключить до четырёх изображений одновременно, в дополнение к тексту. У моделей без такой возможности эта точка на блоке не отображается вовсе.

Учтите обратный ход: если переключиться с такой модели на ту, что изображения не принимает, точка входа исчезает вместе с подключёнными к ней соединениями — изображения придётся подключать заново, если вы вернётесь к прежней модели.

Куда идёт результат и как он выглядит#

Ответ модели приходит с сохранением разметки: если модель ответила заголовками, списком или выделила часть текста жирным, в блоке это отобразится так же — заголовками, списком и выделением, а не сплошным текстом со значками разметки. После генерации это обычный текстовый блок: его можно редактировать так же, как любой другой (подробнее в статье Какие бывают блоки).

Поскольку это тот же тип блока, что и обычный текстовый блок с промптом, результат генерации можно сразу подключить к входу Промпт следующей генерации — изображения, видео или снова текста. Никаких дополнительных действий для этого не требуется.

Сколько стоит генерация и есть ли предел на длину ответа#

Стоимость генерации текста заранее не показывается: цена зависит от объёма поданного текста и от длины ответа, а она заранее не известна. Списание происходит после того, как генерация завершилась, — подробнее в статье Кредиты и их списание. Ненулевой баланс при этом нужен и здесь: с пустым счётом запуск не пройдёт.

Максимальную длину ответа можно задать самостоятельно: в дополнительных параметрах блока есть значение «Макс. токенов» — по умолчанию 8192, его можно менять в пределах от 50 до 16384. Рядом лежит «Температура»: чем она выше, тем разнообразнее и неожиданнее ответы, чем ниже — тем ближе они к одному и тому же на повторный запрос.