2.1.3. Настройка параметров LLM
Пользователь с правами "Менеджер", которому дополнительно назначена роль LLM, может управлять аккаунтами LLM и промптами. LLM выполняет следующие функции:
- Автоматический перевод сегментов проекта с помощью ИИ-моделей с учётом заданного промпта.
- Автоматическая редактура уже переведённых сегментов: проверка перевода на соответствие оригиналу, исправление ошибок, замена терминов.
- Для выполнения перевода или редактуры с помощью LLM необходимо предварительно настроить аккаунт (вы можете подключить к Системе собственный аккаунт YandexGPT или использовать большие языковые модели, подключенные к платформе по умолчанию, используя аккаунт Azure).
2.1.3.1. Создание LLM-аккаунта
Для того чтобы создать LLM-аккаунт, перейдите в раздел LLM в главном меню системы, а затем откройте подраздел LLM Accounts.
Для того чтобы создать LLM-аккаунт, перейдите в раздел LLM в главном меню системы, а затем откройте подраздел LLM Accounts.
Настройка аккаунта Azure
Для создания LLM-аккаунта для использования моделей из Azure обратитесь к разработчикам системы. Созданный аккаунт будет отображаться в разделе LLM - LLM Accounts - Azure и его можно будет выбрать в поле Account при создании LLM-промптов.
Для создания LLM-аккаунта для использования моделей из Azure обратитесь к разработчикам системы. Созданный аккаунт будет отображаться в разделе LLM - LLM Accounts - Azure и его можно будет выбрать в поле Account при создании LLM-промптов.
Настройка аккаунта YandexGPT
Для того чтобы настроить аккаунт YandexGPT, создайте облако https://console.yandex.cloud/. Добавьте каталог в облако.
Установите Yandex cloud CLI, как описано в инструкции: https://yandex.cloud/ru/docs/cli/quickstart#windows_1. Выполните настройку профиля CLI с помощью команды:
yc init
Создайте токен с помощью следующей команды и сохраните его:
yc iam create-token
В 1Ci CAT перейдите в раздел LLM – LLM Accounts - Yandex и нажмите кнопку +, чтобы добавить аккаунт.
Для того чтобы настроить аккаунт YandexGPT, создайте облако https://console.yandex.cloud/. Добавьте каталог в облако.
Установите Yandex cloud CLI, как описано в инструкции: https://yandex.cloud/ru/docs/cli/quickstart#windows_1. Выполните настройку профиля CLI с помощью команды:
yc init
Создайте токен с помощью следующей команды и сохраните его:
yc iam create-token
В 1Ci CAT перейдите в раздел LLM – LLM Accounts - Yandex и нажмите кнопку +, чтобы добавить аккаунт.
В открывшемся окне введите название профиля и ранее созданный токен. Нажмите кнопку Save, чтобы сохранить введённые данные.
2.1.3.2. Создание LLM-промпта
Для того чтобы создать новый промпт, перейдите в раздел LLM в главном меню системы, откройте подраздел LLM Settings, затем перейдите на вкладку одного из доступных провайдеров (Yandex, Azure) и нажмите кнопку “+”.
Для того чтобы создать новый промпт, перейдите в раздел LLM в главном меню системы, откройте подраздел LLM Settings, затем перейдите на вкладку одного из доступных провайдеров (Yandex, Azure) и нажмите кнопку “+”.
В открывшемся окне укажите параметры промпта (на примере модели из Azure):
Вверху поля ввода расположены переменные, которые можно использовать в тексте промпта. Для того чтобы вставить переменную в промпт, нажмите на нее и она подставится в место расположения курсора. Доступные параметры:
- Title – название промта.
- Account – выберите из списка ранее настроенный аккаунт LLM.
- Deployment - развёрнутая в Azure модель - выбирается из выпадающего списка (GPT, Deepseek, Grok и т.д.).
- Prompt Text – текст промта. Пример текста:
Вверху поля ввода расположены переменные, которые можно использовать в тексте промпта. Для того чтобы вставить переменную в промпт, нажмите на нее и она подставится в место расположения курсора. Доступные параметры:
- Source language - данные о языке оригинала
- Target language - данные о языке перевода
- Glossary - релевантные термины в глоссарии, подключенном к проекту
- Pretranslate - релевантные записи в ТМ
- Current segment- текущий сегмент
- Previous segment - предыдущий сегмент
- Next segment - следующий сегмент
- Temperature (диапазон: 0 - 2) - Определяет креативность: выше - максимально креативный и случайный, ниже - максимально детерминированный.
- Max tokens (диапазон: 0 - 4000+) - Ограничивает длину ответа в токенах (примерно 1 токен ≈ 0.75 слова). Если указан 0, то ответа вообще не вернёт или будет ошибка.
- Frequence penalty (диапазон: 0 - 2) - Снижает вероятность повторов одинаковых слов: ниже - позволяет повторы, выше - сводит к минимуму количество повторений.
- Presence penalty (диапазон: 0 - 2) - Стимулирует появление новых тем: ниже - возможность использования уже упомянутых слов, выше - поиск новых идей и тем в ответе.
- Top probability (диапазон: 0 - 1) - При низком значении модель выбирает только самое вероятное слово, которое лучше всего подходит по смыслу. При более высоком значении она начинает учитывать больше вариантов, что делает ответ более разнообразным и менее шаблонным.
- Proofread Target - это флажок, который определяет, для чего предназначен промпт: для перевода пустых сегментов или для редактуры сегментов, в которых уже есть перевод. Подробнее о том, как это работает, читайте в разделе “ИИ-редактура”.
Набор параметров промпта может отличаться в зависимости от выбранного провайдера (Yandex, Azure). Например, для провайдера Yandex доступны следующие поля:
- Title
- Model Uri (идентификатор модели YandexGPT)
- Prompt text
- Temperature
- Max tokens
- System role
- User role
- Proofread Target
2.1.3.3. ИИ-редактура
1Ci CAT позволяет выполнять ИИ-редактуру ранее выполненного перевода. С помощью этой функциональности можно автоматизированно выполнить QA готового перевода и сразу внести правки, заменить термины, проверить текст перевода на соответствие оригинальному тексту и так далее.
Чтобы указать системе, что промпт предназначен для обработки уже готового перевода, необходимо установить флажок Proofread target. Вот какие сегменты обрабатывает LLM в зависимости от значения этого флажка:
1Ci CAT позволяет выполнять ИИ-редактуру ранее выполненного перевода. С помощью этой функциональности можно автоматизированно выполнить QA готового перевода и сразу внести правки, заменить термины, проверить текст перевода на соответствие оригинальному тексту и так далее.
Чтобы указать системе, что промпт предназначен для обработки уже готового перевода, необходимо установить флажок Proofread target. Вот какие сегменты обрабатывает LLM в зависимости от значения этого флажка:
- Флажок Proofread target не установлен: обрабатываются только незаблокированные сегменты на этапе Translation.
- Флажок Proofread target установлен: обрабатываются только незаблокированные сегменты, в которых есть перевод вне зависимости от этапа перевода, на котором они находятся.
2.1.3.4. Инструкции по переводу
Для того чтобы выполнить ИИ-перевод файлов в едином стиле по общим правилам перевода и терминологии, используйте механизм Translation Guidelines. Гайдлайны позволяют получить перевод в стиле, который нужен для данного типа документов, без необходимости каждый раз передавать инструкции для модели в промпте.
Для того чтобы загрузить в систему гайдлайн, перейдите в раздел LLM в левом боковом меню, затем перейдите на вкладку Translation Guidelines.
Для того чтобы выполнить ИИ-перевод файлов в едином стиле по общим правилам перевода и терминологии, используйте механизм Translation Guidelines. Гайдлайны позволяют получить перевод в стиле, который нужен для данного типа документов, без необходимости каждый раз передавать инструкции для модели в промпте.
Для того чтобы загрузить в систему гайдлайн, перейдите в раздел LLM в левом боковом меню, затем перейдите на вкладку Translation Guidelines.
Для загрузки нового гайдлайна нажмите кнопку Upload File, расположенную в Actions-панели над таблицей.
В открывшемся окне заполните следующие поля:
Загруженный файл будет отображаться в таблице. При необходимости гайдлайн можно выгрузить, нажав иконку Download в строке файла либо установив флажок и нажав на иконку загрузки в Actions-панели таблицы.
- Поле загрузки - загрузите нужный файл, нажав кнопку +, либо перетащите его в поле загрузки. Обратите внимание, что название загружаемого файла автоматически проставляется в поле Translation guideline name, если оно не заполнено. Для загрузки доступны файлы форматов .txt и .docx. Поле обязательно к заполнению.
- Translation guideline name - скорректируйте автоматически заполненное название при необходимости. Поле также обязательно к заполнению.
Загруженный файл будет отображаться в таблице. При необходимости гайдлайн можно выгрузить, нажав иконку Download в строке файла либо установив флажок и нажав на иконку загрузки в Actions-панели таблицы.
Для того чтобы обновить существующий гайдлайн, нажмите кнопку Upload в строке соответствующего гайдлайна. После этого откроется окно загрузки. В поле Translation guideline name автоматически будет указано название выбранного гайдлайна. Выберите файл, который необходимо использовать для обновления гайдлайна, в поле загрузки. После выбора файла нажмите кнопку Upload file после чего гайдлайн будет обновлен.
Для удаления гайдлайна нажмите иконку корзины в строке файла либо установите флажок в строке файла и нажмите иконку корзины в Actions-панели таблицы. При необходимости можно одновременно удалить сразу несколько гайдлайнов.
Для удаления гайдлайна нажмите иконку корзины в строке файла либо установите флажок в строке файла и нажмите иконку корзины в Actions-панели таблицы. При необходимости можно одновременно удалить сразу несколько гайдлайнов.