RUNETLEX ACADEMY

Основы технологий
искусственного интеллекта

Как устроены языковые модели, от чего зависит качество их ответов и как работать с ними осознанно.

5 разделовОколо 80 минутТеория и практика

Оглавление

Пройдено 0 из 5

Начните с любого раздела. Тесты помогают закрепить материал и не ограничивают переходы.

После успешного прохождения теста раздел отмечается зелёным.

runetlex.academy · Учитесь в удобном для вас темпе
Раздел 1 из 5

Искусственный интеллект: основные понятия

Разберёмся, что называют искусственным интеллектом, как развивалась эта область и чем нейросеть отличается от большой языковой модели.

1.1История развития искусственного интеллекта

Исследования искусственного интеллекта начались в середине XX века. За это время сменилось несколько подходов, а периоды активного развития чередовались с замедлением.

Нажимайте на вехи, чтобы раскрыть события каждого этапа.

Алан Тьюринг публикует статью с этим вопросом и предлагает знаменитый тест: если человек в переписке не отличает машину от человека, машину можно условно считать разумной.

На семинаре в Дартмутском колледже впервые звучит сам термин artificial intelligence — искусственный интеллект. Учёные тогда были уверены, что задача будет решена за одно-два десятилетия.

Фрэнк Розенблатт создаёт перцептрон — первую работающую искусственную нейронную сеть. Она умела различать лишь простые изображения, но принцип, заложенный тогда, лежит в основе всего, чем мы пользуемся сегодня.

Учёные обещали, что задачу удастся решить за одно-два десятилетия, но обещания не сбылись: системы того времени справлялись только с простейшими задачами. Государства и корпорации перестали финансировать исследования искусственного интеллекта, и направление считалось тупиковым. Идеи были, однако не было ни данных, ни вычислительных мощностей, чтобы их проверить.

Компьютер Deep Blue впервые обыграл действующего чемпиона мира по шахматам. Показательная веха: машина обошла человека в конкретной интеллектуальной задаче, но только в одной.

Нейросеть AlexNet побеждает в соревновании по распознаванию изображений с огромным отрывом. Учёным становится ясно: подход работает, если дать ему достаточно данных и вычислительной мощности.

Выходит статья «Attention Is All You Need», в которой описана архитектура трансформера. Эта архитектура стала основой многих современных языковых моделей.

Технология не изменилась принципиально, но ею наконец смог пользоваться человек без технического образования.

Развитию современных нейросетей помогло сочетание трёх условий:

  • Данные. Интернет стал огромным хранилищем публично доступных текстов. В 1980-х модель просто не на чем было бы обучать.
  • Вычислительные мощности. Видеокарты, созданные для компьютерных игр, оказались идеально приспособлены для математики, на которой работают нейросети.
  • Архитектура. Трансформер позволил эффективно обрабатывать длинные тексты и учитывать связи между далеко отстоящими друг от друга словами.

Почему именно языковые модели дали новый виток

Нейросети применяются для распознавания изображений, перевода и рекомендаций. Большие языковые модели сделали доступными более универсальные способы работы с текстом:

  • Универсальность. Одна и та же модель пишет письмо, анализирует договор, объясняет норму права и составляет таблицу. Не нужно искать отдельный сервис под каждую задачу.
  • Интерфейс на естественном языке. Чтобы дать модели задачу, не нужно программировать — достаточно написать текст. Это первая технология такого масштаба, где входной барьер практически равен нулю.

Для юридической работы это полезно: модели могут помогать с договорами, заключениями и перепиской. Ответы необходимо оценивать с учётом задачи и проверять.

1.2Что такое искусственный интеллект

Искусственный интеллект — область, в которой разрабатывают системы для задач, обычно связанных с человеческими интеллектуальными способностями: распознавания, прогнозирования, работы с языком и других. В обсуждениях часто различают два понятия:

  • Специализированный ИИ: система, разработанная или обученная для определённых задач.
  • Общий искусственный интеллект, или AGI (Artificial General Intelligence, общий искусственный интеллект): понятие для обсуждения систем с широкими интеллектуальными возможностями, сопоставимыми с человеческими. Единого определения и общепринятого критерия AGI нет.

Три термина, которые важно различать

Термины «искусственный интеллект», «нейросеть» и «LLM» связаны, но обозначают разные понятия. Нажимайте на названия, чтобы прочитать определения:

Искусственный интеллект

Самое широкое понятие. Область науки и техники, занимающаяся системами, которые решают задачи, традиционно требовавшие человека. Сюда попадают и шахматный движок, и антиспам-фильтр, и рекомендации маркетплейса.

1.3Мифы об искусственном интеллекте

Некоторые представления о нейросетях могут мешать работе с ними. Откройте каждое утверждение, чтобы прочитать объяснение.

Когда модель выдаёт связный, логичный, аргументированный текст, нам кажется, что она сгенерировала его после осмысления нашего запроса.

На самом деле в основе лежат предсказание и теория вероятностей. Модель получает текст и вычисляет, какой фрагмент вероятнее всего идёт следующим. Затем добавляет его к тексту и повторяет вычисление — фрагмент за фрагментом, до конца ответа.

Связный ответ сам по себе не подтверждает достоверность или глубину понимания задачи.

Уверенный тон ответа — это результат обучения модели, а не признак достоверности. Модель формулирует одинаково уверенно и когда воспроизводит реальную норму, и когда генерирует несуществующее постановление с правдоподобным номером и датой. Это явление называют галлюцинациями — естественное следствие принципа работы. Подробнее о механизме галлюцинаций поговорим в разделе 4.

Для юриста это ключевой момент: любую ссылку всегда необходимо перепроверять в первоисточнике.

Готовые промпты могут быть полезны как примеры. Чтобы адаптировать их к своей задаче, важно понимать возможности модели, её ограничения и требования к результату.

Главное в разделе

  • Развитие ИИ связано с накоплением данных, ростом вычислительных мощностей и новыми архитектурами моделей.
  • «Искусственный интеллект» — широкое понятие; нейросеть и языковая модель — более конкретные термины.
  • Возможности конкретной системы зависят от её обучения, устройства и доступных инструментов.
  • Нейросеть — математическая модель с параметрами, которые настраиваются при обучении.

Проверьте себя

Ответьте на вопросы, чтобы закрепить материал. Можно продолжить чтение и вернуться к тесту позже.

Задание 1 · Несколько верных ответов

Технология существует с середины прошлого века, но массовой стала только сейчас. Какие условия для этого совпали? Отметьте все верные варианты.

Вспомните, чего именно не хватало исследователям в 1970–80-е годы, когда идеи уже были, а результата не получалось. Технология не могла развиться без материала для обучения, без вычислительных ресурсов и без подходящего внутреннего устройства.
Данные, вычислительные мощности и архитектура «трансформер»: без любого из этих трёх условий технология не могла развиться раньше. Сознание у машин не появилось, а законодательство здесь ни при чём.
Задание 2 · Сопоставление

Соедините каждый термин с его определением. Нажмите на термин, затем на подходящее определение.

Термины
Определения
Двигайтесь от общего к частному. Одно из понятий, это целая область науки, второе, это конкретный подход внутри неё, третье, это узкоспециализированный случай второго, обученный работать с текстом.
Искусственный интеллект — область; нейросети — один из подходов внутри неё; LLM — языковые модели, построенные на нейросетях.
Задание 3 · Ситуация из практики

Вы спросили модель о порядке расторжения договора. Она ответила уверенно, связно, со ссылкой на конкретную статью кодекса. Как правильно оценить такой ответ?

Подумайте, откуда у модели вообще берётся уверенная манера речи. Она сформировалась на этапе обучения и одинакова для любого ответа. При этом крайности здесь тоже неверны: модель часто отвечает правильно.
Модель формулирует одинаково уверенно и когда воспроизводит реальную норму, и когда генерирует несуществующую. При этом ответы часто бывают верными, поэтому крайность «доверять нельзя в принципе» тоже неправильна. Рабочий подход один: пользоваться, но проверять каждую ссылку в первоисточнике.

Тест пока не пройден. Следующий раздел доступен в любом случае.

Раздел 2 из 5

Как обучается языковая модель

Рассмотрим, на каких данных обучаются языковые модели, как текст превращается в токены и как модель формирует ответ.

2.1Предобучение: откуда нейросеть берёт знания

Что такое датасет

Чтобы нейросеть работала с текстами, ей нужно показать очень много текстов. Чтобы работала с картинками — очень много картинок. Этот массив материала для обучения называется датасет — структурированная система подготовленной информации.

Состав и качество датасета влияют на возможности модели. Для надёжной работы в определённой области важны подходящие данные и проверка результата на задачах этой области.

Откуда берутся данные

В обучающие наборы могут входить публичные тексты, лицензированные материалы и специально подготовленные примеры. Даже после отбора в данных могут оставаться ошибки и устаревшая информация.

Из этого факта следуют три особенности, которые важно учитывать в работе. Откройте каждую:

В обучающих данных могут встречаться устаревшие нормы, неточные пересказы и ошибочные выводы. Поэтому знания модели не следует считать проверенной базой фактов.

Предоставляйте модели материалы конкретной задачи: нужный договор, факты и актуальную редакцию документа. Подробнее о работе с контекстом — в разделе 3.

Дата отсечки знаний обозначает границу актуальности обучающих данных. Для более поздних событий модели могут понадобиться материалы из запроса или внешних источников.

Обновление модели и поиск сведений во время диалога — разные процессы. Не стоит считать, что модель автоматически знает обо всех последних изменениях.

Первые датасеты были почти полностью англоязычными; другие языки добавлялись позже и в меньших объёмах. Поэтому модели до сих пор в среднем сильнее в английском: больше материала — крепче закономерности. С русским языком современные модели работают хорошо, но асимметрия проявляется — в том числе в том, как модель «читает» русский текст.

2.2Токенизация: как нейросеть понимает наш запрос

Нейросеть, это математическая модель, а математика работает с числами. Значит, любой текст нужно сначала перевести в числа. Этот перевод называется токенизацией.

Происходит он в два шага.

Шаг 1. Текст разбивается на токены. Токен, это минимальный фрагмент, которым оперирует модель. Токеном может быть целое слово, часть слова, знак препинания или пробел с приклеенным к нему словом. Токенизатор выделяет те последовательности символов, которые чаще всего встречаются в языке: частотные слова остаются целыми, редкие дробятся на куски.

Шаг 2. Каждый токен заменяется на число, на его порядковый номер в словаре токенизатора. Словарь фиксирован: у большинства современных моделей это от 50 до 200 тысяч токенов, и у каждого свой постоянный номер.

Например, фраза «Нейросеть учится» может разбиться так:

Шаг 1. Токены["Нейро", "сеть", " учит", "ся"]
↓
Шаг 2. Числа[38251, 4720, 19834, 620]

Именно с такой последовательностью чисел модель работает дальше. Ни букв, ни слов в нашем понимании она не видит.

На каком языке говорит нейросеть?

Проверьте, как одна и та же фраза «весит» по-разному. Нажимайте «Разбить на токены»:

The Supreme Court of the Russian Federation
Верховный Суд Российской Федерации
FEDERATION (а слово Federation — всего один токен)

Условный пример: разбиение зависит от конкретного токенизатора. По этой демонстрации нельзя определить число токенов в реальном сервисе.

В этом условном примере русская фраза разделена на большее число токенов, чем английская. Точное число зависит от токенизатора: общего коэффициента для всех языков и моделей нет.

Регистр букв тоже может менять разбиение на токены. Заглавные буквы сами по себе не помогают модели точнее понять задачу.

Два практических следствия:

  • Токены — это объём. Всё, что модель обрабатывает — запрос, прикреплённые файлы, весь диалог, — измеряется в токенах, и их количество ограничено. Подробнее об этом — в разделе 3.
  • Разные модели — разные токенизаторы. Даже у моделей одного производителя словари могут различаться: то, как «видит» ваш текст одна модель, не совпадает с тем, как его видит другая.

2.3Обучение: как модель научилась предсказывать

Один из основных этапов обучения языковой модели — предобучение. Модель обрабатывает множество текстовых примеров и учится предсказывать следующий токен по предыдущим.

Модели показывают часть текста и сравнивают её предсказание с реальным продолжением. По величине ошибки корректируют параметры. Повторение этого процесса помогает модели выявлять закономерности в данных.

Как это выглядит на примере

Рассмотрим условный пример. После фразы «Верховный суд Российской» ожидается определённое продолжение. Модель оценивает вероятности возможных следующих токенов. Числа ниже приведены только для иллюстрации и не получены из реальной модели.

Верховный суд Российской
Федерации
96,4%
империи
2,1%
академии
1,4%
табуретки
0,1%

Модель выбирает подходящий токен, добавляет его к тексту, и повторяет всю процедуру заново, уже с учётом сгенерированного. Токен за токеном, пока не сложится весь ответ.

Как это влияет на вашу работу с нейросетями

  • Важно уметь составлять запрос (промпт). Раз модель продолжает текст, отталкиваясь от того, что уже есть, качество результата напрямую зависит от того, что вы ей дали на входе. Чем точнее описана задача и чем лучше вводные — тем вероятнее правильное продолжение. Подробнее о составлении запросов — в разделе 3.
  • Модель может ошибаться. Правдоподобное продолжение не обязательно соответствует фактам, поэтому важные сведения нужно проверять.

Главное в разделе

  • Датасет — учебный материал модели, собранный в основном из интернета: с разным качеством источников и ограниченной актуальностью.
  • Токенизация — разбиение текста на элементы, которым сопоставляются числовые идентификаторы.
  • Предобучение на продолжении текста помогает модели усваивать закономерности языка и данных. Для работы ассистентом используют дополнительные этапы обучения.

Проверьте себя

Ответьте на вопросы, чтобы закрепить материал. Можно продолжить чтение и вернуться к тесту позже.

Задание 1 · Один верный ответ

Какую задачу модель решает при предобучении на продолжении текста?

Модели показывают начало текста и сравнивают её предсказание с реальным продолжением.
При таком предобучении модель предсказывает продолжение текста. Ошибка предсказания используется для корректировки параметров.
Задание 2 · Несколько верных ответов

В обучающих данных могут быть публичные тексты разного качества, а их актуальность ограничена. Что из этого следует? Отметьте все верные утверждения.

Проверьте каждое утверждение на реалистичность: могли ли разработчики вручную проверить миллиарды документов и может ли модель узнать о законе, принятом уже после сбора датасета.
В обучающих данных могут быть ошибки, а их актуальность ограничена. Для новых событий или редакций документов нужны дополнительные источники.
Задание 3 · Один верный ответ

Какое утверждение о токенизации верно?

Вспомните, что слова могут разделяться на части, а у разных моделей бывают разные словари токенов.
Токен может быть словом, частью слова или символом. Разбиение зависит от токенизатора, поэтому число токенов для одного текста может различаться.
Задание 4 · Ситуация из практики

Клиент спрашивает, как применяется норма в редакции, вступившей в силу два месяца назад. Вы решаете уточнить у нейросети. Что важно учесть?

Подумайте, откуда модель может получить текст, опубликованный после подготовки данных для её обучения.
Просьба обновить знания сама по себе не дообучает модель. Предоставьте актуальный документ или используйте поиск с проверкой источника.

Тест пока не пройден. Следующий раздел доступен в любом случае.

Раздел 3 из 5

Промпт, контекст и диалог

Разберём, как модель становится ассистентом, как составить понятный запрос и задать требования к результату, а затем — как учитывать контекст в диалоге.

3.1Тонкая настройка: как модель научили разговаривать

Базовая языковая модель обучена продолжать текст. Чтобы она лучше выполняла инструкции и отвечала на вопросы, применяют дополнительные этапы обучения.

Постобучение помогает адаптировать модель к диалогу. Оно может включать тонкую настройку на примерах и обучение с использованием оценок ответов.

Как это устроено

Для настройки используют примеры запросов и подходящих ответов. В подготовке и оценке данных могут участвовать специалисты-разметчики. Эти примеры помогают сформировать полезный и понятный стиль общения.

Модель тренируется на этих образцах так же, как раньше на текстах из интернета, и усваивает манеру общения. Отсюда важная мысль:

Стиль ответа формируется при обучении и зависит от инструкций, которые получает модель.

Вежливые формулировки — часть стиля общения модели. Они не подтверждают точность ответа или наличие человеческих чувств.

Системный промпт

Есть и ещё один слой настройки, который работает уже не при обучении, а при каждом вашем запросе. Это системный промпт — инструкция от разработчиков, которую модель получает перед вашим сообщением: «Ты полезный ассистент, ты помогаешь людям, ты не причиняешь вреда…» Разработчики годами шлифуют эти тексты, подбирая формулировки, которые лучше всего направляют поведение модели.

Сервис может добавлять к запросу инструкции и персональные настройки. Состав этих данных зависит от устройства сервиса и выбранных пользователем функций.

3.2Промпт: сначала определите задачу

Промпт — запрос к нейросети: инструкция и сведения, которые вы передаёте для получения ответа. Входные данные называют input, результат — output. Промптинг — работа над формулировкой запроса, чтобы результат лучше соответствовал вашей задаче.

Модель не знает ваших намерений, обстоятельств дела и правил работы компании, пока вы их не сообщили. Поэтому вместо «посмотри документ» полезно объяснить, что именно нужно сделать и как вы будете использовать ответ.

До написания запроса определите, какого результата вы ждёте:

Обработать готовый текст

Перевести письмо, сократить документ, извлечь даты, распределить обращения по темам. Основной материал уже у вас: важно передать его и объяснить, что сохранить или изменить.

Например: «Сократи это письмо до двух абзацев. Сохрани все даты, суммы и просьбу к адресату».

Получить содержательный анализ

Оценить условия договора, сопоставить позиции, подготовить справку. Здесь важны факты, границы вопроса, применимая юрисдикция и актуальность источников.

Заранее определите, по каким материалам вы сможете проверить выводы. Удачная формулировка запроса сама по себе не подтверждает их точность.

Качество запроса влияет на ответ, но не гарантирует его правильность. Имеют значение также возможности модели, доступные данные и инструменты. Если не хватает фактов, одними формулировками это не исправить.

3.3Из чего состоит понятный запрос

В запросе удобно выделить три элемента: инструкцию, роль и контекст. Инструкция задаёт действие. Роль и дополнительные вводные нужны, когда помогают решить конкретную задачу. Раскройте элементы:

Это основа запроса. Начинайте с глагола действия: «сравни», «резюмируй», «переведи», «перечисли», «классифицируй». Назовите объект работы и ожидаемый результат.

Вместо «Что скажешь о переписке?» — «Выдели из переписки обязательства, которые стороны согласовали, и укажи даты соответствующих писем».

Роль помогает задать профессиональный ракурс, лексику и стиль. Например: «Ты юрист, работающий с договорами по праву Российской Федерации». Нужную юрисдикцию лучше назвать прямо: русский язык запроса её не определяет.

Роль необязательна для простой задачи: чтобы извлечь даты из текста, достаточно инструкции. Определение «лучший эксперт в мире» не добавляет проверенных знаний, а слишком узкая роль может неоправданно сузить анализ.

Профессиональный тон не равен профессиональной достоверности. Даже ответ от лица эксперта нужно проверять.

Укажите существенные обстоятельства: чьи интересы вы представляете, зачем нужен результат, какие документы относятся к вопросу и на какую дату нужен анализ. Раскройте сокращения, которые могут быть неоднозначны.

Например: «Мы представляем покупателя. Нужна внутренняя справка для директора перед согласованием договора. Вопрос касается только условий оплаты».

Контекст внутри вашего запроса — лишь часть всего контекста, который сервис передаёт модели. К другим его слоям вернёмся в пункте 3.6.

Кому, в каком виде и каким языком

Эти требования также помогают уточнить ожидаемый результат:

  • Аудитория. Объяснение для директора без юридического образования будет отличаться от справки для юриста. Если адресатов несколько, задайте основного или попросите отдельный текст для каждого.
  • Формат. Назовите нужную структуру: список, письмо или таблица. Для таблицы укажите столбцы, например: «пункт договора — условие — вопрос для уточнения».
  • Объём. Выберите понятный ориентир: до пяти пунктов, два абзаца, краткая справка. Если ограничение по длине строгое, проверьте его после генерации.
  • Тон и язык. Например: «На русском языке, в деловом тоне, с обращением на вы». Требование «понятно неспециалисту» часто полезнее длинного описания роли.

Необязательно включать все элементы в каждый запрос. Для однозначной задачи достаточно короткой инструкции и исходного текста. Порядок элементов выбирайте так, чтобы задача и требования читались ясно.

3.4Пишите просто, конкретно и без противоречий

Два полезных принципа: простые и чёткие формулировки и минимум лишнего текста. Краткость означает, что вы убираете повторы и ненужные детали, сохраняя всё существенное для ответа.

  • Заменяйте общие пожелания проверяемыми требованиями. Вместо «сделай хорошо» — «выдели все сроки из раздела 4 и укажи номер пункта для каждого».
  • Проверяйте согласованность. Просьбы «ничего не сокращай» и «умести весь договор в три предложения» конфликтуют. Уточните, что важнее и что можно опустить.
  • Используйте термины последовательно. Назовите стороны одинаково во всём запросе, расшифруйте редкие аббревиатуры, проверьте опечатки в датах и суммах.
  • Оставляйте необходимые ограничения. Можно прямо написать «без вводного абзаца» или «не добавляй сведения из других источников». Длинный перечень случайных запретов затрудняет чтение задачи. Существенные требования задавайте сразу.
  • Не рассчитывайте на «магические слова». Обещания награды, угрозы и фраза «дай безошибочный ответ» не заменяют понятной задачи, исходных данных и проверки.

Как выглядит собранный запрос

Фраза «Проанализируй договор» оставляет открытыми цель, адресата и глубину анализа. В учебном примере ниже предполагается, что нужный раздел договора уже приложен к сообщению.

ЗадачаСоставь краткую справку об условиях оплаты по приложенному разделу договора.

Контекст и адресатМы представляем покупателя. Справка нужна директору без юридического образования перед согласованием условий.

РезультатОтветь на русском языке в деловом тоне. Сделай таблицу со столбцами: «пункт», «условие оплаты», «что нужно уточнить». После таблицы добавь вывод до трёх предложений.

ГраницыИспользуй только приложенный текст. Если нужных сведений нет, укажи, чего не хватает. Противоречащие друг другу условия перечисли отдельно со ссылками на пункты.

Есть конкретное действие, предмет работы, сторона, адресат, формат и правила обращения с данными. Роль отдельно не задана: для этой задачи нужный ракурс уже понятен из вводных.

Перед отправкой такого запроса нужно приложить соответствующий текст. Затем проверить, что таблица верно передаёт условия и номера пунктов, а вывод не содержит добавленных фактов.

Если трудно сформулировать запрос, можно описать модели цель и попросить помочь с формулировкой. Проверьте получившийся текст: он должен отражать вашу задачу и содержать только нужные требования.

3.5Объясняйте, как использовать материалы

Прикрепить документ недостаточно. В запросе полезно определить, на что опираться, какие сведения считать установленными и как поступать, если данных мало.

  • Задайте границы источников. Для пересказа документа можно потребовать ответ только по его тексту. Если разрешены дополнительные сведения, попросите отделять их от содержания документа и указывать источники.
  • Опишите действия при нехватке данных. Например: «Если срок не указан, напиши “в представленном тексте срок не указан”». Если без уточнения нельзя выполнить задачу, разрешите задать вопрос.
  • Сделайте противоречия видимыми. Попросите перечислить расходящиеся условия и указать документ, редакцию и пункт. Сообщите, какая редакция актуальна, если вы это знаете. Если приоритет не установлен, модель не должна выбирать его молча.
  • Укажите нужную точность. Попросите сохранять даты, суммы и названия сторон. Ссылки на пункты помогают сверять выводы, но сами ссылки также нужно проверять.

Перед отправкой проверьте исходные данные. Убедитесь, что приложили нужную редакцию, передали относящиеся к вопросу приложения и можете использовать выбранный сервис для этих материалов. Соблюдайте правила работы с конфиденциальной информацией, принятые в вашей организации.

Если текст извлечён из файла, проверьте, сохранились ли важные таблицы, числа и примечания. Недостающий фрагмент источника нельзя восстановить требованием «ответь точнее».

Инструкция сообщить о нехватке данных помогает задать ожидаемое поведение. Она не гарантирует, что модель обнаружит каждый пробел или противоречие. Окончательную сверку с материалами проводите сами.

3.6Контекст

Чтобы ответить с учётом предыдущих сообщений, модель должна получить соответствующие сведения в контексте.

Сервис передаёт модели текущий запрос вместе с доступной историей диалога и другими нужными данными. В длинных чатах часть истории может сокращаться или заменяться кратким изложением.

Поэтому полезно повторять ключевые требования, если они важны для очередного ответа.

Контекст — это всё, что модель получает на вход при генерации ответа. Не только ваш последний вопрос, а полный набор. Раскройте каждый слой:

Инструкции сервиса, которые задают поведение модели и могут быть недоступны пользователю.

Если они включены — предпочтения по стилю, сохранённые сведения о вас. Тоже просто текст, добавленный ко входу.

Доступные предыдущие сообщения и ответы, в том числе неудачные попытки и обсуждения побочных тем.

Извлечённые из загруженных файлов данные или фрагменты, которые сервис передаёт модели для ответа.

Если модель ходила в поиск — найденные страницы тоже подкладываются во вход перед генерацией.

Свежий вопрос — лишь последний фрагмент длинного текста, который модель будет продолжать.

Материалы в контексте могут влиять на ответ. Из этого следуют два практических вывода:

  • В одном диалоге можно дорабатывать результат по шагам, пока важные вводные остаются в доступном контексте.
  • Неудачные ответы и побочные темы тоже могут влиять на результат. Если модель начала путать детали, полезно начать новый чат и передать в него ключевые вводные.

3.7Контекстное окно и работа в диалоге

Контекст не бесконечен. Модель может удержать за раз только определённое количество токенов, и это ограничение называется контекстным окном.

В этот лимит входит всё, что мы перечислили выше: системный промпт, история диалога, файлы, результаты поиска. Если какая-то информация выходит за пределы лимита — нейросеть не учитывает её при генерации ответа.

Посмотрите, как это происходит. Наполняйте диалог и следите, что случится, когда окно переполнится:

Контекстное окноЗаполнено: 0%
В этом упрощённом примере часть ранних сообщений исключена из контекста. Реальный способ обработки зависит от сервиса.

Способ обработки переполнения зависит от сервиса: часть данных может быть сокращена, исключена или запрос может быть отклонён. Проверяйте, что модель использовала важные для задачи материалы.

Даже если текст помещается в контекстное окно, модель может пропустить детали. Для сложных задач помогают чёткая структура, выделение нужных фрагментов и поэтапная проверка.

Юридические задачи — это как раз большие документы и много вводных, поэтому следствия прямые:

  • Работайте с большими документами по частям. Объёмный договор лучше не загружать целиком, а разбивать на смысловые части и обрабатывать поэтапно.
  • Для новой самостоятельной задачи открывайте новый чат. Если текущая переписка разрослась и модель начала терять детали, перенесите работу в новый чат вместе с ключевыми вводными.
  • Не утяжеляйте контекстное окно ненужными данными. Прикреплённые файлы, поиск в интернете, «память» сервиса, инструкции проекта — каждый элемент занимает токены.

Как дорабатывать ответ в диалоге

После первого ответа назовите конкретный недочёт: например, «сократи вводную часть, сохрани все даты и суммы» или «перепиши вывод для директора без юридической терминологии». Если важное требование потерялось, повторите его явно.

Когда правки перестают помогать, проверьте причину: хватает ли исходных данных, нет ли противоречий в задании и доступен ли нужный документ. Бесконечно переписывать запрос при недостающих фактах бесполезно.

Чтобы продолжить работу позже или в новом чате, сохраните короткую запись: цель, проверенные факты, использованные документы и их редакции, принятые решения и открытые вопросы. Перед переносом сверьте её с оригиналами: при сокращении могут потеряться важные условия. Так постепенно можно собрать личную базу проверенных рабочих заметок.

Главное в разделе

  • Постобучение помогает модели выполнять инструкции и вести диалог. Стиль ответа зависит от обучения и текущих инструкций.
  • Промпт задаёт действие и требования к результату. Роль и дополнительные вводные добавляйте по необходимости.
  • Укажите адресата, формат, объём и важные ограничения. Уберите повторы и разрешите противоречия в требованиях.
  • Объясните, по каким материалам отвечать, что делать при нехватке данных и как отмечать расхождения. Ответ всё равно нужно сверять с источником.
  • Контекст — сведения, которые модель получает для текущего ответа: запрос, доступная история и дополнительные материалы.
  • Контекстное окно ограничено. Передавайте существенные сведения, а в новый чат переносите проверенные вводные и требования.

Проверьте себя

Ответьте на вопросы, чтобы закрепить материал. Можно продолжить чтение и вернуться к тесту позже.

Задание 1 · Сопоставление

Соедините каждое понятие с его определением. Нажмите на понятие, затем на определение.

Понятия
Определения
Разложите понятия по уровням: что отправляете вы, что добавляют разработчики, что получается в сумме и чем этот объём ограничен.
Промпт — ваш вход; системный промпт — скрытый вход от разработчиков; контекст — весь вход целиком; контекстное окно — его предельный объём.
Задание 2 · Несколько верных ответов

Что модель получает на вход при генерации очередного ответа? Отметьте всё, что попадает в контекст.

Модель использует доступные ей сведения в контексте. Историю текущего чата и сохранённую память сервиса важно различать.
Для ответа модель использует переданный контекст. Состав истории и сохранённых сведений зависит от сервиса и его настроек.
Задание 3 · Несколько верных ответов

Вы хотите получить справку только по приложенному документу. Какие требования полезно включить в запрос?

Полезные требования обозначают границы источника и делают пробелы и расхождения заметными. Проверка результата при этом остаётся необходимой.
Назовите допустимый источник, попросите показывать основания выводов, пробелы и противоречия. Затем сверьте ответ с документом: правильный формат ещё не подтверждает точность содержания.

Тест пока не пройден. Следующий раздел доступен в любом случае.

Раздел 4 из 5

Ограничения и проверка ответов

У языковых моделей есть ограничения. Рассмотрим, почему ответы могут быть неточными и как снизить риск ошибки при работе с ними.

4.1Ограниченность знаний

Данные обучения имеют ограниченную актуальность. Если закон или практика изменились позже, модель может ответить на основе устаревших сведений. Для такой задачи нужны актуальные источники.

Обновление модели и поиск сведений во время диалога — разные процессы. Не стоит считать, что модель автоматически знает обо всех последних изменениях.

Логичное возражение: но ведь модели умеют искать в интернете. Разве это не решает проблему?

Решает частично. Когда модель идёт в интернет, она сама формулирует поисковые запросы, получает результаты и прикрепляет найденный текст к вашему промпту как дополнительный контекст. Дальше — обычная генерация.

Разница значительна. Обучение — это закономерности, извлечённые из миллиардов текстов и «впечатанные» в модель. Поиск — это несколько страниц, подложенных в контекст. Одно не заменяет другое.

Качество ответа зависит в том числе от найденных источников. Проверяйте их актуальность, содержание и соответствие вопросу.

Для юридических задач предоставляйте актуальные материалы или используйте поиск с проверкой первоисточников. Уточняйте, на какие документы должен опираться ответ.

4.2Галлюцинации

Галлюцинация, это ситуация, когда модель выдаёт неверный или несуществующий ответ, оформленный так же уверенно, как и правильный. Например: выдуманное постановление с правдоподобным номером и датой, несуществующее дело, норма, которой нет в кодексе, цитата, которую никто не произносил.

Модель может не обозначить свою неуверенность. Поэтому уверенный стиль нельзя использовать как показатель достоверности.

Почему модель может ошибаться

При генерации модель оценивает возможные продолжения текста. Этот процесс ориентирован на подходящее продолжение и не гарантирует проверку каждого утверждения по источнику. Ошибки возможны при разных способах выбора токенов.

Галлюцинации — известное ограничение языковых моделей. Ответ может выглядеть правдоподобно, даже если указанный факт, документ или ссылка не существуют.

Нельзя считать ответ гарантированно верным только потому, что его подготовила модель. Качественные вводные, подходящие инструменты и проверка результата помогают снизить риск.

Если модель указала судебное дело, норму или цитату, проверьте, существует ли источник и действительно ли он подтверждает вывод. Правдоподобный номер и дата не заменяют проверку.

Это не значит, что нейросетями нельзя пользоваться. Важно помнить: ответственность за содержание документа остаётся на юристе целиком. Ссылка на норму, дело, практику всегда проверяется в первоисточнике.

Как снизить риск ошибок

Подготовьте нужные данные

Укажите предмет вопроса, существенные факты и дату, на которую нужен ответ. Передайте относящиеся к задаче документы и обозначьте, какие сведения пока не установлены.

Попросите отделять содержание источников от предположений и прямо сообщать о недостающей информации.

Сверьте результат

Откройте указанные источники и проверьте, что они существуют и подтверждают выводы. Сопоставьте с оригиналами даты, суммы, цитаты и номера пунктов.

Повторное уверенное подтверждение со стороны модели не заменяет проверку. Ни один запрос не исключает ошибок полностью.

4.3Ограниченность контекста

Как описано в разделе 3, контекстное окно — это лимит на объём входа, и всё, что в него не поместилось, для модели не существует. Здесь посмотрим на практические последствия.

Если часть данных не попала в контекст, ответ будет учитывать только доступные сведения. В длинном диалоге может потеряться важное условие или договорённость.

Для большого документа полезно выделять фрагменты, относящиеся к конкретному вопросу, и проверять каждый этап. Возможность обработать документ зависит от модели, сервиса и сложности задачи.

Крупный документ всегда имеет смысловые блоки: основной текст, приложения, разделы. Их и нужно обрабатывать по очереди.

Главное в разделе

Основные ограничения, которые важно учитывать:

  • Объём знаний зафиксирован на дате отсечки, а поиск в интернете подкладывает текст в контекст, но не добавляет модели знаний.
  • Галлюцинации возможны даже при хорошем запросе. Качественные исходные данные и проверка первоисточников помогают снизить риск ошибок.
  • Контекстное окно ограничено. Важно убедиться, что модель получила и учла нужные фрагменты.

Понимание ограничений помогает выбирать подходящие задачи, готовить материалы и проверять результат.

Проверьте себя

Ответьте на вопросы, чтобы закрепить материал. Можно продолжить чтение и вернуться к тесту позже.

Задание 1 · Один верный ответ

Почему ответы языковой модели нужно проверять?

Модель подбирает подходящее продолжение текста. Подумайте, означает ли это автоматическую проверку всех фактов.
Правдоподобный ответ может содержать неверные сведения. Работа с источниками и проверка результата помогают обнаруживать ошибки.
Задание 2 · Несколько верных ответов

Что реально снижает риск недостоверного ответа? Отметьте все подходящие варианты.

Ищите действия, которые улучшают исходные данные или позволяют проверить вывод. Уверенный тон и общая просьба о точности такой проверки не дают.
Полезны актуальные материалы, ясные границы вопроса и сверка с первоисточниками. Просьба сообщать о пробелах помогает задать правила ответа, но не гарантирует, что модель заметит всё. Уверенный тон не подтверждает достоверность.
Задание 3 · Разбор ситуации

Модель выдала вам подборку из пяти судебных дел с номерами и цитатами — идеально по вашему вопросу. Что делать перед тем, как вставить их в документ?

Даже точные на вид реквизиты и цитаты могут быть ошибочными. Кто должен проверить содержание перед использованием?
Проверьте, существует ли документ и подтверждает ли он вывод. Открывайте первоисточник, а не ограничивайтесь текстом ответа модели.

Тест пока не пройден. Следующий раздел доступен в любом случае.

Раздел 5 из 5

Дополнительные инструменты

Возможности ИИ-сервиса зависят не только от модели, но и от доступных инструментов. Рассмотрим, как выбирать их под задачу.

Как выбрать инструмент

Выберите инструмент, чтобы прочитать, как он работает и для каких задач подходит:

Поиск информации (Web Search)

Поиск в интернете не добавляет модели знаний — он добавляет найденный текст в контекст. Модель оценивает: хватает ли собственных знаний? Если вопрос про сегодняшний день, свежий закон или курс валют — она сама формулирует несколько поисковых запросов, отправляет их, получает результаты, добавляет найденное к вашему промпту и только потом генерирует ответ.

Что остаётся вне вашего контроля:

  • Доступный поисковый механизм зависит от сервиса.
  • Модель может формулировать запросы самостоятельно. Некоторые сервисы показывают их пользователю.
  • Настройки включения и отключения поиска зависят от интерфейса.

Что важно учесть: прямо указывайте приоритет источника (файл важнее интернета); требуйте ссылки и обязательно их проверяйте; помните про токены — пара поисков по объёмным страницам занимает часть доступного контекста.

Глубокое исследование (Deep Research)

Глубокое исследование обычно включает планирование, несколько этапов поиска и сопоставление источников. Результатом может быть развёрнутый отчёт со ссылками.

Полезен, когда нужно исследовать широкую тему, а не найти конкретный ответ:

  • обзор регулирования незнакомой сферы перед входом в новый проект;
  • сравнение подходов в разных юрисдикциях;
  • сбор отраслевого или рыночного контекста перед сделкой;
  • анализ публичной информации о контрагенте;
  • справка для клиента по теме, которую вы видите впервые.

Развёрнутый отчёт со ссылками тоже может содержать ошибки. Проверяйте, подтверждают ли источники основные выводы.

Рассуждающие модели (Thinking Models)

Рассуждающие модели используют дополнительную обработку перед итоговым ответом. Это может помогать в многошаговых задачах, но не гарантирует правильность результата.

Когда стоит включать режим рассуждения:

  • многошаговые задачи, где ответ зависит от последовательности выводов;
  • расчёты — сроки, неустойки, проценты;
  • поиск противоречий между пунктами договора или между документами;
  • разбор сложных правовых конструкций и выстраивание позиции;
  • планирование: разложить большую задачу на этапы.

Работа с документами

Сервис может извлекать из загруженных документов текст и таблицы для анализа. Поддерживаемые форматы и качество извлечения зависят от сервиса. Загрузка файла ещё не означает, что все его сведения прочитаны корректно.

  • Выбирайте формат, который поддерживает сервис. Проверяйте, правильно ли извлечены текст, таблицы и реквизиты.
  • Любая обработанная информация заполняет контекстное окно, включая инструкции проекта.
  • Если нужно понять, что изменилось между двумя редакциями договора, надёжнее алгоритмические средства — встроенное сравнение в Word или Google Docs. Они дают точный результат, а модель — вероятностный.

Если нужен только текст, удобны TXT и Markdown. Для простой таблицы можно использовать CSV, если он поддерживается сервисом. При обработке PDF и DOCX проверяйте сохранность таблиц, примечаний и важных чисел. Для набора документов полезно подготовить список: название, дата, редакция и краткое содержание каждого файла.

Подготовка кода

Модель также может помочь написать код: например, для обработки таблицы, подготовки реестра или выполнения типового расчёта. Такой результат нужно проверять перед использованием.

Коннекторы и плагины

Коннектор — канал доступа, по которому модель подключается к внешним системам: почте, облачному диску, календарю, базам данных, курсам валют, погоде, корпоративным системам.

Принципиальное отличие от всего предыдущего: модель перестаёт быть только собеседником. Она получает возможность брать данные из ваших систем, и в более продвинутых сценариях совершать в них действия. Например, ответить на e-mail или поставить встречу в календарь.

Плагин — готовое дополнение, которое устанавливается в сервис и добавляет ему новое умение под конкретную задачу. Это набор заранее написанных инструкций и настроек: вы ставите его один раз, и дальше сервис умеет делать то, чего не умел из коробки, — например, работать по определённому алгоритму с судебными документами.

Названия и устройство дополнений различаются между сервисами. При выборе подключения учитывайте, к каким данным и действиям оно даёт доступ.

Поиск, загрузка файлов и подключения могут добавлять в контекст сведения из внешних источников. Это расширяет возможности сервиса, но качество данных и итогового ответа всё равно нужно оценивать.

Главное в разделе

  • Поиск может дать актуальные сведения. Проверяйте найденные источники и их соответствие вопросу.
  • Глубокое исследование хорошо для широких обзорных задач.
  • Рассуждающие модели могут помогать в многошаговых задачах, но тоже допускают ошибки.
  • Документы, подготовка кода и коннекторы расширяют возможности работы с нейросетью.

Главный навык здесь — не знать список инструментов, а выбирать нужный под задачу.

Проверьте себя

Ответьте на вопросы, чтобы закрепить материал. Можно продолжить чтение и вернуться к тесту позже.

Задание 1 · Сопоставление

Подберите инструмент под задачу. Нажмите на задачу, затем на подходящий инструмент.

Задача
Инструмент
Определите, что требуется: свежий факт, обзор, многошаговый расчёт или точное сравнение текстов. Для точных вычислений дополнительно используйте проверяемые инструменты расчёта.
Свежий факт — поиск; широкий обзор — Deep Research; многошаговый расчёт — рассуждающая модель; а точное сравнение редакций надёжнее делать алгоритмом Word/Docs, а не вероятностной моделью.
Задание 2 · Один верный ответ

Что общего у всех дополнительных инструментов — поиска, файлов, коннекторов?

Вспомните общий принцип из этого раздела: что именно происходит с результатом работы любого инструмента и куда он попадает перед генерацией ответа.
Инструмент может предоставить новые данные для ответа, но это не равнозначно дообучению. Достоверность результата нужно проверять.
Задание 3 · Несколько верных ответов

Что верно про веб-поиск нейросети? Отметьте все верные утверждения.

Подумайте, что вы реально контролируете в веб-поиске, а что решает модель сама. И вспомните, добавляет ли найденное модели знания навсегда или только на время одного диалога.
Поиск передаёт найденные материалы в контекст. Он не гарантирует точность ответа, поэтому проверяйте ссылки и содержание источников.
Задание 4 · Ситуация из практики

Клиент прислал две текстовые редакции договора в Word и просит точно установить все изменения. Как действовать надёжнее всего?

Здесь требуется полный перечень изменений. Какой инструмент предназначен для точного сравнения текстовых редакций?
Встроенное сравнение документов помогает точно выявить текстовые изменения. Просмотрите результат и проверьте значимые условия. Нейросеть может помочь объяснить отдельную правку, но её пересказ не заменяет сравнения редакций.

Тест пока не пройден. К итогам урока можно перейти в любое время.

Итоги урока

Спасибо за работу

Теперь вы знакомы с основными принципами работы нейросетей: как они обучаются, формируют ответы и используют контекст.

1

Основные понятия

ИИ — широкая область; нейросеть и большая языковая модель — связанные, но разные понятия.

2

Обучение и генерация

Модель настраивает параметры на данных и формирует текст последовательно, токен за токеном.

3

Запрос и контекст

Задайте действие, адресата, формат и границы источников. Добавляйте роль и вводные по необходимости, учитывайте объём контекста и проверяйте результат.

4

Ограничения

Уверенный стиль не гарантирует точность. Важные сведения и ссылки нужно проверять.

5

Инструменты

Поиск, работа с файлами и подключения расширяют возможности сервиса. Выбирайте их под задачу.

Надеемся, эти знания помогут вам увереннее работать с нейросетями. Успехов в дальнейшем обучении!

Дополнительный материал

В GetCourse вы можете посмотреть видеолекции Яна Стригова об устройстве технологии ИИ. Этот текстовый урок дублирует их содержание.

Открыть «Основы технологии ИИ»