Основы технологии искусственного интеллекта
Нейросети уже вошли в работу юриста, но пользоваться ими уверенно можно только тогда, когда понимаешь, как они устроены изнутри: почему отвечают именно так, где на них можно положиться, а где они предсказуемо ошибаются.
Чтобы это узнать, недостаточно прочитать инструкцию. Предстоит совершить настоящее приключение по миру искусственного интеллекта, и вот его карта.
Впереди пять земель, и каждая, это отдельная глава урока. В каждой вас ждёт теория с интерактивными заданиями, а на выходе из земли, испытание Хранителя. Пока испытание не пройдено, дорога дальше закрыта, поэтому двигаться придётся последовательно.
Весь маршрут займёт около часа: примерно 10–15 минут на главу. Проходить можно в своём темпе, а в конце пути вас будет ждать сундук.
Так мы будем обращаться к вам в пути.
Маршрут путешествия
Пять земель, которые предстоит пройти. Открытые главы можно посещать в любом порядке, а новые открываются после испытания Хранителя.
Пройдя Долину Иллюзий, вы разберётесь, как появилась технология и что на самом деле называют искусственным интеллектом. У вас рассеется туман из громких слов, таких как «искусственный интеллект», «AGI», «суперинтеллект», и станет понятно, что за ними стоит. Именно в этой долине закладывается фундамент всего путешествия.
Глава 1. Искусственный интеллект
Прежде чем работать с инструментом, полезно понять, как он устроен. В этой главе мы разберёмся, как появилась технология, что на самом деле называют искусственным интеллектом, и почему большинство расхожих представлений о нейросетях неверны.
1.1История развития искусственного интеллекта
Технологии больше семидесяти лет. Может показаться, что искусственный интеллект появился в конце 2022 года вместе с первыми анонсами ChatGPT. На самом деле почти всё это время технология развивалась медленно и с большими паузами.
Нажимайте на вехи, чтобы раскрыть события каждого этапа.
Алан Тьюринг публикует статью с этим вопросом и предлагает знаменитый тест: если человек в переписке не отличает машину от человека, машину можно условно считать разумной.
На семинаре в Дартмутском колледже впервые звучит сам термин artificial intelligence — искусственный интеллект. Учёные тогда были уверены, что задача будет решена за одно-два десятилетия.
Фрэнк Розенблатт создаёт перцептрон — первую работающую искусственную нейронную сеть. Она умела различать лишь простые изображения, но принцип, заложенный тогда, лежит в основе всего, чем мы пользуемся сегодня.
Учёные обещали, что задачу удастся решить за одно-два десятилетия, но обещания не сбылись: системы того времени справлялись только с простейшими задачами. Государства и корпорации перестали финансировать исследования искусственного интеллекта, и направление считалось тупиковым. Идеи были, однако не было ни данных, ни вычислительных мощностей, чтобы их проверить.
Компьютер Deep Blue впервые обыграл действующего чемпиона мира по шахматам. Показательная веха: машина обошла человека в конкретной интеллектуальной задаче, но только в одной.
Нейросеть AlexNet побеждает в соревновании по распознаванию изображений с огромным отрывом. Учёным становится ясно: подход работает, если дать ему достаточно данных и вычислительной мощности.
Выходит научная статья, описывающая архитектуру трансформера — принцип внутреннего устройства нейросетей. Все модели, с которыми мы работаем сегодня — ChatGPT, Claude, Gemini, DeepSeek, — построены на ней.
Технология не изменилась принципиально, но ею наконец смог пользоваться человек без технического образования.
Работа с нейросетями стала возможна именно сейчас, потому что совпали три условия, без которых технология не могла развиться раньше:
- Данные. Интернет стал огромным хранилищем публично доступных текстов. В 1980-х модель просто не на чем было бы обучать.
- Вычислительные мощности. Видеокарты, созданные для компьютерных игр, оказались идеально приспособлены для математики, на которой работают нейросети.
- Архитектура. Трансформер позволил эффективно обрабатывать длинные тексты и учитывать связи между далеко отстоящими друг от друга словами.
Почему именно языковые модели дали новый виток
До 2022 года нейросети уже неплохо работали: распознавали лица, переводили тексты, рекомендовали фильмы. Но каждая решала одну узкую задачу, и пользоваться ими мог только специалист. Большие языковые модели изменили две вещи:
- Универсальность. Одна и та же модель пишет письмо, анализирует договор, объясняет норму права и составляет таблицу. Не нужно искать отдельный сервис под каждую задачу.
- Интерфейс на естественном языке. Чтобы дать модели задачу, не нужно программировать — достаточно написать текст. Это первая технология такого масштаба, где входной барьер практически равен нулю.
Для юриста это важно особенно: наш основной рабочий материал — текст. Договоры, иски, заключения, переписка, судебная практика. Технология, которая научилась работать с текстом, попала точно в профессию.
1.2Что такое искусственный интеллект
Словосочетание «искусственный интеллект» сегодня повсюду. Именно поэтому оно вводит в заблуждение: мы слышим слово «интеллект» и невольно представляем что-то мыслящее. Термин настолько размылся, что искусственный интеллект стали делить на две категории:
- Слабый ИИ: система, способная решать отдельные задачи. Это всё, что существует сегодня.
- Сильный ИИ, или AGI (Artificial General Intelligence, общий искусственный интеллект): гипотетическая система, способная мыслить как человек и решать любые интеллектуальные задачи так же, как их решает человек. Такой системы не существует.
Показательно, что скепсис по поводу громких терминов исходит изнутри самой индустрии:
Я не знаю, что такое AGI. Я не знаю, что такое суперинтеллект. Это звучит как маркетинговый термин… что-то, что должно вызывать у людей выброс дофамина. На публике я никогда не использую эти термины и даже критикую их использование.
Дарио Амодеи, глава компании Anthropic — создателя ClaudeА что такое интеллект
Если слово «интеллект» стоит в названии технологии, стоит уточнить, что оно означает. Вот определение, которое даёт антрополог Станислав Дробышевский:
Интеллект: способность решать нестандартные задачи нестандартными методами.
Станислав Дробышевский, антропологПриложим это определение к нейросети. Нестандартных методов она не изобретает: она выбирает наиболее вероятный ответ на основе большого массива данных, на которых её обучили. То есть действует ровно наоборот, опираясь на самое типичное, а не на самое оригинальное.
Получается, что «интеллект» в названии технологии, это скорее удачная метафора, чем точное описание. Как именно устроен выбор наиболее вероятного ответа, разберём в следующей главе, на Реке Обучения.
Три термина, которые важно различать
Термины «искусственный интеллект», «нейросеть» и «LLM» часто используют как синонимы, но это разные по объёму понятия: они вложены друг в друга, как матрёшка. Нажимайте на слои, чтобы раскрыть каждый:
Искусственный интеллект
Самое широкое понятие. Область науки и техники, занимающаяся системами, которые решают задачи, традиционно требовавшие человека. Сюда попадают и шахматный движок, и антиспам-фильтр, и рекомендации маркетплейса.
1.3Мифы об искусственном интеллекте
Именно на этом участке пути теряется больше всего путешественников — не потому, что тема сложная, а потому что интуиция подсказывает неверные ответы. Разберём самые устойчивые заблуждения: откройте каждый миф, чтобы узнать, как всё устроено на самом деле.
Когда модель выдаёт связный, логичный, аргументированный текст, нам кажется, что она сгенерировала его после осмысления нашего запроса.
На самом деле в основе лежат предсказание и теория вероятностей. Модель получает текст и вычисляет, какой фрагмент вероятнее всего идёт следующим. Затем добавляет его к тексту и повторяет вычисление — фрагмент за фрагментом, до конца ответа. Отдалённо это напоминает технологию T9, встроенную в клавиатуру телефона, только неизмеримо более мощную.
Связность текста — не доказательство наличия мысли.
Уверенный тон ответа — это результат обучения модели, а не признак достоверности. Модель формулирует одинаково уверенно и когда воспроизводит реальную норму, и когда генерирует несуществующее постановление с правдоподобным номером и датой. Это явление называют галлюцинациями — естественное следствие принципа работы. Подробнее о механизме галлюцинаций поговорим в Главе 4.
Для юриста это ключевой момент: любую ссылку всегда необходимо перепроверять в первоисточнике.
Самый заманчивый и самый бесполезный подход: собрать коллекцию «100 лучших промптов для юриста» и применять их не задумываясь. Чтобы успешно работать с нейросетями, нужно понимать возможности и ограничения технологии, и переносить усвоенные принципы в работу с любым ИИ-сервисом.
📜 Итог главы
- Технологии больше семидесяти лет; массовой она стала, когда совпали данные, вычислительные мощности и архитектура «трансформер».
- «Искусственный интеллект» — зонтичный термин и маркетингово удобное сокращение. Точнее говорить «нейросеть» или «языковая модель».
- Всё, что существует сегодня, — слабый ИИ: системы для решения отдельных задач.
- В основе нейросети нет ни магии, ни сознания — есть математика и вероятности.
🛡️ Испытание Хранителя Долины
Решите все задания, чтобы туман рассеялся окончательно и открылся путь к Реке Обучения.
Технология существует с середины прошлого века, но массовой стала только сейчас. Какие условия для этого совпали? Отметьте все верные варианты.
Соберите матрёшку заново: соедините каждый термин с его определением. Нажмите на термин, затем на подходящее определение.
Вы спросили модель о порядке расторжения договора. Она ответила уверенно, связно, со ссылкой на конкретную статью кодекса. Как правильно оценить такой ответ?
🔒 Хранитель Долины преградил путь. Решите все задания выше, и дорога откроется.
Хранитель Долины пропускает вас дальше: вы уже понимаете технологию точнее, чем большинство её пользователей. Впереди Река Обучения. Пройдя её, вы поймёте, откуда нейросеть берёт свои знания, что такое датасет и токены и почему модель умеет ровно одно: предсказывать следующий фрагмент текста.
Глава 2. Как устроена нейросеть
В прошлой главе мы выяснили, что нейросеть — это математическая модель, а не мыслящее существо. Но откуда тогда она «знает» законы, факты и язык? Пройдём путь модели от чистого листа до работающего инструмента: разберёмся, как обучается нейросеть и что такое датасет и токены.
2.1Предобучение: откуда нейросеть берёт знания
Что такое датасет
Чтобы нейросеть работала с текстами, ей нужно показать очень много текстов. Чтобы работала с картинками — очень много картинок. Этот массив материала для обучения называется датасет — структурированная система подготовленной информации.
От датасета зависит всё: на чём модель училась — то она и умеет. Модель, обученная на юридических текстах, будет лучше работать с правом, чем модель, обученная на кулинарных рецептах, и наоборот.
Откуда берутся данные
В основном — из интернета. Это самое большое хранилище публично доступной информации, и другого источника сопоставимого объёма просто не существует. Но у него есть очевидная особенность: в интернете лежит всё подряд. Научные статьи, и псевдонаучные. Качественные юридические тексты, и любительские пересказы законов с ошибками. Разработчики моделей не проверяли каждый документ на достоверность: при таких объёмах это физически невозможно.
Из этого факта следуют три особенности, которые важно учитывать в работе. Откройте каждую:
Нейросеть частично обучена на недостоверной информации — в том числе в области юриспруденции. Форумные советы «как не платить кредит», устаревшие редакции законов, статьи с ошибочным толкованием норм — всё это могло попасть в датасет наравне с качественными источниками.
Поэтому модели стоит давать более узкий и качественный контекст — материалы именно вашей задачи: ваш договор, вашу фактуру, актуальную редакцию документа. Чем меньше модель опирается на усреднённые данные из интернета и больше, на предоставленные вами материалы, тем надёжнее результат. Как именно это делать, разберём в Главе 3, на Горе Диалога.
Датасет собирается до определённой даты — она называется датой отсечки знаний. Всё, что произошло после неё, модель не знает: новые законы, свежую практику, изменения в регулировании.
При этом обучение — процесс долгий и дорогой: новые версии моделей даже у ведущих компаний выходят один-два раза в год. Поэтому не стоит ждать от модели актуальной информации по законодательству — свежие данные она может получить только через поиск в интернете или из файлов, которые вы сами прикрепите к диалогу. Подробнее об этом — в последней главе, в Лесу Дополнительных Инструментов.
Первые датасеты были почти полностью англоязычными; другие языки добавлялись позже и в меньших объёмах. Поэтому модели до сих пор в среднем сильнее в английском: больше материала — крепче закономерности. С русским языком современные модели работают хорошо, но асимметрия проявляется — в том числе в том, как модель «читает» русский текст.
2.2Токенизация: как нейросеть понимает наш запрос
Нейросеть, это математическая модель, а математика работает с числами. Значит, любой текст нужно сначала перевести в числа. Этот перевод называется токенизацией.
Происходит он в два шага.
Шаг 1. Текст разбивается на токены. Токен, это минимальный фрагмент, которым оперирует модель. Токеном может быть целое слово, часть слова, знак препинания или пробел с приклеенным к нему словом. Токенизатор выделяет те последовательности символов, которые чаще всего встречаются в языке: частотные слова остаются целыми, редкие дробятся на куски.
Шаг 2. Каждый токен заменяется на число, на его порядковый номер в словаре токенизатора. Словарь фиксирован: у большинства современных моделей это от 50 до 200 тысяч токенов, и у каждого свой постоянный номер.
Например, фраза «Нейросеть учится» может разбиться так:
["Нейро", "сеть", " учит", "ся"][38251, 4720, 19834, 620]Именно с такой последовательностью чисел модель работает дальше. Ни букв, ни слов в нашем понимании она не видит.
На каком языке говорит нейросеть?
Проверьте, как одна и та же фраза «весит» по-разному. Нажимайте «Разбить на токены»:
Разбиение показано приблизительно — у каждой модели свой токенизатор.
Английская фраза делится на токены практически по словам: токенизаторы исторически «выросли» на английских текстах. Русская фраза распадается на заметно большее число токенов — слова дробятся на части. В старых моделях русский текст «весил» в 3–4 раза больше английского; в современных, обученных на многоязычных датасетах, разрыв сократился до 1,5–2 раз, но он остался.
Есть и менее очевидный эффект: написание капсом увеличивает дробление. Когда вы пишете модели заглавными буквами, вы дробите текст на большее число токенов и потенциально ухудшаете смысловое восприятие запроса.
Три практических следствия:
- Токены — это объём. Всё, что модель обрабатывает — запрос, прикреплённые файлы, весь диалог, — измеряется в токенах, и их количество ограничено. Насколько именно, узнаем на Горе Диалога.
- Разные модели — разные токенизаторы. Даже у моделей одного производителя словари могут различаться: то, как «видит» ваш текст одна модель, не совпадает с тем, как его видит другая.
2.3Обучение: как модель научилась предсказывать
По-английски этот этап называется training — «тренировка», и это слово точнее. Модель не заучивает факты, как студент перед экзаменом. Ей многократно показывают примеры текстов, и на каждом она тренируется решать одну-единственную задачу: предсказать следующий токен.
Работает это так: модели дают фрагмент реального текста с закрытым продолжением и просят угадать, что дальше. Угадала — внутренние параметры чуть-чуть подкрепляются. Ошиблась — корректируются так, чтобы в следующий раз вероятность правильного ответа была выше. И так — миллиарды раз, на всём датасете.
Как это выглядит на примере
Мы, носители языка, мгновенно понимаем, чем закончится фраза ниже. За годы чтения мы усвоили: после этих слов в подавляющем большинстве случаев идёт одно и то же. Модель делает то же самое, только в числах. Она прогоняет входные токены через свою математику и получает распределение вероятностей:
Модель выбирает подходящий токен, добавляет его к тексту, и повторяет всю процедуру заново, уже с учётом сгенерированного. Токен за токеном, пока не сложится весь ответ.
Как это влияет на вашу работу с нейросетями
- Важно уметь составлять запрос (промпт). Раз модель продолжает текст, отталкиваясь от того, что уже есть, качество результата напрямую зависит от того, что вы ей дали на входе. Чем точнее описана задача и чем лучше вводные — тем вероятнее правильное продолжение. Это фундамент всего промптинга, и к нему мы вернёмся на Горе Диалога.
- Готовность к ошибке нейросети. У предсказания вероятностей есть обратная сторона: вероятность неправильного токена никогда не равна нулю. Модель может выбрать правдоподобный, но неверный вариант, и уверенно продолжить с этого места. Так рождаются галлюцинации, и это прямое следствие устройства технологии.
📜 Итог главы
- Датасет — учебный материал модели, собранный в основном из интернета: со всеми его достоинствами, всем его мусором и с жёсткой датой отсечки знаний.
- Токенизация — перевод текста в числа. Модель не видит ни буквы, ни слова в нашем понимании, только токены.
- Обучение — тренировка одного навыка: предсказывать следующий токен. Из этого навыка вырастает всё остальное, и сильные стороны модели, и её ошибки.
🛡️ Испытание Хранителя Реки
Ответьте верно, и на ваших глазах через реку поднимется мост.
Какую единственную задачу модель тренируется решать во время обучения?
Датасет собран в основном из интернета и до даты отсечки. Что из этого следует? Отметьте все верные утверждения.
Какой из этих запросов «весит» больше всего токенов?
Клиент спрашивает, как применяется норма в редакции, вступившей в силу два месяца назад. Вы решаете уточнить у нейросети. Что важно учесть?
🔒 Хранитель Реки ждёт у переправы. Решите все задания, и мост появится.
Вы поняли, как устроено течение этой реки, и на ваших глазах через неё поднялся мост. Впереди подъём на Гору Диалога. Поднявшись, вы узнаете, как обученная модель превращается в собеседника, научитесь различать промпт, контекст и контекстное окно и поймёте, чем именно вы управляете в диалоге с нейросетью.
Глава 3. Диалог с нейросетью
В прошлой главе мы разобрались, как модель учат одному навыку — предсказывать следующий токен. Но между «машиной для продолжения текста» и удобным ассистентом, с которым можно переписываться в чате, лежит ещё несколько инженерных решений. Разберём их, и найдём единственный перевал через гору.
3.1Тонкая настройка: как модель научили разговаривать
Модель после базового обучения — это «машина продолжения текста». Дай ей начало фразы, и она допишет наиболее вероятное продолжение. Но продолжать текст и вести полезный диалог — разные вещи. Представьте, что вы спрашиваете такую «сырую» модель: «Как расторгнуть договор аренды?». Вместо ответа она может выдать продолжение в виде списка похожих вопросов: «Как расторгнуть договор поставки?», «Как расторгнуть трудовой договор?». Модель не отвечает на вопрос, а достраивает текст: в интернете, на котором она училась, вопросы часто встречаются именно списками, и такое продолжение статистически вероятнее всего.
Чтобы модель стала ассистентом, проводят постобучение, или тонкую настройку (fine-tuning). Это обучение диалогу с человеком.
Как это устроено
Модель учат быть полезной, честной и безвредной на примерах идеальных диалогов «Человек — Ассистент» в самых разных ситуациях. Ключевой момент: эти примеры создаются людьми вручную. Есть целая профессия — разметчик данных. Специалисты пишут тысячи образцовых диалогов, показывая модели, как выглядит хороший ответ: вежливый, структурированный, по делу, с отказом от вредных просьб.
Модель тренируется на этих образцах так же, как раньше на текстах из интернета, и усваивает манеру общения. Отсюда важная мысль:
Диалог с нейросетью, это статистическая симуляция диалога с разметчиком данных.
Когда модель пишет «Я рад помочь», тактично советует или уточняет детали задачи — это не проявление характера или отношения к вам. Это воспроизведение стиля, заданного людьми на этапе тонкой настройки.
Системный промпт
Есть и ещё один слой настройки, который работает уже не при обучении, а при каждом вашем запросе. Это системный промпт — инструкция от разработчиков, которую модель получает перед вашим сообщением: «Ты полезный ассистент, ты помогаешь людям, ты не причиняешь вреда…» Разработчики годами шлифуют эти тексты, подбирая формулировки, которые лучше всего направляют поведение модели.
Пользователь системный промпт не видит, но он всегда присутствует в диалоге. Сюда же добавляются и ваши персональные настройки, если они включены: «память» сервиса, предпочтения по стилю ответов. Всё это просто дополнительный контекст, который учитывается в каждом вашем запросе.
3.2Промпт
Промпт — это запрос к нейросети: текст, который вы вводите в строку и отправляете. На языке технологии то, что входит в модель, называется input (вход), а то, что она выдаёт в ответ, называется output (выход). Вся работа модели устроена по этой схеме: приняла текст, сгенерировала продолжение, закончила.
Качество ответа нейросети зависит от качества запроса. Вспомним механику из предыдущей главы: модель продолжает текст, отталкиваясь от того, что уже есть. Промпт — это и есть те вводные данные.
- Дали размытую задачу — модель достроит недостающее самым статистически вероятным способом, то есть самым усреднённым: получите общий шаблон вместо специфики вашей сферы или абстрактные формулировки вместо позиции по вашему делу.
- Дали точную задачу с вводными — роль, факты, требуемый формат ответа, ограничения, и распределение вероятностей сместится в сторону нужного вам результата.
При работе с нейросетью вы управляете вероятностями через текст на входе. Впереди на курсе запланировано отдельное занятие и практика по написанию промптов.
3.3Контекст
Мы уже говорили: нейросеть устроена не как человеческий мозг, и памяти у неё нет. Как же тогда она помнит, о чём вы говорили пять сообщений назад?
При каждом вашем сообщении в одном диалоговом окне модели заново отправляется весь диалог целиком. К свежему запросу добавляется информация из всех предыдущих реплик — ваших и нейросети. Для модели это выглядит как один длинный текст, который нужно продолжить. А нам кажется, что это беседа с собеседником, который всё помнит.
Диалог — человеческий термин. Люди привыкли обмениваться репликами, и инженеры симулировали привычный формат. Внутри же ничего не изменилось: тот же единственный прогон информации, просто вводной стало больше.
Контекст — это всё, что модель получает на вход при генерации ответа. Не только ваш последний вопрос, а полный набор. Раскройте каждый слой:
Скрытая инструкция, которая задаёт поведение модели. Вы её не видите, но она всегда первая в списке.
Если они включены — предпочтения по стилю, сохранённые сведения о вас. Тоже просто текст, добавленный ко входу.
Каждая ваша реплика и каждый ответ модели, включая неудачные попытки и отвлечения на побочные темы.
Договоры, таблицы, сканы — всё, что вы загрузили в диалог, превращается в токены и попадает во вход.
Если модель ходила в поиск — найденные страницы тоже подкладываются во вход перед генерацией.
Свежий вопрос — лишь последний фрагмент длинного текста, который модель будет продолжать.
Модель учитывает всё это разом. Отсюда два практических следствия:
- Нейросеть учитывает все факторы, влияющие на решение задачи, поэтому в рамках одного диалога можно дорабатывать результат шаг за шагом, не повторяя вводные.
- Ошибки, неудачные ответы, отвлечения на побочные темы — всё это тоже остаётся во «входе» и продолжает влиять на каждую следующую генерацию. А когда информации становится слишком много, нейросеть может выкинуть из контекста важные данные. Если результат в ходе диалога стал хуже, чаще всего проще начать новый чат, чем вычищать испорченный контекст.
3.4Контекстное окно
Контекст не бесконечен. Модель может удержать за раз только определённое количество токенов, и это ограничение называется контекстным окном.
В этот лимит входит всё, что мы перечислили выше: системный промпт, история диалога, файлы, результаты поиска. Если какая-то информация выходит за пределы лимита — нейросеть не учитывает её при генерации ответа.
Посмотрите, как это происходит. Наполняйте диалог и следите, что случится, когда окно переполнится:
Мы не можем достоверно узнать, какая информация не поместилась. Счётчика токенов в большинстве привычных интерфейсов нет: разработчики считают, что цифры нервируют пользователей. Хорошо, если сервис хотя бы предупредит о приближении к лимиту, чаще не предупреждает, и информация просто обрезается.
Более того, качество может падать ещё до достижения лимита. Практики называют это «гниением контекста»: чем плотнее заполнено окно, тем хуже модель удерживает детали — ответы становятся поверхностными, начинаются потери и путаница.
Юридические задачи — это как раз большие документы и много вводных, поэтому следствия прямые:
- Работайте с большими документами по частям. Объёмный договор лучше не загружать целиком, а разбивать на смысловые части и обрабатывать поэтапно.
- Для каждой задачи открывайте новый чат. Если переписка разрослась и модель начала терять детали — продолжите диалог в новом чате, напомнив вводные этой задачи.
- Не утяжеляйте контекстное окно ненужными данными. Прикреплённые файлы, поиск в интернете, «память» сервиса, инструкции проекта — каждый элемент занимает токены.
📜 Итог главы
- Тонкая настройка сделала из «машины продолжения текста» ассистента: манеру общения модели написали люди-разметчики, а диалог с ней — статистическая симуляция.
- Промпт — инструмент работы пользователя: качество входа определяет качество выхода.
- Контекст — вся переписка отправляется модели заново с каждым сообщением.
- Контекстное окно — лимит объёма вводной информации: что не влезло, то может быть не учтено, и от этого падает качество генерации.
🛡️ Испытание Хранителя Горы
Перевал виден только тем, кто разобрался в механике диалога. Покажите, что это так.
Соедините каждое понятие с его определением. Нажмите на понятие, затем на определение.
Что модель получает на вход при генерации очередного ответа? Отметьте всё, что попадает в контекст.
Вы час работаете в одном чате над претензией. Переписка разрослась, модель начала путать номера пунктов и терять договорённости. Лучший ход?
🔒 Хранитель Горы указывает на тропу, но пропустит лишь после верных ответов.
Тропа найдена, и с перевала видна вся механика диалога. Впереди спуск в Лощину Галлюцинаций. Пройдя её, вы разберётесь в трёх главных ограничениях технологии, поймёте, почему нейросеть уверенно выдумывает несуществующие дела и нормы, и освоите способы снизить риск такой ошибки в работе.
Глава 4. Ограничения технологии
Мы разобрали, как модель училась и как она ведёт диалог. Осталось узнать подводные камни. Основных ограничений три, и все они прямые следствия устройства технологии, которое мы уже знаем. Здесь легко потеряться: в этой низине фальшивое выглядит убедительнее настоящего.
4.1Ограниченность знаний
Мы уже знаем: модель обучена на датасете, собранном до определённой даты. Всё, что произошло позже, для неё не существует. Новая редакция статьи, свежее постановление Пленума, изменившаяся практика — модель об этом не знает. И, что важнее, она не знает, что владеет неактуальной информацией, поэтому уверенно сошлётся на устаревшую редакцию.
При этом обучение — процесс долгий и дорогой: даже у ведущих компаний выходит одна-две версии модели в год. За это время в праве может измениться многое.
Логичное возражение: но ведь модели умеют искать в интернете. Разве это не решает проблему?
Решает частично. Когда модель идёт в интернет, она сама формулирует поисковые запросы, получает результаты и прикрепляет найденный текст к вашему промпту как дополнительный контекст. Дальше — обычная генерация.
Разница значительна. Обучение — это закономерности, извлечённые из миллиардов текстов и «впечатанные» в модель. Поиск — это несколько страниц, подложенных в контекст. Одно не заменяет другое.
Отсюда следствие: качество ответа становится равно качеству того, что модель нашла. А ищет она самостоятельно, и вы не знаете ни в каком поисковике, ни по каким запросам. Например, если попросить её составить договор аренды квартиры, она отправится в поисковик, попадёт на самые кликбейтные статьи и наберётся оттуда таких «знаний», что итоговый документ лучше не открывать.
Вывод: для юридических задач не полагайтесь ни на уже имеющиеся знания модели, ни на её самостоятельный поиск. Актуальную норму, свежую практику, действующую редакцию давайте сами, прикрепляя источники к диалогу.
4.2Галлюцинации
Галлюцинация, это ситуация, когда модель выдаёт неверный или несуществующий ответ, оформленный так же уверенно, как и правильный. Например: выдуманное постановление с правдоподобным номером и датой, несуществующее дело, норма, которой нет в кодексе, цитата, которую никто не произносил.
Характерная особенность: модель не сигнализирует о том, что она не уверена в ответе. Стилистически достоверный и выдуманный ответ могут выглядеть одинаково.
Почему вероятность ошибки никогда не равна нулю
Вспомним Реку Обучения. Модель предсказывает следующий токен, вычисляя вероятности: «Верховный суд Российской…» → «Федерации» с очень высокой вероятностью. Но высокая вероятность — не стопроцентная. В генерацию встроен элемент случайности: если бы модель всегда выбирала самый вероятный токен, её ответы были бы однообразными и механическими. Случайность даёт живость и вариативность, но вместе с тем порождает возможность галлюцинации.
Галлюцинации — не сбой, а имманентное свойство технологии. Модель работает так, как обучена: подбирает статистически подходящее продолжение. Иногда правдоподобное оказывается неправдой.
Именно поэтому вероятность неверного ответа никогда не становится равной нулю. Её можно снижать — качественным контекстом, точным промптом, дополнительными инструментами, но не обнулить.
В 2023 году в США произошёл случай, ставший хрестоматийным. Юрист подготовил процессуальный документ, где сослался на подборку прецедентов, полученную от ChatGPT. Часть дел не существовала — нейросеть выдумала их вместе с номерами и цитатами. Суд наложил на юристов и их фирму штраф. С тех пор подобные истории повторялись в разных юрисдикциях.
Это не значит, что нейросетями нельзя пользоваться. Важно помнить: ответственность за содержание документа остаётся на юристе целиком. Ссылка на норму, дело, практику всегда проверяется в первоисточнике.
Два подхода к борьбе с галлюцинациями
Полностью исключить галлюцинацию нельзя, но риск можно снизить двумя способами. Переверните карточки:
CoT
Chain of Thought — цепочка рассуждений
Нажмите, чтобы раскрыть →🧩 CoT — цепочка рассуждений
Прежде чем выдать ответ, модель имитирует рассуждение: разбирает задачу на этапы, проверяет себя, рассматривает варианты. Примерно так: «Пользователь спросил вот об этом. Возможно, он имел в виду вот то. В слове опечатка — скорее всего, это другое слово. Проверю».
По сути под капотом идёт несколько генераций, в которых модель перепроверяет саму себя. Сегодня все передовые модели в той или иной степени «размышляющие», и это заметно снижает количество галлюцинаций.
RAG
Retrieval-Augmented Generation — опора на базу знаний
Нажмите, чтобы раскрыть →📚 RAG — генерация с опорой на базу
Модель подключают к внешней базе документов: вашим договорам, практике, регламентам. Перед ответом она ищет там подходящие фрагменты и подгружает в контекст только их. Область поиска, это конкретно ваши источники. Так устроен, например, NotebookLM.
RAG решает две задачи: экономит контекстное окно, потому что грузятся только нужные фрагменты, и снижает галлюцинации, потому что ответ привязан к конкретному источнику, который можно открыть и проверить.
4.3Ограниченность контекста
Механику мы разобрали на Горе Диалога: контекстное окно — это лимит на объём входа, и всё, что в него не поместилось, для модели не существует. Здесь посмотрим на практические последствия.
Когда контекст переполняется, модель не выдаёт предупреждение «первая треть договора до меня не дошла». Она отвечает уверенно и связно, но только по той части текста, которую смогла проанализировать. То же самое с длинным диалогом: договорённости из начала переписки постепенно вытесняются из окна, и модель начинает «забывать» вводные, которые вы давали час назад.
Декомпозиция, это золотое правило работы с моделями. Договор на 20 страниц передовые модели разберут без проблем. А когда объём в разы больше, единственный рабочий подход состоит в том, чтобы дать модели только те фрагменты, которые действительно нужны для конкретного вопроса.
Крупный документ всегда имеет смысловые блоки: основной текст, приложения, разделы. Их и нужно обрабатывать по очереди.
📜 Итог главы
Три ограничения, и все они вытекают из уже знакомого устройства:
- Объём знаний зафиксирован на дате отсечки, а поиск в интернете подкладывает текст в контекст, но не добавляет модели знаний.
- Галлюцинации — не сбой, а следствие вероятностной генерации. CoT и RAG снижают риск, но обнулить его нельзя.
- Вместимость контекста ограничена, и модель не признаётся, что работает не со всем доступным объёмом информации.
Здесь уместна автомобильная аналогия: мы прекрасно водим машины, не разбираясь в устройстве двигателя внутреннего сгорания. Но полезно знать, что аккумулятор может сесть в мороз, а в сорокалитровый бак больше сорока литров не влезет. Ограничения технологии — ровно такие же знания: не повод отказаться, а то, что позволяет пользоваться уверенно и не разочаровываться.
🛡️ Испытание Хранителя Лощины
Разглядите миражи, и туман расступится, открыв дорогу к светлому лесу.
Почему вероятность галлюцинации нельзя свести к нулю?
Что реально снижает риск недостоверного ответа? Отметьте все рабочие способы и не попадитесь на ловушки.
Модель выдала вам подборку из пяти судебных дел с номерами и цитатами — идеально по вашему вопросу. Что делать перед тем, как вставить их в документ?
🔒 Хранитель Лощины ждёт верных ответов, чтобы рассеять миражи.
Миражи разглядены, а в руках у вас теперь фонарик: видно, где ответ надёжен, а где требует проверки. Впереди Лес Дополнительных Инструментов. Пройдя его, вы узнаете, что умеют веб-поиск, глубокое исследование, рассуждающие модели и коннекторы, и научитесь выбирать подходящий инструмент под конкретную задачу.
Глава 5. Возможности современных нейросетей
После сумрака лощины — светлый лес, где на ветвях растут инструменты: веб-поиск, исследование, работа с файлами, подключения к внешним системам. Порой для решения задачи нужно не только правильно составить запрос, но и правильно выбрать инструмент. Познакомимся с каждым.
Инструменты на ветвях леса
Нажмите на любой инструмент, чтобы снять его с ветки и рассмотреть, как он устроен и когда полезен юристу:
🔍 Поиск информации (Web Search)
Поиск в интернете не добавляет модели знаний — он добавляет найденный текст в контекст. Модель оценивает: хватает ли собственных знаний? Если вопрос про сегодняшний день, свежий закон или курс валют — она сама формулирует несколько поисковых запросов, отправляет их, получает результаты, добавляет найденное к вашему промпту и только потом генерирует ответ.
Что остаётся вне вашего контроля:
- Вы не знаете, где она искала. Google, Bing, Яндекс — это решили за вас разработчики.
- Вы не знаете, что она спросила. Поисковые запросы модель формулирует сама и обычно не показывает.
- Поиск не везде можно выключить: в одних интерфейсах он встроен автоматически.
Что важно учесть: прямо указывайте приоритет источника (файл важнее интернета); требуйте ссылки и обязательно их проверяйте; помните про токены — пара поисков по объёмным страницам съедает заметную часть лимита.
🧭 Глубокое исследование (Deep Research)
Обычный поиск — это один заход. Режим глубокого исследования работает циклами: сначала модель составляет план (на какие подвопросы распадается тема), затем идёт первая серия поисков. Прочитав найденное, формулирует уточняющие запросы, и так несколько итераций. В финале собирается развёрнутый отчёт со списком источников.
Полезен, когда нужно исследовать широкую тему, а не найти конкретный ответ:
- обзор регулирования незнакомой сферы перед входом в новый проект;
- сравнение подходов в разных юрисдикциях;
- сбор отраслевого или рыночного контекста перед сделкой;
- анализ публичной информации о контрагенте;
- справка для клиента по теме, которую вы видите впервые.
Главное ограничение: отчёт на десять страниц со структурой и списком источников психологически воспринимается как надёжный документ. Но внутри работает та же вероятностная генерация, а значит, галлюцинация допустима.
🧠 Рассуждающие модели (Thinking Models)
Обычная модель начинает писать ответ сразу с первого токена. Рассуждающая — сначала генерирует для себя цепочку рассуждений и только потом переходит к ответу. Качество растёт, потому что модель предсказывает следующий токен на основе всего предыдущего текста: если этот текст — подробный разбор задачи, вероятность корректного ответа выше, чем «с чистого листа».
Когда стоит включать режим рассуждения:
- многошаговые задачи, где ответ зависит от последовательности выводов;
- расчёты — сроки, неустойки, проценты;
- поиск противоречий между пунктами договора или между документами;
- разбор сложных правовых конструкций и выстраивание позиции;
- планирование: разложить большую задачу на этапы.
📎 Работа с файлами и анализ изображений
Самый востребованный инструмент для юриста: загрузить документ и работать с ним. Модель извлекает текст, распаковывает архивы, разбирает таблицы.
- Лучше подходят txt и PDF. Word несёт сложное форматирование, которое влияет на токенизацию и обработку.
- Любая обработанная информация заполняет контекстное окно, включая инструкции проекта.
- Если нужно понять, что изменилось между двумя редакциями договора, надёжнее алгоритмические средства — встроенное сравнение в Word или Google Docs. Они дают точный результат, а модель — вероятностный.
Анализ изображений. Важно внимательно работать при запросе анализа изображений нейросетью. Современные сервисы могут считывать, что изображено: скан документа, схему сделки, скриншот. Но мелкий шрифт, печати, штампы и рукописный текст могут распознаваться с ошибками, поэтому важно перепроверять результат работы нейросети.
🎨 Генерация изображений и кода
Некоторые модели могут сгенерировать изображение для юридической работы: иллюстрацию в презентацию, простую схему, визуализацию структуры сделки. Об этом будет отдельное занятие на курсе.
Помимо изображений модель может написать и код. Наши студенты на курсе «ИИ-агенты» создают небольшие программы для автоматизации рутины без привлечения программиста: калькулятор процентов, скрипт для обработки реестра, простой инструмент для типовых расчётов.
🔌 Коннекторы и плагины
Коннектор — канал доступа, по которому модель подключается к внешним системам: почте, облачному диску, календарю, базам данных, курсам валют, погоде, корпоративным системам.
Принципиальное отличие от всего предыдущего: модель перестаёт быть только собеседником. Она получает возможность брать данные из ваших систем, и в более продвинутых сценариях совершать в них действия. Например, ответить на e-mail или поставить встречу в календарь.
Общий принцип. Все эти инструменты устроены одинаково: результат работы инструмента подкладывается модели в контекст. Отсюда два постоянных вывода — каждый инструмент расходует токены и каждый может принести недостоверную информацию. Инструмент не делает модель умнее — он лишь даёт ей новые данные для той же самой вероятностной генерации.
📜 Итог главы
- Поиск в интернете даёт свежие данные, но вы не управляете ни поисковиком, ни запросами.
- Глубокое исследование хорошо для широких обзорных задач.
- Рассуждающие модели с наименьшей вероятностью генерируют недостоверный ответ.
- Файлы, генерация изображений и кода, коннекторы расширяют возможности работы с нейросетью.
Главный навык здесь — не знать список инструментов, а выбирать нужный под задачу.
🛡️ Испытание Хранителя Леса
Последний Хранитель. Покажите, что умеете выбирать инструмент под задачу, и сундук в глубине леса откроется.
Подберите инструмент под задачу. Нажмите на задачу, затем на подходящий инструмент.
Что общего у всех дополнительных инструментов — поиска, файлов, коннекторов?
Что верно про веб-поиск нейросети? Отметьте все верные утверждения.
Клиент прислал скан подписанного договора и просит проверить, чем он отличается от согласованной ранее редакции в Word. Как действовать надёжнее всего?
🔒 Последний Хранитель ждёт верных ответов, чтобы открыть путь к сундуку.
Маршрут пройден целиком — от тумана громких слов до светлого леса инструментов. Теперь вы знаете главное: в нейросетях нет магии.
В нейросетях нет ни магии, ни сознания: есть математика и семьдесят лет истории.
Модель училась на текстах из интернета, видит мир в токенах и умеет ровно одно — предсказывать следующий.
Диалог симулируется, памяти нет, а промпт и контекст — единственные рычаги в ваших руках.
Ограничения технологии следуют из её устройства, а не из недоработок отдельных сервисов.
Вокруг модели выстроена обвязка, которая расширяет возможности, но не меняет её природу.
🎁 Что спрятано в сундуке
Сундук в глубине леса открывается, и внутри оказывается кодовое слово. Оно понадобится, чтобы урок засчитался как пройденный.
Нажмите на платформе кнопку «Пройти тест» и введите это слово. После этого урок будет считаться пройденным.
И последнее — то, ради чего стоило проходить весь маршрут.
Соблазн двигаться быстро велик: взять чужую подборку промптов, получить эффектный результат и не разбираться в устройстве. Но модели обновляются, интерфейсы меняются, чужие промпты устаревают. Понимание технологии — нет. Тот, кто понимает принцип, в долгую получит от инструмента больше, чем тот, кто бежал быстрее.
Вы прошли весь путь. Поздравляем! 🎉
runetlex.academy · Основы технологии искусственного интеллекта