Примеры вместо готовых правил
Представьте модель, которая должна различать фотографии кошек и собак. В одном из распространённых подходов ей показывают множество изображений с подписями. Сначала модель ошибается, затем её параметры постепенно корректируют так, чтобы уменьшить ошибку.
Данные
Собирают подходящие примеры и, при необходимости, правильные ответы к ним.
Обучение
Модель ищет закономерности и меняет внутренние числовые параметры.
Проверка
Качество оценивают на примерах, которые не использовали для настройки.
Это пример обучения с учителем. Есть и другие подходы: поиск структуры в данных без готовых ответов и обучение на основе обратной связи о действиях.
Попробуем на знакомом примере
Как система могла бы сортировать почту
Выберите письмо и посмотрите, какие признаки помогают его оценить. Это учебная демонстрация с заранее написанными объяснениями, а не работающая модель ИИ.
Как языковая модель составляет текст
Текст разбивается на токены — фрагменты слов, целые слова или знаки. Во время обучения языковая модель осваивает закономерности в последовательностях токенов. При генерации она по очереди выбирает продолжение с учётом вашего запроса и доступного контекста.
Благодаря масштабу и устройству обучения такие модели могут писать связные тексты, объяснять идеи и решать многие задачи. Но правдоподобное продолжение не гарантирует истинность фактов.
Когда вы отправляете запрос, готовая модель обычно применяет уже настроенные параметры. Запоминание контекста беседы не означает, что она прямо сейчас переобучается на каждом сообщении.
Почему хороший ответ иногда оказывается неверным
- Недостаточно контекста. Неясную задачу можно истолковать несколькими способами.
- Пробелы и перекосы в данных. Обучающие примеры не представляют весь мир равномерно.
- Правдоподобие вместо проверки. Модель может выдумать название, цитату или источник.
- Новые обстоятельства. Без подходящих инструментов модель может не знать недавних изменений.
Помогают ясные запросы, проверка источников и оценка результата на реальных примерах вашей задачи.