Почему нельзя просто стереть запись
После обучения модель обычно хранит не копии всех примеров, а множество числовых параметров — весов. Каждый пример понемногу меняет их во время настройки. Поэтому удаление файла из обучающей базы не отменяет уже внесённый вклад: модель всё ещё может воспроизводить фрагмент данных или опираться на усвоенную закономерность.
Как модель «разучивают»
Сначала задают, что именно нужно забыть, и отделяют эти примеры от данных, которые следует сохранить. Затем алгоритм меняет веса так, чтобы ослабить влияние выбранной части, стараясь не испортить ответы на остальном материале. Для этого могут использоваться сведения о ходе обучения — например, сохранённые промежуточные состояния, — или повторная настройка только затронутых частей модели.
Это не поиск одного «вредного» параметра: вклад примера обычно распределён между многими весами и смешан с влиянием других данных. Поэтому задача состоит в том, чтобы убрать нужный след, не разрушив полезные навыки. Полное переобучение на очищенном наборе служит возможным ориентиром, но машинное разучивание стремится получить сопоставимый результат дешевле.
Что значит «забыть» на практике
Результат проверяют по поведению модели: пытаются выяснить, выдаёт ли она удалённые сведения и сохранила ли нужные способности. Успех зависит от модели, метода и данных; доказать, что влияние исчезло абсолютно, бывает трудно. Поэтому разучивание — не стирание конкретной ячейки, а контролируемое изменение поведения модели. Это позволяет реагировать на запрос об удалении данных без повторного обучения всей системы с нуля, хотя само по себе не гарантирует идеального забвения.
