Нейронные сети обучаются, метафорически скатываясь с холма

Для повышения точности ИИ использует стратегию оптимизации под названием 'Градиентный спуск'. Представьте, что вы кладете шарик на бугристый многомерный холм и позволяете гравитации тянуть его к самой нижней точке. ИИ случайным образом меняет свои вычисления и проверяет, снижается ли уровень ошибки. Если да, он продолжает двигаться в этом направлении, пока не достигнет дна. Он буквально учится, падая.