Почему модель может ошибиться в простом примере
Языковая модель не считает так, как человек, который записывает числа в столбик, и не обязательно выполняет арифметику отдельным вычислительным механизмом. Она подбирает продолжение текста по закономерностям, усвоенным на множестве примеров. Поэтому ответ может выглядеть уверенным и при этом оказаться неверным: уверенный тон — часть связного текста, а не доказательство того, что вычисление проверено.
Числа для неё тоже слова
Внутри модели текст разбит на небольшие фрагменты — токены. Число может представляться одним токеном или несколькими, и привычные человеку правила разрядов не всегда напрямую соответствуют тому, как модель обрабатывает запись. Она часто справляется с типовыми примерами, потому что встречала похожие выражения и ответы. Но при новом сочетании чисел может продолжить по знакомому шаблону, не выполнив надёжно все шаги вычисления.
Особенно легко ошибиться там, где нужно удержать несколько промежуточных результатов. Например, при умножении многозначных чисел ответ зависит от правильных действий с разрядами и переносами. Если один шаг потерян или перепутан, итог всё равно может выглядеть правдоподобно — и сама модель не всегда замечает расхождение.
Когда ответ действительно проверен
Для точного счёта модель можно соединить с калькулятором или программой: тогда она формулирует задачу, а отдельный инструмент выполняет операцию. Без такого инструмента лучше просить показать ход решения и независимо проверить результат, особенно если ошибка дорого обойдётся. Но и объяснение по шагам само по себе не гарантирует точности: оно тоже создаётся как текст.
Поэтому простое вычисление — полезное напоминание о границе между убедительным ответом и проверенным результатом. Модель может звучать как оракул, но для арифметики важнее не уверенность формулировки, а наличие проверки.
