Два месяца как исследовательский план

В 1955 году Джон Маккарти и его коллеги предложили провести летом в Дартмуте исследовательский проект по искусственному интеллекту. В заявке они предполагали, что важные стороны мышления — например, обучение и использование языка — можно достаточно точно описать, чтобы заставить машину их воспроизводить. Расчёт на два месяца отражал смелость этой программы, но не означал, что участники обещали за лето создать разумную машину. Это была попытка наметить область исследований и проверить, какие задачи поддаются формализации.

Именно здесь обнаружилось главное препятствие: человеческие способности трудно перевести в чёткие правила и критерии успеха. Машина может убедительно выполнить отдельную задачу, но это ещё не значит, что она понимает ситуацию так же, как человек. С развитием вычислительной техники и методов машинного обучения исследователи стали добиваться успеха не только через заранее прописанные правила, но и обучая системы на больших массивах примеров.

Убедительность — не то же самое, что проверка

Языковая модель обычно подбирает продолжение текста по закономерностям, усвоенным из примеров. Она может составить ответ, который выглядит как описание судебного решения, даже если такого прецедента нет: связность формулировок сама по себе не проверяет существование дела. Для надёжного ответа нужны дополнительные способы проверки — например, сверка с источниками, — а не только способность хорошо продолжать фразу.

Похожее расхождение видно в генерации изображений. Модель учится создавать картинки, соответствующие текстовым описаниям и визуальным закономерностям, но это не равнозначно встроенному знанию анатомии. Если форма руки в обучающих примерах и промежуточных изображениях неоднозначна, результат может оказаться убедительным издали, но странным при внимательном рассмотрении.

Так что трудность, заметная уже в ранних обещаниях ИИ, сохраняется в новой форме: научить систему производить правдоподобный результат оказалось легче, чем обеспечить, чтобы она понимала, когда этот результат верен.