Чуть подробнее
Можно было бы логично предположить, что медицинский ИИ, оценивающий рентгеновский снимок, абсолютно непогрешим, но хакеры могут обмануть алгоритм с пугающей легкостью. В области состязательной устойчивости исследователи доказали, что изменение нескольких невидимых пикселей на МРТ-скане пациента может полностью манипулировать диагнозом ИИ. Совершенно здоровое легкое может быть уверенно классифицировано как раковое просто из-за наложения математического шумового паттерна, который человеческий глаз даже не может заметить. Эта зияющая уязвимость заставляет инженеров радикально перерабатывать нейронные сети для защиты от враждебных манипуляций.
