Модели машинного обучения наследуют предвзятые человеческие стереотипы

Мы пытались создать беспристрастные машины, но случайно построили предвзятые алгоритмы. Поскольку модели обучаются на огромных объемах нефильтрованного текста, созданного людьми, они беспрепятственно впитывают и воспроизводят все наши худшие социальные предрассудки. Это суровое напоминание о том, что невозможно создать безупречную цифровую сущность, используя глубоко порочный исходный материал.