Чуть подробнее
Алгоритмы часто воспринимаются как четкие, логичные машины. Но на самом деле они похожи на рецепты, передаваемые через шумные кухни, на которые влияет каждая рука, каждая специя, каждое привнесенное допущение. Даже разработчики порой теряют след этих тонких оттенков — предвзятости, коренящейся не в злобе, а в истории данных, которыми они кормят систему. Обучите алгоритм на прошлом, и он может непреднамеренно повторить несправедливость прошлого. В чем подвох? Когда рецепт сложен, даже шеф-повара не могут полностью предсказать вкус каждого блюда. Вот почему главная задача сегодня — не просто создавать алгоритмы, а делать их «кухни» прозрачными, чтобы мы видели, что именно попадает в котел.
