Компания Twitter объявила конкурс, участникам которого предложено найти ошибки в алгоритме обрезки изображений, способные привести к тому, что обрезанное изображение «нанесет вред».
Что бы понять, о каком вреде идет речь, следует вспомнить, что автоматическая обрезка применяется к изображениям, на которых могут быть люди. В случае некорректного алгоритма человек на снимке может быть показан в уничижительном или стереотипном виде, неправильно распознан или исключен из списка, стерт и т.п. Образно говоря, алгоритм проявит предвзятость.
Еще в апреле компания заявила, что изучит потенциальный «непреднамеренный вред», который создается его алгоритмами, начиная с алгоритма обрезки изображений. Этот алгоритм, используемый с 2018 года, пытается сосредоточить внимание на наиболее интересных частях изображений при формировании миниатюрной копии изображения для предварительного просмотра. Некоторые пользователи раскритиковали то, как Twitter выполняет автоматическую обрезку, утверждая, что алгоритм фокусируется на людях со светлой кожей.
«В мае мы поделились нашим подходом к выявлению предвзятости в нашем алгоритме салиентности (также известном как алгоритм обрезки изображений), и мы сделали наш код доступным, чтобы другие могли воспроизвести нашу работу», — сказано в блоге Twitter. — Мы хотим сделать еще один шаг вперед, пригласив и стимулировав сообщество помочь выявить потенциальный вред этого алгоритма, помимо того, что мы выявили сами».
За обнаружение ошибок назначены призы: 3500 долларов за первое место, 1000 долларов — за второе и 500 долларов — за третье. Кроме того, 1000 долларов полагается за самый новаторский поход и еще 1000 долларов — за наиболее общий, то есть затрагивающей больше всего типов алгоритмов.
Критерии оценки вреда приведены на странице конкурса. Отметим, что учитывается преднамеренный и непреднамеренный вред, а также то, как велика затронутая группа пользователей.
Победители будут объявлены 8 августа.