Репортаж
Искусственный интеллект — не всегда хорошо для ЛГБТИ-сообщества
21 мая 2018 года.
21 май 201821 май 2018Посмотрев одно из самых ожидаемых событий года, Синтия Вебер задалась вопросом: правильно ли пост
Посмотрев одно из самых ожидаемых событий года, Синтия Вебер задалась вопросом: правильно ли поступила компания Sky News, решив воспользоваться искусственным интеллектом (ИИ) на съемках свадебной церемонии принца Гарри и Меган Маркл?
Впервые в истории новостная компания использовала во время прямой трансляции технологию распознавания лиц на основе ИИ. Синтия, профессор международных отношений и гендерных наук в Сассекском университете, объяснила, что применение подобного программного обеспечения для идентификации гостей на свадьбе — признак высокого уровня технического развития, однако такой подход может быть сопряжен с некоторыми сложностями.
«Некоторые считают, что эта технология способна определять сексуальную ориентацию человека», — отметила Синтия в своем выступлении на Международном дне борьбы с гомофобией, трансфобией и бифобией, который прошел в Женеве в штаб-квартире ЮНЭЙДС.
Опираясь на результаты исследования, проведенного в Стэнфордском университете, в ходе которого были проанализированы более 35 000 фотографий здоровых белых людей в возрасте 18–40 лет с американского сайта знакомств, исследователи сравнили их сексуальную ориентацию, определенную ИИ, с ориентацией, указанной в профилях этих людей. Авторы исследования утверждают, что технология распознавания лиц на основе ИИ способна определять сексуальную ориентацию на 30 % более точно, чем это делает человек.
По словам Синтии, организации по защите прав ЛГБТИ-сообщества резко раскритиковали это исследование, мотивировав это тем, что в нем использовалась нерепрезентативная выборка в отношении расы и пола, а сексуальная ориентация приравнивалась к сексуальной активности. «В результате алгоритм этого ИИ нашел лишь то, на поиск чего был запрограммирован: стереотипы по отношению к гетеросексуалистам, геям и лесбиянкам», — добавила Синтия.
Г-жа Вебер не отрицает, что ИИ открывает множество возможностей в самых разных сферах, но полагает, что для ЛГБТИ-сообщества он несет больше вреда, чем пользы.
Когда ИИ объединяют с технологией распознавания лиц и алгоритмом выявления сексуальной ориентации, возникает как минимум четыре проблемы. Во-первых, конфиденциальность. Согласно национальному и международному законодательству, лицо человека не защищено законами о конфиденциальности. Это значит, что сканировать и считывать изображения лиц может кто угодно — от правительства до Sky News.
Во-вторых, точность. «Если не брать в расчет королевскую свадьбу, технология распознавания лиц на основе искусственного интеллекта еще далека от совершенства, даже для такой простой задачи, как сопоставление имен гостей с их лицами, не говоря уже о более сложной задаче определения сексуальной ориентации по лицу», — рассказала Синтия.
Для нее главной проблемой является принцип работы этой технологии. Как алгоритм может определить сексуальную ориентацию человека лучше, чем он сам? Синтия считает, что такой подход с применением программных средств и считываемых компьютером данных несовместим с огромным разнообразием гендерных и сексуальных различий.
И наконец, четвертая проблема, которая волнует Синтию, — для чего будут использоваться полученные с помощью ИИ данные? «Допустим, компания Sky News использовала их для комментирования свадебной церемонии, но что если они попадут в руки полиции тех стран, где гомосексуальные отношения запрещены законом?» — задается вопросом Синтия.
Для нее ИИ и сексуальная ориентация — две вещи, которые не следует объединять. Она понимает, что развитие искусственного интеллекта расширяет творческие возможности и ускоряет внедрение инноваций, но полагает, что классификация людей, как правило, имеет больше минусов, чем плюсов.
В завершение Синтия добавляет: «Люди должны быть уверены в том, что искусственный интеллект работает этично, а не только технологично».
Мероприятие было организовано 16 мая швейцарской ЛГБТИ-ассоциациейPride@Work и UN Globe, ЛГБТИ-организацией при ООН.