[ad_1]
Студентка Лаборатории информационных систем и систем принятия решений (LIDS) Сара Сен вспоминает лекцию, которая привела ее к вопросу, стоящему выше по течению.
На лекции об этичном искусственном интеллекте спикер упомянул вариацию на тему знаменитой проблемы вагонетки, которая описывает философский выбор между двумя нежелательными исходами.
Сценарий выступающего: скажем, беспилотный автомобиль едет по узкому переулку, по одну сторону которого идет пожилая женщина, а по другую — маленький ребенок, и невозможно проехать между ними без несчастных случаев. Кого должна сбить машина?
Затем спикер сказал: Давайте сделаем шаг назад. Это тот вопрос, который мы вообще должны задавать?
Вот когда все щелкнуло для Cen. Вместо того, чтобы учитывать точку столкновения, беспилотный автомобиль мог бы избежать выбора между двумя плохими исходами, приняв решение раньше — спикер отметил, что, въезжая в переулок, автомобиль мог определить, что пространство узкое и замедлился до скорости, которая спасла бы всех.
Признавая, что сегодняшние подходы к обеспечению безопасности ИИ часто напоминают проблему тележки, фокусируясь на последующих нормативных актах, таких как ответственность после того, как кто-то остался без хорошего выбора, Сен задался вопросом: что, если бы мы могли разработать более эффективные средства защиты от таких проблем? Этот вопрос во многом повлиял на работу Сена.
«Инженерные системы не отделены от социальных систем, в которые они вмешиваются», — говорит Сен. Игнорирование этого факта может привести к созданию инструментов, которые бесполезны при развертывании или, что еще более тревожно, могут быть вредными.
Cen прибыл в LIDS в 2018 году немного окольным путем. Она впервые почувствовала вкус к исследованиям во время учебы в Принстонском университете, где она специализировалась на машиностроении. Для получения степени магистра она сменила курс, работая над радиолокационными решениями в мобильной робототехнике (в первую очередь для беспилотных автомобилей) в Оксфордском университете. Там она заинтересовалась алгоритмами искусственного интеллекта, ей было любопытно, когда и почему они плохо себя ведут. Итак, она пришла в Массачусетский технологический институт и LIDS для своего докторского исследования, работая с профессором Девавратом Шахом на кафедре электротехники и компьютерных наук, чтобы получить более прочную теоретическую базу в области информационных систем.
Аудит алгоритмов социальных сетей
Вместе с Шахом и другими сотрудниками Сен работала над широким кругом проектов во время своего пребывания в LIDS, многие из которых напрямую связаны с ее интересом к взаимодействию между людьми и вычислительными системами. В одном из таких проектов Cen изучает варианты регулирования социальных сетей. Ее недавняя работа предлагает метод перевода понятных человеку правил в реализуемый аудит.
Чтобы понять, что это значит, предположим, что регулирующие органы требуют, чтобы любой контент в области общественного здравоохранения — например, о вакцинах — не сильно различался для политически левых и правых пользователей. Как аудиторы должны проверить, соответствует ли платформа социальных сетей этому правилу? Можно ли заставить платформу соответствовать правилам, не нанося ущерба ее прибыли? И как соответствие влияет на фактический контент, который видят пользователи?
Разработка процедуры аудита во многом сложна из-за большого количества заинтересованных сторон, когда речь идет о социальных сетях. Аудиторы должны проверять алгоритм без доступа к конфиденциальным данным пользователя. Им также приходится обходить сложные коммерческие секреты, которые могут помешать им внимательно изучить тот самый алгоритм, который они проверяют, поскольку эти алгоритмы защищены законом. В игру вступают и другие соображения, такие как поиск баланса между удалением дезинформации и защитой свободы слова.
Чтобы справиться с этими проблемами, Сен и Шах разработали процедуру аудита, которая не требует ничего, кроме черного ящика доступа к алгоритму социальных сетей (который соблюдает коммерческую тайну), не удаляет контент (что позволяет избежать проблем с цензурой) и не требует доступ к пользователям (что сохраняет конфиденциальность пользователей).
В процессе разработки команда также проанализировала свойства своей процедуры аудита и обнаружила, что она обеспечивает желаемое свойство, которое они называют надежностью принятия решений. Хорошая новость для платформы: они показывают, что платформа может пройти аудит без ущерба для прибыли. Интересно, что они также обнаружили, что аудит естественным образом стимулирует платформу показывать пользователям разнообразный контент, который, как известно, помогает уменьшить распространение дезинформации, противодействовать эхо-камерам и т. д.
У кого хорошие результаты, а у кого плохие?
В другом направлении исследований Cen изучает, могут ли люди получить хорошие долгосрочные результаты, если они не только конкурируют за ресурсы, но и не знают заранее, какие ресурсы лучше всего подходят для них.
Некоторые платформы, такие как платформы для поиска работы или приложения для обмена поездками, являются частью так называемого рынка сопоставления, который использует алгоритм для сопоставления одного набора людей (например, рабочих или водителей) с другим (например, работодателями или водителями). ). Во многих случаях у людей есть совпадающие предпочтения, которые они узнают методом проб и ошибок. На рынках труда, например, работники узнают о своих предпочтениях в отношении того, какую работу они хотят получить, а работодатели узнают об их предпочтениях в отношении квалификации, которую они ищут у работников.
Но обучение может быть нарушено конкуренцией. Если работникам с определенным опытом неоднократно отказывают в приеме на работу в сфере технологий, например, из-за высокой конкуренции за рабочие места в сфере технологий, они могут никогда не получить знания, необходимые им для принятия обоснованного решения о том, хотят ли они работать в сфере технологий. Точно так же технические работодатели могут никогда не увидеть и не узнать, что могли бы сделать эти работники, если бы их наняли.
Работа Сена исследует это взаимодействие между обучением и конкуренцией, изучая, могут ли люди с обеих сторон рынка соответствия уйти счастливыми.
Моделируя такие соответствующие рынки, Сен и Шах обнаружили, что действительно возможно достичь стабильного результата (работники не заинтересованы в уходе с такого рынка), с небольшим сожалением (рабочие довольны своими долгосрочными результатами), справедливостью ( счастье распределяется равномерно) и высокое общественное благосостояние.
Интересно, что не очевидно, что можно одновременно получить стабильность, низкое сожаление, справедливость и высокое социальное благополучие. Таким образом, еще одним важным аспектом исследования было выявление того, когда можно достичь всех четырех критериев одновременно, и изучение последствий этих условий.
Как X влияет на Y?
Тем не менее, в течение следующих нескольких лет Сен планирует работать над новым проектом, изучая, как количественно оценить эффект действия X на результат Y, когда измерить этот эффект дорого или невозможно, сосредоточив внимание, в частности, на системах, которые сложное социальное поведение.
Например, когда число случаев Covid-19 резко возросло во время пандемии, многим городам пришлось решать, какие ограничения ввести, например, требование ношения масок, закрытие предприятий или приказы оставаться дома. Они должны были действовать быстро и сбалансировать общественное здравоохранение с потребностями общества и бизнеса, государственными расходами и множеством других соображений.
Как правило, чтобы оценить влияние ограничений на уровень заражения, можно сравнить уровни заражения в районах, подвергшихся различным вмешательствам. Если в одном округе есть мандат на ношение масок, а в соседнем округе его нет, можно подумать, что сравнение уровней заражения в округах покажет эффективность мандатов на ношение масок.
Но, конечно же, ни один округ не существует в вакууме. Если, например, люди из обоих округов каждую неделю собираются, чтобы посмотреть футбольный матч в округе без масок, люди из обоих округов смешиваются. Эти сложные взаимодействия имеют значение, и Сара планирует изучать вопросы причин и следствий в таких условиях.
«Нас интересует, как решения или вмешательства влияют на интересующий нас результат, например, как реформа системы уголовного правосудия влияет на количество заключенных или как рекламная кампания может изменить поведение населения», — говорит Сен.
Цен также применила принципы поощрения инклюзивности в своей работе в сообществе Массачусетского технологического института.
Как один из трех сопрезидентов студенческой группы Graduate Women in MIT EECS, она помогла организовать первый исследовательский саммит GW6, на котором были представлены исследования женщин-аспирантов — не только для того, чтобы продемонстрировать студентам положительные образцы для подражания, но и для того, чтобы привлечь внимание многих успешных женщины-выпускницы Массачусетского технологического института, которых нельзя недооценивать.
Сен говорит, что система, предпринимающая шаги по устранению предвзятости, пользуется легитимностью и доверием, будь то в области вычислительной техники или в обществе. «Подотчетность, легитимность, доверие — эти принципы играют решающую роль в обществе и, в конечном счете, определят, какие системы со временем сохранятся».
[ad_2]
Source