Машинное обучение и справедливость
Автор: Марва Халил
В этом месяце мы вернулись с первым мероприятием после летних каникул. Мы вернулись в офис Google, чтобы узнать о машинном обучении и справедливости.
Наш спикер Сильвия Чиаппа, старший научный сотрудник DeepMind, провела для нас ускоренный курс по машинному обучению и показала, как оно использовалось в прошлом. Сильвия рассказала о том, как и почему машинное обучение пошло не так, и рассказала о справедливости машинного обучения.
Машинное обучение — это подход к ИИ, при котором машинная система получает математическую основу для извлечения правил из данных. Алгоритм машинного обучения несправедлив, если он дает несправедливые или предвзятые результаты. Обычно это происходит в отношении чувствительных атрибутов, таких как раса и пол.
Машинное обучение, по сути, настолько хорошо, насколько хороши данные, на которых оно основано, и проблемы возникают, когда люди теряют контроль. Контроль может быть потерян, когда данные сильно искажены, это означает, что ожидаемые прогнозы могут быть неверными или, что еще хуже, вредными для общества. Это создает несправедливость в системах, которые полагаются на машинное обучение.
Даже если из данных и алгоритмов убрать предвзятость, существуют и другие проблемы:
• Для построения более справедливых моделей требуется больше данных более высокого качества
• Справедливость является объективной
• Справедливость не является количественным понятием.
• Системы машинного обучения предназначены для конкретных задач
• Машины не подчиняются человеческому законодательству
• Для понимания моделей может потребоваться обучение
После презентации Сильвии состоялся семинар и обсуждение вопросов, поднятых Сильвией. Это вызвало оживленные дискуссии в группах и высветило различные точки зрения. Презентация и обсуждения заставили задуматься и представили важную концепцию UX будущего.
Докладчик
Сильвия Чиаппа — старший научный сотрудник DeepMind, где она работает над моделями глубокого прогнозирования многомерных временных рядов, а также вносит свой вклад в инициативу DeepMind по разнообразию и включению. Сильвия получила диплом Лауреа по математике Болонского университета и докторскую степень в области статистического машинного обучения Федеральной политехнической школы Лозанны. До прихода в DeepMind она работала в нескольких исследовательских группах по машинному обучению и статистике, таких как Группа эмпирического вывода в Институте биологической кибернетики им. Макса Планка, Группа машинного обучения и восприятия в Microsoft Research Cambridge и Статистическая лаборатория Кембриджского университета. . Научные интересы Сильвии основаны на байесовских и причинно-следственных рассуждениях, приближенных выводах, моделях временных рядов, алгоритмической справедливости и глубоком обучении.
Спасибо
Огромное спасибо компании Google за гостеприимство и докладчику за увлекательную беседу и дискуссию.
Больше фотографий с мероприятия смотрите в нашем альбоме на Flickr.
Участие в LTUX London
Хотите написать для Ladies that UX London? Если это так, мы хотели бы услышать ваши идеи.
Мы всегда ищем творческие, интересные и информативные материалы для блога и сообщества Ladies that UX London. Хотите ли вы вдохновить других женщин в индустрии UX или поделиться своим опытом; мы все в ушах.
Никогда не пропустите трюк
🎉 Никогда не пропустите трюк. Получайте последние обновления, приоритетные билеты и эксклюзивные предложения, подписавшись на нашу рассылку.
☎️ Хотите связаться с нами? Вы можете найти нас в Twitter, Facebook и Instagram.
💖 Если вам понравился этот пост, поделитесь любовью и подарите нам аплодисменты.
😻 Если у вас есть что-то, что вы хотите показать, почему бы не связаться с нами? Мы были бы рады получить известия от вас.
об авторе
Марва Халил — лондонский дизайнер UX и UI, у которой была возможность поработать с некоторыми замечательными лондонскими стартапами и компаниями SaaS. Она является постоянным автором и редактором блога LTUX London. Оставайтесь с ней в курсе на Medium, Twitter и Instagram.
