Нам нужно новое поле ИИ для борьбы с расовыми предрассудками — TechCrunch

По | 03.07.2020

 

Поскольку начались массовые протесты по поводу расового неравенства, IBM объявил, что отменит свои программы по распознаванию лиц для обеспечения расовой справедливости в правоохранительных органах. Amazon приостановила использование полицией своего программного обеспечения Rekognition на один год, чтобы «установить более строгие правила, регулирующие этическое использование технологии распознавания лиц».

Но нам нужно нечто большее, чем просто нормативные изменения; вся область искусственного интеллекта (ИИ) должна вырваться из лаборатории информатики и принять объятия всего сообщества.

Мы можем разработать удивительный ИИ, который работает в мире в основном непредвзято. Но чтобы достичь этого, ИИ не может быть просто областью информатики (CS) и компьютерной инженерии (CE), как это сейчас. Мы должны создать академическую дисциплину ИИ, которая учитывает сложность человеческого поведения. Нам нужно перейти от ИИ, принадлежащего информатике, к ИИ с поддержкой информатики. Проблемы с ИИ не возникают в лаборатории; они происходят, когда ученые перемещают технологию в реальный мир людей. Учебным данным в лаборатории CS часто не хватает контекста и сложности мира, в котором мы с вами живем. Этот недостаток увековечивает предубеждения.

Обнаружено, что алгоритмы на основе искусственного интеллекта отображают предвзятость в отношении цветных людей и женщин. Например, в 2014 году Amazon обнаружила, что алгоритм искусственного интеллекта, разработанный для автоматизации охоты за головами, учился предвзятости в отношении кандидатов-женщин. Исследователи Массачусетского технологического института сообщили в январе 2019 года, что программное обеспечение для распознавания лиц менее точно идентифицирует людей с более темной пигментацией. Совсем недавно в исследовании, проведенном в конце прошлого года Национальным институтом стандартов и технологий (NIST), исследователи обнаружили доказательства расовой предвзятости в почти 200 алгоритмах распознавания лиц.

Несмотря на бесчисленные примеры ошибок ИИ, усердие продолжается. Вот почему объявления IBM и Amazon вызвали так много положительных новостей. Глобальное использование искусственного интеллекта выросло на 270% в период с 2015 по 2019 год, и ожидается, что к 2025 году рынок будет приносить доход в размере 118,6 миллиардов долларов. По словам Гэллапа, почти 90% американцев уже используют продукты ИИ в своей повседневной жизни — зачастую даже не осознавая этого. ,

Помимо 12-месячного перерыва, мы должны признать, что, хотя создание ИИ является технологической проблемой, использование ИИ требует не связанных с разработкой программного обеспечения дисциплин, таких как социальные науки, право и политика. Но, несмотря на наше все более повсеместное использование ИИ, ИИ как область исследований все еще сосредоточен на областях КС и КЭ. Например, в Университете штата Северная Каролина алгоритмы и ИИ преподаются в программе CS. MIT проводит изучение ИИ как в CS, так и в CE. ИИ должен стать частью гуманитарных программ, программ по расовым и гендерным исследованиям и бизнес-школ. Давайте разработаем трек ИИ на факультетах политологии. В моей собственной программе в Джорджтаунском университете мы обучаем студентов, изучающих безопасность, понятиям ИИ и машинного обучения. Это должно стать обычной практикой.

Без более широкого подхода к профессионализации ИИ мы почти наверняка увековечим предрассудки и дискриминационные практики, существующие сегодня. Мы просто можем различать по более низкой цене — не благородная цель для технологии. Мы требуем преднамеренного создания области ИИ, целью которой является понимание развития нейронных сетей и социального контекста, в котором будет внедряться технология.

В области компьютерной инженерии студент изучает программирование и основы компьютера. В области компьютерных наук они изучают вычислительную и программную теорию, в том числе основы алгоритмического обучения. Это прочная основа для изучения ИИ, но они должны рассматриваться только как компоненты. Эти основы необходимы для понимания области ИИ, но сами по себе недостаточны.

Чтобы население успокоилось благодаря широкому развертыванию ИИ, чтобы такие компании, как Amazon, IBM и многие другие, могли внедрить эти инновации, вся дисциплина должна выйти за пределы лаборатории CS. Нужны те, кто работает в таких дисциплинах, как психология, социология, антропология и нейробиология. Понимание моделей поведения человека, необходимы смещения в процессах генерации данных. Я не мог бы создать программное обеспечение, которое я разработал, чтобы идентифицировать торговлю людьми, отмывание денег и другое незаконное поведение без моего опыта в поведенческой науке.

Ответственное управление процессами машинного обучения уже не просто желательный компонент прогресса, а необходимый. Мы должны признать ловушки человеческих предрассудков и ошибки воспроизведения этих предубеждений в машинах завтрашнего дня, а социальные и гуманитарные науки предоставляют ключи. Мы можем достичь этого только в том случае, если будет создано новое поле ИИ, охватывающее все эти дисциплины.

Наш канал в телеграм: @ide_ya

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *