Хотите дальше читать devby? 📝
Support us

Алгоритм Apple обвиняют в сексизме

Оставить комментарий
Алгоритм Apple обвиняют в сексизме

Apple и Goldman Sachs — два видных игрока в сферах технологий и финансов — недавно оказались в эпицентре обсуждения алгоритмов, которые устанавливают кредитные лимиты владельцам банковских карт: эмитента подозревают в неумышленной дискриминации по половому признаку, пишет Bloomberg. Сооснователь Apple Стив Возняк призвал к более жёсткому регулированию таких алгоритмов, а финансовый регулятор с Уолл-Стрит начал расследование обвинений в сексизме алгоритма Apple Pay, прозвучавших в Twitter.

На прошлых выходных Bloomberg сообщил, что Управление финансовых услуг штата Нью-Йорк (NYDFS) запустило расследование кредитных практик Goldman Sachs. Поводом стала публикация создателя Ruby on Rails Давида Хейнемейера Хэнссона в Twitter.

В длинной ветке он обругал Apple Card за то, что лимит по карте его жены в 20 раз ниже, чем у него самого. Хотя, по словам программиста, он и его жена подают совместную налоговую декларацию, а кредитный рейтинг у неё выше. Тирада сильно всколыхнула сообщество и собрала множество откликов.

Позже к обсуждению с аналогичной проблемой подключился кофаундер Apple Стив Возняк: у него лимит по карте Apple Card оказался в 10 раз больше, чем у жены. Причём супруги тоже подают совместную налоговую декларацию, у них совместные банковские и другие счета, привязанные к кредитным картам, однако другие банки таких различий по полу не делают.

Возняк призвал правительство вмешаться и стать на защиту граждан, заявив, что банки слишком много отдают на откуп сложной для понимания технологии. По его убеждению, подобные практики несправедливы и противоречат морали, а сами алгоритмы и механизмы их применения корпорациями, которые действуют исключительно в своих интересах, довольно непрозрачны.

Алгоритмы были призваны гарантировать равные условия для всех держателей карт, ведь они полагаются исключительно на данные и устраняют человеческий фактор. Но ситуация с Apple Pay подчёркивает их несовершенство, считает Возняк.

Претензии прокомментировал представитель Goldman Sachs. Он отметил, что Apple Card работает только с индивидуальными аккаунтами, поэтому лимиты у членов одной семьи могут значительно различаться. Но банк утверждает, что никогда бы не стал обуславливать решение гендерной принадлежностью держателя карты.

— Управление проведёт расследование с целью выяснить, имело ли место нарушение законов Нью-Йорка, а также гарантировать, что все потребители получают равные услуги независимо от пола. Если алгоритм ущемляет женщин или представителей любой другой защищённой социальной группы — устроен он так преднамеренно или нет, — это противоречит закону, — отметили в NYDFS.

Это уже второе подобное разбирательство регулятора за последние недели. Первое расследование было открыто в отношении UnitedHealth Group — крупнейшей американской компании в сфере медицинского страхования. Предметом стал алгоритм, который по результатам более ранних исследований заподозрили в преференциальном отношении к белокожим пациентам и дискриминации темнокожих.

Классические кредитные учреждения всё чаще внедряют алгоритмы для расчёта лимитов и допустимых сумм для клиентов, чтобы снизить издержки и обработать больше кредитных заявок. Вместе с тем, в финансовую сферу активно захватывают технологические компании, например Amazon, Apple, Facebook и Google, а предлагаемые ими возможности получения займов и проведения платежей рискуют отбить прибыль у банков.

Алгоритмы и Конгресс

Особый интерес к алгоритмам проявляет Конгресс. В июне случаи принятия при помощи алгоритмов решений, которые, пусть и ненамеренно, ущемляли определённые группы, рассматривал Комитет по финансовым услугам Палаты представителей США.

Кандидатка на пост президента США от Демократической партии в выборах 2020 года Элизабет Уоррен заявила о необходимости создания законов, пресекающих дискриминацию и поспевающих за темпами инноваций.

Что касается Goldman Sachs, со столь пристальным вниманием и такого рода претензиями нью-йоркский банк ещё не сталкивался. Предприятие Apple Card было запущено им в этом году совместно с Apple, и именно оно отвечает за кредитные решения по картам. К слову, Goldman Sachs называл Apple Card самым успешным проектом кредитной карты в своей истории.

А Ханссон продолжает критиковать банк за несерьёзное отношение к «проколу» с дискриминацией: как только проблема перекочевала в медийную плоскость, кредитный лимит его жены повысили, не запрашивая каких-либо дополнительных документов. «Я не думаю, что в этом виноват какой-то нехороший человек, хотевший кого-то дискриминировать. Но важно не это. Откуда нам знать, что проблема не в алгоритме машинного обучения, если никто не может объяснить, как это решение было принято?» — размышляет он.

Работа в ИТ в Беларуси​.​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​ ​

1. Заполните анонимную форму — 5 минут.
2. Укажите зарплатные (и другие) ожидания.
3. Выберите желаемую индустрию или область деятельности.
4. Получайте релевантные предложения​​.​​​​​​​​​​​​​​​​

Помогаете devby = помогаете ИТ-комьюнити.

Засапортить сейчас.

Читайте также
7 отличных курсов по финансам. Уплыть «с галеры» и основать свой стартап
7 отличных курсов по финансам. Уплыть «с галеры» и основать свой стартап
7 отличных курсов по финансам. Уплыть «с галеры» и основать свой стартап
Если вы посмотрели «Волк с Уолл-стрит» и хотите, как Леонардо ди Каприо прогуливаться по яхте с бокалом вина в руках, но не знаете, с чего начать, подборка курсов Digitaldefynd станет для вас отличным стартом. Здесь представлены как платные, так и бесплатные программы, которые помогут вам освоить финансовое моделирование. Они подойдут не только для начинающих слушателей, но и для экспертов.
Не Paint-ом единым. 13 курсов по UX/UI-дизайну для продвинутых и не только
Не Paint-ом единым. 13 курсов по UX/UI-дизайну для продвинутых и не только
Не Paint-ом единым. 13 курсов по UX/UI-дизайну для продвинутых и не только
Если вам нравится думать о том, как с минимальными затратами получить максимум эффективности, то проектирование пользовательских интерфейсов определенно вас заинтересует. DigitalDefynd сделал подборку курсов по UX/UI-дизайну как для новичков, так и для продвинутых специалистов. 
Apple показала iPhone 14 и сразу несколько Apple Watch. Главное
Apple показала iPhone 14 и сразу несколько Apple Watch. Главное
Apple показала iPhone 14 и сразу несколько Apple Watch. Главное
7 сентября прошла осенняя презентация Apple, на которой компания представила новую линейку iPhone, несколько Apple Watch и беспроводные наушники. Рассказываем о новинках презентации.
Что мы знаем об iPhone 14 и чего ожидать от презентации
Что мы знаем об iPhone 14 и чего ожидать от презентации
Что мы знаем об iPhone 14 и чего ожидать от презентации
1 комментарий

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментируйте без ограничений

Релоцировались? Теперь вы можете комментировать без верификации аккаунта.

Комментариев пока нет.