Дослідники зі всього світу направили масову скаргу в бік Amazon

У відкритому листі, який було опубліковано вчора ввечері, дослідники вищевказаних організацій заявляють, що численні дослідження встигли неодноразово показати факт того, що алгоритми, використовувані Amazon, мають дуже серйозні недоліки, до яких відносять факт більш високого рівня помилок, при роботі з темношкірими і жінками. Дослідники так само стверджують, що в тому випадку, якщо дана технологія буде офіційно прийнята для використання поліцією, то це може в рази посилити расову дискримінацію, а так само створити не рідкісні випадки помилкової ідентичності і стимулювати нав’язливий нагляд за деякими групами людей.

Морган Клаус Шойерман, аспірант Університету Колорадо в Боулдері, паралельно є одним з 26 дослідників підписали лист, сказав наступне в електронному повідомленні до видання The Verge: «Неправильні технології особового аналізу зможуть посилити упередженість до людей». Шойерман так само говорить, що подібні технології можуть бути використані для зловмисних дій, про яких компанії, що поставляють їх, можуть навіть і не здогадуватися».

Тим часом список осіб, що підписалися під листом дослідників, так само включає в себе: Тимнита Гебру, дослідника з Google, чия робота виявила недоліки в алгоритмах розпізнавання осіб Amazon; Йошуа Бенжио, дослідник штучного інтелекту, який нещодавно отримав премію Тюрінга; Аніма Анандкумар, професор Каліфорнійського технологічного інституту і колишній головний науковий співробітник однієї з філій Amazon.

Аніма Анандкумар заявила електронною поштою виданню The Verge, що вона сподівається на те, що лист почне масові обговорення, з приводу доцільності використання подібної, некоректної технології розпізнавання осіб. Так само вона наполягає на регулювання таких проектів на державному рівні, заявляючи, що: «Державне регулювання може з’явитися тільки після того, як ми розробимо технічні рамки для оцінки цих систем».

Будучи одним з провідних постачальників технологій по розпізнаванню осіб, алгоритми Amazon неодноразово піддавалися ретельному аналізу. Дослідження, опубліковане раніше в цьому році, показало, що програмне забезпечення компанії важче визначити стать темношкірих чоловіків і жінок. Так само інший тест, проведений в 2018 році, показав, що програмне забезпечення Amazon Rekognition неправильно зіставило фотографії 28 членів Конгресу з співробітниками поліції.

   
Наука і технології