Вчені пропонують новий підхід до створення об’єктивного ІІ

По мірі того як штучний інтелект стає все більш вправним у вирішенні складних завдань, ми починаємо йому довіряти приймати важливі рішення. Але наскільки справедливі рішення він приймає? Робота фахівців Бостонського університету «From Soft Classifiers to Hard Decisions: How fair can we be?», яка буде представлена на цьому тижні на конференції Асоціації обчислювальної техніки ACT FAT, намагається дати відповідь на це питання. Вона заснована на вивченні досліджень останніх років, присвячених упередженості ІІ, повідомляє VentureBeat.

Вчені, які займаються цією темою, стикаються з відсутністю чіткого критерію оцінки неупередженості ІІ. У різний наукових груп — різні визначення справедливості. Кожне окремо здається вірним, але вони абсолютно не сумісні один з одним.

Неможливо створити систему, яка задовольняла б їм усім, каже професор Адам Сміт, співавтор статті.

Бостонська група використовувала в якості відправної точки дані, опубліковані в рамках дослідження програми оцінки рецидивизма COMPASS. Проводила дослідження організація ProPublica прийшла до висновку, що COMPASS упереджена до афроамериканцям і рекомендує засуджувати їх на більш тривалі терміни тюремного ув’язнення.

На підставі цих даних учені розробили новий підхід до оцінки ризику повторного вчинення злочину. Він знижує і хибно позитивні і хибно негативні значення, тобто домагається більшої об’єктивності для різних груп населення. Крім того, платформа навчилася відзначати випадки, в оцінці яких вона не впевнена.

Протестувавши свій алгоритм на даних розслідування ProPublica, вчені виявили, що тільки 75% випадків отримали вірну оцінку програми COMPASS. Чверть потребує повторної перевірки.

Восени минулого року IBM випустила експерта по упередженості — пакет програм AI Fairness 360. Це комплексне рішення з відкритим кодом, за допомогою якого можна перевірити, чи є у використовуваного алгоритму небажані упередження.

   
Наука і технології