Ми і не підозрюємо, як ефективно на нас чинять вплив за допомогою технологій.
Як можна непомітно змінити думку користувачів популярної соцмережі і найбільшого пошуковика, показавши ретельно відібрані новини.
Сьогодні важко уявити собі життя без інформаційних технологій. Але той факт, що написані кимось комп’ютерні програми впливають на наші рішення, викликає все більше занепокоєння.
А тут ще недавно, до того ж, – щось із, здавалося б, давно минулого: якісь люди, яких ми не знаємо, відбирають для нас повідомлення про події, вирішуючи за нас, що варте нашої уваги, а що – ні.
Як виявилося, для відбору новин, які побачать чи не побачать користувачі, «Фейсбук» використовує команду редакторів.
І як це не парадоксально з погляду людей, які звикли скаржитися на те, що машини керують людьми, проблема в цій ситуації з живими редакторами полягає саме у відсутності прозорого алгоритму.
Найвпливовіша платформа для обміну інформацією може на свій розсуд вибирати те, що побачать користувачі
Саме суперечливе обвинувачення полягає в тому, що добірки найактуальніших тем на сайті мають антиконсервативную спрямованість, у той час як консервативним новин і думок не приділяється достатньо уваги.
Проте сама компанія подібні звинувачення рішуче відкидає.
Видання Gizmodo, присвячене новин зі світу технологій, вперше підняв цю тему в березні, вказавши дві причини, з яких це може стати компрометуючим для компанії Facebook, навіть якщо ми і не знайдемо жодної політичної підоснови.
По-перше, наявність найманих редакторів шкодить «ілюзії неупередженого ранжирування новинних матеріалів».
По-друге, ставлення до «кураторам розділу новин» не набагато краще, ніж до програмного забезпечення.
Вони не отримують чітких інструкцій і повинні керуватися розпливчастим поняттям «популярні новини», виконуючи при цьому жорсткі кількісні норми.
Втім, в даному випадку важливі не стільки ручна селекція новин та ідеологічна упередженість, скільки той факт, що, що найвпливовіша платформа для обміну інформацією може на свій розсуд вибирати те, що побачать користувачі.
«Фейсбук» та йому подібні ресурси здатні фільтрувати новини та інформацію, використовуючи узагальнюючі заголовки на кшталт «популярних новин» або критерії кшталт «актуальності», причому найчастіше користувачі поняття не мають про те, як відбувається процес відбору.
А адже це дуже важливо, оскільки навіть незначна зміна способу відображення відомостей може впливати на нашу поведінку.
Щоб зрозуміти, як це можливо, розглянемо такий винахід біхевіористів (психологів, що вивчають поведінку людини), як технологія «підштовхування», яким широко користуються уряди та організації по всьому світу.
Вона полягає в тому, щоб непомітно підказати людині, як йому слід поводитися.
Показовим прикладом може послужити презумпція згоди на донорство органів. Вона означає, що для вилучення органів потрібно не наявність згоди людини, а відсутність письмової відмови.
Однієї цієї презумпції достатньо для того, щоб суттєво збільшити кількість донорів.
Що ж у цьому поганого? Ну наприклад, критики цієї технології відзначають, що вона позбавляє людей можливості поінформованого вибору.
Фільтрацією відомостей грішить не тільки «Фейсбук»
У своїй статті для ресурсу Institute of Art and Ideas журналіст Нік Хэркэуэй висловив думку, що мета «підштовхування» полягає не в тому, щоб пояснити той чи інший питання і підлаштувати політику під волю народу, а в тому, щоб привести волю народу у відповідність з потрібною політикою.
«Вибір – це навичка, звичка, навіть невелика зміна архітектури мозку. І щоб його відточувати, потрібна практика», – вважає він.
Як же ця технологія застосовується у цифровому світі?
Досліджуючи онлайн-простір, ми постійно стикаємося з вибором – від того, що купити, до того, у що вірити.
І фахівці в галузі інформаційних технологій можуть вплинути на прийняті нами рішення.
Варто визнати, що фільтрацією відомостей грішить не тільки «Фейсбук». Повальне захоплення штучним інтелектом, всілякими гаджетами і інтернетом речей виникло багато в чому завдяки розумним систем рекомендацій.
У цієї проблеми немає простого рішення. Але в той же час за нею не стоїть великий змову
Ні Google, ні Apple, ні Amazon не нехтують технологіями персоналізованої подачі інформації.
Але все вищеописане – це питання протистояння не стільки людини і машини, скільки поінформованого вибору і підштовхування до «правильного» вибору.
Маючи найбільш актуальною інформацією, ми приймаємо найкращі рішення – це один з основоположних принципів інформаційних технологій і одночасно одне з найважливіших переваг.
Італійський філософ техніки Лучано Флориди, автор книги «Четверта революція», описує цей процес за допомогою терміна «этичная конструкція» (pro-ethical design).
Під цим Флориди розуміє надання збалансованої і ясної інформації, яка спонукає людину свідомо прийняти важливе рішення і взяти на себе відповідальність за нього.
Флориди впевнений, що інформаційні системи повинні не протидіяти, а сприяти тому, щоб людина замислювався над етичною стороною того чи іншого питання. Для цього необхідно уникати зайвого «підштовхування».
Не слід вводити презумпцію донорства органів: нехай люди свідомо роблять свій вибір. Не варто нікому нав’язувати готові відповіді про те, що є актуальним: нехай користувачі самі вдумуються, задають питання і тим самим вдосконалюють систему.
Тут існують фундаментальні суперечності: між зручністю і урахуванням інтересів; між тим, що хочуть самі користувачі і тим, що для них краще; між прозорістю і комерційним перевагою.
Чим більше асиметрична інформація по обидві сторони екрану (що система знає про вас, і що ви знаєте про неї), тим більше ризик того, що ваші рішення стануть просто набором реакцій на приховані стимули.
Варто пам’ятати, що цілі розробників технологій, якими ми користуємося, відрізняються від наших власних
При цьому співвідношення того, що відбувається в світі, і того, що ми можемо дізнатися, щодня зміщується в бік нашої необізнаності.
У цієї проблеми немає простого рішення. Але в той же час за нею не стоїть великий змову.
Насправді вміле поєднання можливостей програмного забезпечення та редакторського контролю стає єдиним способом фільтрувати неймовірні обсяги інформації, що накопичується по всьому світу.
Проте варто пам’ятати, що цілі розробників технологій, якими ми користуємося, відрізняються від наших власних.
Неважливо, хто саме виступає в ролі посередника – людина або алгоритм: для того щоб успішно орієнтуватися в потоці інформації, слід змиритися з тим, що дегуманізацію неможливо подолати.
Наука і технології