Американські НКО New America, Open Technology Institute (OTI), Ranking Digital Rights (RDR) опублікували спільне дослідження з проблематики демократичних цінностей в умовах інформаційного тиску.
Технологія, що лежить в основі діяльності соціальних мереж, у значній мірі непрозора для громадськості та політиків. Використовуються спеціальні алгоритми, за допомогою яких можна збільшити охоплення інформаційного повідомлення, орієнтуючи його на людей, які з найбільшою ймовірністю поділяться таким повідомленням. У підсумку це може впливати на точку зору великої кількості людей.
Алгоритми допомагають платформам «поліпшити» взаємодію з користувачами. Без алгоритмів користувачі отримували б усю інформацію, яка міститься на платформі, без попередньої фільтрації. Однак компанії використовують алгоритми не заради зручності користувачів, а, в першу чергу, для отримання прибутку. Чим вище активність користувача соцмереж, тим більше даних він віддає. Чим більше даних отримує компанія, що володіє платформою соцмережі, тим більше рішень вона може прийняти про те, що показувати користувачеві, і тим більше прибутку вона отримує від цільової реклами, включаючи політичну рекламу. Такі алгоритми відносять до алгоритмів, що формують контент (content-shaping algorithms). На основі онлайн-поведінки користувачів та інших даних, що збираються платформами (іноді без повідомлення або попередньої згоди користувачів), алгоритмічні системи дозволяють більш точково спрямовувати рекламу і тим самим збільшити привабливість компанії для рекламодавців.
Є також інший вид алгоритмів, мета яких – модерація контенту. Такі алгоритми дозволяють не тільки виявити контент, що порушує правила компанії, і потім видалити його з платформи, а й також ідентифікувати і видаляти інший контент без участі людини, що порушує її права чи вводить в оману. У даний час Facebook, Google і Twitter не наводять доказів того, що вони проводять комплексну перевірку прав людини щодо використання ними алгоритмічних систем або використання особистої інформації для їх розробки та навчання.
Автори дослідження вважають, що необхідно законодавчо встановити базові стандарти прозорості алгоритмів, модерації контенту й таргетированной реклами, щоб ІТ-компанії виявляли належну обачність до негативних наслідків своїх продуктів.
НКО закликають компанії до відповідальності і корпоративної транспарентності, рекомендуючи:
– публікувати правила управління рекламним контентом, алгоритми систем рекламного таргетування;
– забезпечувати можливість користувачів регулювати процес профайлінга і можливість заперечування політики інформаційного регулювання;
– розкривати корпоративну нефінансову інформацію на регулярній основі;
– повідомляти користувачів про зміни правил для користувацького контенту, для рекламного контенту (у тому числі для цільової реклами), щоб користувачі могли прийняти інформоване рішення про те, чи продовжувати використовувати платформу;
– розкривати процеси і технології (включаючи алгоритми модерації контенту), які використовуються для ідентифікації контенту або акаунтів, які порушують правила платформи щодо контенту;
– публікувати звіти про прозорість з даними про обсяг і характер дій, що вживаються для обмеження контенту, який порушує правила платформи;
– розкривати інформацію про використання алгоритмічних систем;
– надавати користувачам можливість вирішувати, чи дозволяти цим алгоритмам формувати пропонований платформою контент, і змінювати параметри, які на них впливають.
Детальніше: http://www.newamerica.org/oti/reports/its-not-just-content-its-business-model/, https://bit.ly/2Y3gEUX
Фото: Paweł Kuczyński
