Алгоритмічні упередження – це систематичні помилки або перекоси в роботі моделей штучного інтелекту, які призводять до несправедливих чи дискримінаційних результатів. Інакше кажучи, цифрова дискримінація проявляється як нерівне ставлення до певних груп людей через автоматизовані рішення, що спираються на упереджені дані або моделі ШІ. Такі перекоси виникають, коли алгоритми навчаються на історичних даних, що містять існуючі стереотипи та дисбаланси, або коли розробники ненавмисно закладають упередження у функціонування системи. В результаті штучний інтелект може продукувати хибні чи упереджені висновки, хоч і оперує великими обсягами даних. 

Проблема в тому, що такі перекоси невидимі на перший погляд, але можуть суттєво впливати на рішення в бізнесі, особливо у маркетингу. Команда MIM:AGENCY провела аналіз, та виявила, як саме це впливає, у чому полягає небезпека, та як протидіяти цьому явищу.

Як упередження ШІ впливають на маркетинг?

Алгоритмічні упередження мають широкий вплив на різні інструменти та платформи, що використовуються у сучасному маркетингу. Розгляньмо головні напрямки, де упереджені алгоритми можуть завдати шкоди:

Реклама та таргетинг 

У сфері цифрової реклами алгоритми вирішують, кому показати оголошення і як розподілити бюджети. Якщо в моделі є упередження, реклама може показуватися надто вузькій чи однобокій аудиторії, виключаючи певні групи споживачів. Наприклад, дослідження показали, що алгоритм Facebook поширював вакансії “чоловічих” професій (як-от робота в лісовій промисловості) переважно серед чоловіків, тоді як оголошення про прибирання бачили здебільшого жінки. Такі перекоси виникають навіть без прямого наміру рекламодавців – система сама навчається показувати оголошення тим, хто, на її думку, більш ймовірно клікне. В результаті потенційно цінна аудиторія може бути втрачена, а компанія – недоотримати клієнтів.

Персоналізація контенту та соцмережі

Маркетинг все більше спирається на персоналізований контент: стрічки новин у соцмережах, добірки товарів чи статей під смаки користувача. Алгоритми персоналізації, які мають упередження, можуть створювати інформаційні бульбашки та підсилювати стереотипи. Подібним чином алгоритми соцмереж можуть просувати контент, який відповідає минулій поведінці користувача, і водночас менше показувати альтернативні точки зору чи контент від меншин, тим самим звужуючи кругозір аудиторії. Для брендів це ризиковано, адже їх повідомлення може не дійти до частини цільової аудиторії через прихований перекіс у стрічці новин чи рекомендаціях контенту.

Рекомендаційні системи e-commerce

Алгоритми рекомендацій товарів та послуг, на кшталт тих, що використовують Amazon, теж схильні до упереджень. Вони пропонують продукти на основі минулих даних про поведінку користувачів. Якщо ці дані містять історичну нерівність, рекомендації будуть її відтворювати. Приміром, система може радити різні товари чоловікам і жінкам навіть без прямої вказівки статі, просто, тому що історично так склалося. У результаті жіночій аудиторії можуть не показуватися певні категорії товарів, а чоловіча може не бачити рекламу товарів для дому чи догляду за собою, якщо алгоритм вирішив, що їм це не цікаво.

Платформи для рекрутингу

Маркетинг бренду працедавця та HR-технології також страждають від алгоритмічних перекосів. Автоматизовані системи відбору резюме мали б робити процес найму об’єктивнішим, але на практиці не завжди так. Відомий випадок: алгоритм навчався на резюме, поданих за 10 років, більшість з яких належали чоловікам (відображаючи гендерний дисбаланс в ІТ-індустрії). У результаті система «вирішила», що чоловіки – кращі кандидати, і почала занижувати рейтинг анкет, де зустрічалося слово «жіночий» (наприклад, у фразі «капітан жіночого шахового клубу»), а випускниць деяких жіночих коледжів узагалі перестала рекомендувати. Цей кейс наочно демонструє, як упереджені дані та моделі ведуть до упереджених результатів, навіть якщо ознака (стать) не задана явно. 

Таким чином, алгоритмічні упередження можуть проникати в різні аспекти маркетингу – від того, кому показати рекламу і який контент запропонувати користувачу, до того, як відфільтрувати кандидатів на роботу. Кожна з цих сфер потребує уваги, щоб автоматизація не оберталася несправедливістю.

Алгоритмічні упередження на українському ринку

А чи траплялися подібні ситуації в Україні? Поки що гучних скандалів саме через алгоритмічну дискримінацію у вітчизняному маркетингу чи онлайн-рекламі не оприлюднено. Однак це не означає, що проблеми не існує – радше вона ще мало досліджена і не завжди впізнавана. Український бізнес поступово переймає глобальні практики: дедалі більше компаній застосовують ШІ для роботи з даними клієнтів, рекламні платформи ті ж самі (Facebook, Google) і використовують ті самі алгоритми, що й за кордоном. В HR-сфері використання AI теж зростає – великі міжнародні корпорації в Україні застосовують автоматизовані системи відбору, а локальні сайти з пошуку роботи інтегрують розумні алгоритми. Наприклад, портал robota.ua запустив AI-функції для генерації питань на співбесіду та описів вакансій.

На рівні суспільства і держави інтерес до теми теж підвищується. Поняття цифрової (алгоритмічної) дискримінації вже присутнє в правничому дискурсі України. Експерти відзначають, що традиційні закони поки не містять прямих норм проти алгоритмічної упередженості, але потреба в регулюванні назріває. В Концепції розвитку штучного інтелекту, ухваленій урядом у 2020 р., задекларовано принцип недискримінації, хоча поки що це більше декларація, ніж робочий механізм. Тож українські компанії наразі діють в умовах саморегулювання і повинні самі подбати про етичне використання алгоритмів. 

Хоч гучних кейсів в Україні не було, ризики аналогічні світовим. Наприклад, маркетологи можуть стикнутися з тим, що система таргетингу необ’єктивно відбере аудиторію. Або що рекомендаційний алгоритм на сайті відсіює товари українською мовою через брак даних чи пріоритет російськомовного контенту в минулому. Такі перекоси складно помітити без спеціального аналізу, але вони впливають і на споживачів, і на бізнес-результати.

Як зменшити алгоритмічні упередження: рекомендації для бізнесу

Алгоритмічні ризики можна і потрібно проактивно пом’якшувати. Маркетологи та компанії, що використовують ШІ, мають запровадити низку кроків для уникнення або мінімізації упереджень. MIM:AGENCY створила декілька рекомендацій, які допоможуть зробити AI-інструменти більш справедливими та безпечними для бренду.

Якісні та різноманітні дані для навчання

 Більшість упереджень проникає в модель через дані, тому критично важливо стежити за їх якістю. Необхідно збирати і використовувати максимально репрезентативні дані, що включають різні групи користувачів. Відмовитися від застарілих чи однобоких датасетів, які перекошують модель. Як влучно зазначила директорка з маркетингу SAS Дженніфер Чейс: 

«Упереджені дані та упереджені моделі призводять до упереджених результатів»

Отже, слід “годувати” алгоритми тільки перевіреними, збалансованими даними, які відображають реальну аудиторію без перекосів. У практиці це може означати, приміром, додатково зібрати дані про менш представлену групу клієнтів, перш ніж навчати модель персоналізації.

Регулярний аудит і тестування алгоритмів

Не можна запускати AI-систему “на автопілот” – потрібен постійний моніторинг її рішень на предмет упередженості. Компаніям варто впровадити процеси аудиту: періодично перевіряти результати, які видає алгоритм, і шукати аномалії. Наприклад, аналізувати, як розподіляються покази реклами між різними демографічними групами, чи немає систематичного відхилення. Сьогодні є і спеціальні інструменти – так, Google випустив Dataset Search для пошуку більш збалансованих наборів даних, а фреймворки як IBM AI Fairness 360 або TensorFlow Fairness Indicators допомагають виявити перекоси у даних і моделі. 

Якщо виявлено проблему – негайно вживати заходів: донавчити модель на нових даних, підкоригувати алгоритм або правила прийняття рішень. Аудит бажано проводити на постійній основі, адже навіть коректно навчена модель з часом може “з’їхати” в небажаний бік.

Принцип “людина в контурі”

Повна автоматизація – не самоціль, особливо коли йдеться про рішення з серйозним впливом на людей. Варто впровадити контроль з боку людини на критичних етапах. Наприклад, якщо AI сформував список кандидатів на вакансію або згенерував сегмент аудиторії для кампанії, нехай фінальний перегляд зробить HR або маркетолог. 

Кілька великих компаній вже задекларували правило: важливі рішення, що суттєво впливають на життя людини, не повинні прийматися алгоритмом автономно.

Людина може побачити те, чого не “розуміє” машина, – наприклад, що всі кандидати в списку чомусь одного віку або що реклама не показується в певному регіоні. Докладніше про питання, хто краще розуміє людину – машина чи людина, ми висвітлили у матеріалі “Чи може ШІ зрозуміти споживача краще, ніж людина?”

Політика етики та навчання команди

Маркетинговим і продакт-командам доцільно розробити чіткі внутрішні правила щодо використання AI. Ці політики мають включати принципи недискримінації, вимоги прозорості (наскільки це можливо) і процедури реагування на інциденти. Важливо тренувати персонал – проводити семінари з етичного використання даних, роз’яснювати, як проявляються алгоритмічні упередження і чому це проблема. Якщо вся команда усвідомлює ризики, вона з більшою ймовірністю їх помітить і виправить. Культура відповідального ставлення до AI має йти від керівництва: топменеджменту варто підкреслювати, що етика не менш важлива, ніж KPI. Для бренду це вклад в довгострокову довіру: споживачі цінують тих, хто діє проактивно, а не лише реагує на скандали постфактум.

Залучення різноманітних команд і експертів

Одноманітність у команді розробників чи маркетологів може призвести до “тунельного зору” – всі мислять схоже і можуть прогледіти упередження. Тому варто прагнути диверсифікації команд, особливо тих, що відповідають за дані та алгоритми. Люди з різним бекграундом більше схильні помічати перекоси, які для інших невидимі. 

Чим ширша перспектива при розробці і тестуванні алгоритму – тим менше шансів, що в ньому закріпиться несвідома упередженість.

Обмеження використання AI там, де високі ризики

Проаналізуйте сценарії застосування штучного інтелекту у вашому маркетингу та бізнесі. Визначте зони підвищеного ризику – наприклад, прийняття рішення про найм, надання кредиту, оцінку клієнта для важливої послуги. Якщо наслідки помилки дуже серйозні для людини або потенційно незаконні, краще не покладатися повністю на алгоритм. Варто залишити такі рішення людям або використовувати AI лише як допоміжний інструмент. Як показує практика, іноді “менше – краще”.

Висновки

Алгоритмічні упередження – не вирок і не привід відмовлятися від штучного інтелекту. Це радше заклик до усвідомленості. Маркетологи завжди працювали з людськими упередженнями – вивчали стереотипи, уподобання, соціальні ефекти. Тепер настав час так само уважно працювати та з упередженнями машинними. Бізнес, який зможе поєднати AI з етикою та рівністю, матиме не лише лояльних клієнтів, а й конкурентну перевагу. Адже у світі, де дані та автоматизація є пріоритетністю, виграє той бренд, якому споживач довіряє – бо знає, що з ним поводяться чесно і неупереджено. 

Джерела:

  1. SAS. AI Bias in Marketing: Risks and How to Avoid Them. SAS Institute, 2023.
  2. U.S. Department of Justice. Justice Department Secures Groundbreaking Settlement with Meta to Resolve Allegations of Algorithmic Bias. DOJ Press Release, 2022.
  3. MIT Technology Review. Discrimination in Online Ads: The Facebook Case. MIT Tech Review, 2022..
  4. Українська асоціація маркетингу. Цифрова дискримінація: виклики для українського ринку. УАМ, 2022.
  5. Robota.ua. AI-інструменти для рекрутингу та підбору персоналу. Офіційний блог Robota.ua, 2023.