Компанії, що працюють у соціальних мережах, стверджують, що вони лише намагаються створити спільноти, які об’єднують людей, а доходи від реклами потрібні лише щоб залишатися безкоштовними. Але насправді немає нічого безкоштовного. Більше переглядів означає більше грошей, тому ці компанії оптимізували свої алгоритми, щоби максимізувати залученість.
Перегляди є функцією прибутку алгоритмів, адже чим більше переглядів алгоритми залучають на платформу, тим краще. Коли алгоритм просуває певний пост і бачить зростання переглядів, він подвоює стратегію, вибірково вибирає час, націлення та просуває пости таким чином, який, на його думку, стимулює подальше поширення. Цей процес називається навчанням із підкріпленням.
Не потрібно бути експертом у галузі штучного інтелекту (ШІ), щоб зрозуміти, до чого це призведе: провокаційні пости, що викликають увагу та інтерес, отримають більше переглядів, алгоритм віддаватиме їм перевагу, що призведе до постійно зростаючих доходів даної платформи.
Але соціальні платформи – не єдині, хто використовує ШІ з підкріплюючим навчанням. У міру того, як його впроваджують різні компанії, керівникам слід звернути увагу на можливі проблеми соціальних мереж і постаратися уникнути передбачуваних помилок.
Агенти навчання
Щоб зрозуміти причинно-наслідковий зв’язок, який спостерігається на соціальних платформах, корисно знати трохи більше про те, як працює алгоритм. Цей тип алгоритму називається агентом навчання з підкріпленням (RL), і хоча діяльність цих агентів, мабуть, найбільш помітна у соціальних мережах, вони поширені й в іншому бізнесі.
На відміну від алгоритмів, які наслідують жорсткий набір інструкцій, агенти RL запрограмовані на отримання прибутку шляхом виконання певних дій у заданому стані. У разі прибутком є думки – що більше, краще.
Дозволені дії агента можуть включати те, на кого орієнтуватися, а також на частоту рекламних акцій. Станом алгоритму може бути доба. Прибуток агента, і навіть стану, у яких працює, і набір конкретних дій називаються його політикою.
Політика широко визначає, як агент RL може поводитися у різних ситуаціях, забезпечуючи їм своєрідні обмеження. У міру того, як агент дізнається, що працює найкраще, дотримується цієї оптимальної стратегії.
В результаті ітеративного процесу спроб і помилок агент стає все краще, а також налаштовується на отримання максимального прибутку. Розуміння того, як агенти переслідують свої цілі, дозволяє зрозуміти, як їх можна скоригувати, щоб вони завдали найменшої шкоди.
Якщо в системі Людина – ШІ складно змінити поведінку людей, то змінити політику RL-агентів – набагато простіше. Це актуально як для соціальних мереж, а також для всіх ділових ситуацій, в яких RL-агенти взаємодіють з людьми.
Правила лідерства
Що б ви не думали про політику Facebook і Twitter, але вони точно не ставили собі за мету створити ресурс, що сіє розбрат і конфлікти між людьми.Але вони мають на меті збільшити зростання і доходи платформ, і придумані ними для цього агенти RL в цьому досягли успіху, але з тривожними наслідками.
Платформи соціальних мереж – це екстремальний приклад того, що може статися, коли політика агентів RL не продумана належним чином, також не контролюється та нічим не обмежується. Цікаво, але ці агенти можуть знайти застосування у фінансових послугах, охороні здоров’я, маркетингу, іграх, автоматизації та інших галузях, де цілеспрямована гонитва за прибутком може сприяти несподіваній, негативній поведінці людини.
До компетенції ШІ це не входить, а от люди, які їх створюють та керують ними, мають передбачати негативні наслідки та зробити все, щоб не допустити проблем. У наступній статті ми продовжимо розгляд цієї важливої теми. Не пропустіть!