5 правил управления непредвиденными последствиями Искусственного Интеллекта. Часть 1

 

Компании, работающие в социальных сетях, утверждают, что они лишь пытаются создать сообщества, которые объединяют людей, а доходы от рекламы нужны лишь, чтобы оставаться бесплатными. Но на самом деле нет ничего бесплатного. Больше просмотров означает больше денег, поэтому эти компании оптимизировали свои алгоритмы, чтобы максимизировать вовлеченность. 

Просмотры являются функцией прибыли алгоритмов ведь, чем больше просмотров алгоритмы привлекают на платформу, тем лучше. Когда алгоритм продвигает определенный пост и видит рост просмотров, он удваивает стратегию, выборочно выбирает время, таргетинг и продвигает посты таким образом, который, по его мнению, стимулирует дальнейшее распространение. Этот процесс называется обучением с подкреплением.

Не нужно быть экспертом в области искусственного интеллекта (ИИ), чтобы понять, к чему это приведет: провокационные посты, вызывающие внимание и интерес, получат больше просмотров, алгоритм будет отдавать им предпочтение, что приведет к постоянно растущим доходам данной платформы. 

Но социальные платформы — не единственные, кто использует ИИ с подкрепляющим обучением. По мере того как его внедряют различные компании, руководителям следует обратить внимание на возможные проблемы социальных сетей и постараться избежать предсказуемых ошибок.

Агенты обучения 

Чтобы понять причинно-следственную связь, которая наблюдается на социальных платформах, полезно знать немного больше о том, как работает алгоритм. Этот тип алгоритма называется агентом обучения с подкреплением (RL), и хотя деятельность этих агентов, пожалуй, наиболее заметна в социальных сетях, они распространены и в другом бизнесе.

В отличие от алгоритмов, которые следуют жесткому набору инструкций, агенты RL запрограммированы на получение прибыли путем выполнения определенных действий в заданном состоянии. В данном случае прибылью являются мнения — чем больше, тем лучше. 

Разрешенные действия агента могут включать в себя то, на кого ориентироваться, а также на частоту рекламных акций. Состоянием алгоритма может быть время суток. Прибыль агента, а также состояния, в которых он работает, и набор конкретных действий называются его политикой.

Политика широко определяет, как агент RL может вести себя в различных ситуациях, обеспечивая им своеобразные ограничения. По мере того как агент узнает, что работает лучше всего, придерживается этой оптимальной стратегии. 

В результате итеративного процесса проб и ошибок агент становится все лучше, а также настраивается на получение максимальной прибыли. Понимание того, как агенты преследуют свои цели, позволяет понять, как их можно скорректировать, чтоб они причинили наименьший вред. 

Если в системе Человек — ИИ сложно изменить поведение людей, то изменить политику RL-агентов — гораздо проще. Это актуально как для социальных сетей, а также всех деловых ситуаций, в которых RL-агенты взаимодействуют с людьми.

Правила лидерства

Что бы вы ни думали о политике Facebook и Twitter, но они точно не ставили перед собой цель создать ресурс, сеющий раздор и конфликты между людьми. Но они точно имеют цель увеличить рост и доходы платформ, и придуманные ими для этого агенты RL в этом преуспели, но с тревожными последствиями.

Платформы социальных сетей — это экстремальный пример того, что может произойти, когда политика агентов RL не продумана должным образом, также не контролируется и ничем не ограничивается. Интересно, но данные агенты могут найти применение в финансовых услугах, здравоохранении, маркетинге, играх, автоматизации и других областях, где целеустремленная погоня за прибылью может способствовать неожиданному, негативному поведению человека. 

В компетенцию ИИ это не входит, а вот люди, которые их создают и управляют ими, должны предвидеть негативные последствия  и сделать все, чтобы не допустить проблем. В следующей статье мы продолжим рассмотрение этой важной темы. Не пропустите! 

Комментарии

  1. Алгоритмы машинного обучения заменяют собой кол-центры и помогают выполнить такую задачу, как предоставление клиенту помощи и информации круглосуточно, в праздничные и выходные дни. «Умная» программа учится на собственных ошибках и со временем превосходит живого оператора по компетентности. Результат: значительное увеличение лояльности клиентов, создание положительного имиджа компании.

  2. ИИ — это не формат и не функция, это процесс и умение думать и анализировать данные. Несмотря на то, что при упоминании «искусственного интеллекта» многие представляют разумных человекоподобных роботов, захватывающих мир, в реальности ИИ не предназначен для замены людей. Его цель — расширить границы человеческих способностей и возможностей. Поэтому данная технология является ценным бизнес-ресурсом.

  3. Очень часто вопросы контроля ИИ-системы начинают решать после ее создания и внедрения. Но этого недостаточно: оценка ИИ и моделей машинного обучения должна проводиться на каждом этапе жизненного цикла. Это поможет определить системные проблемы, которые можно не заметить при точечных моментных оценках.

  4. Для эффективного использования ИИ необходимо, чтобы стратегия его применения соответствовала конкретным основным бизнес-целям, поэтому всегда важно учитывать вопросы взаимодействия людей, процессов и технологий.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *