Научитесь считывать ключевую информацию о кандидате или сотруднике за минуту общения. Бесплатный трехдневный вебинар 24, 25, 26 января
HR-блог Проф-Диалог

Проблемы внедрения искусственного интеллекта при работе с потребителями

HR-заметки
В маркетинговых кругах напряжение стало синонимом слова "болевая точка". Устранение напряжения, согласно общепринятому мнению, имеет решающее значение для построения стратегии, ориентированной на клиента и обеспечивающей конкурентное преимущество. Взяв за основу политику поведенческой экономики, маркетологи стремятся "подтолкнуть" людей на завоевание клиентов и устранить напряжение в борьбе с "осадком". Во многих компаниях "искусственный интеллект" стал основным инструментом для создания опыта без напряжения и устранения препятствий, замедляющих эффективный захват клиентов. Хотя это было верно и до пандемии, Covid-19 значительно ускорил тенденцию цифровой трансформации, создав спрос на  бесконтактный клиентский опыт, который уменьшает точки потенциального напряжения, которое возникает при личном общении с людьми.

искусственный интеллект


Вспомните недавний запуск Amazon One, который использует "специально разработанные алгоритмы", чтобы использовать бесконтактную форму оплаты, идентификации и доступа. "Мы начали с потребительского опыта и [...] решили проблему вещей, которые долговечны и выдержали испытание временем, но часто вызывают напряжения или потерю времени для клиентов", - объявила компания. Это устраняет такие шаги, как поиск своего кошелька или взаимодействие с человеком (хотя неясно, получают ли клиенты соразмерные преимущества в обмен на свои биометрические данные). В том же ключе магазины Hudson и Aldi недавно запустили розничную торговлю без напряжения, которая позволяет покупателям "просто выйти" со своими покупками, минуя традиционный процесс оформления заказа. Эта тенденция к созданию бесконфликтного обслуживания клиентов не ограничивается розничной торговлей: Facebook недавно представила "умные очки" с искусственным интеллектом, которые позволяют пользователям постоянно и без усилий находиться в сети, такой подход компания называет "ультра-низким напряжением ввода". Даже школы в Великобритании внедрили технологию распознавания лиц в кафетериях, котораяустраняет напряжение от подсказок и ускоряет время транзакции на кассе.


Искусственный интеллект в сфере клиентского спроса

Несомненно, устранение болевых точек, основанных на напряжении, может быть полезным, в случае упрощения систем здравоохранения, регистрации избирателей и налоговых кодексов. Но когда речь идет о внедрении ИИ и машинного обучения, стратегии "без напряжения" могут также принести вред, начиная с проблем конфиденциальности и наблюдения, способности алгоритмов отражать и усиливать предубеждения и заканчивая этическими вопросами о том, как и когда использовать ИИ.

Когнитивные предубеждения могут подорвать оптимальное принятие решений, и решения, связанные с применением ИИ, ничем не отличаются от этого. Люди могут иметь предубеждения против или в пользу алгоритмов, но в последнем случае они предполагают большую нейтральность и точность ИИ, несмотря на то, что им известно об ошибках алгоритмов. Даже если существует неприятие использования алгоритмов в значимых областях (таких как медицинское обслуживание, поступление в колледж и судебные решения), воспринимаемая ответственность предвзятого лица, принимающего решения, может быть снижена, если оно будет учитывать данные ИИ. Тем не менее, темпы инвестиций только увеличиваются: Стэнфордский индекс ИИ 2021 года сообщает, что общий объем глобальных инвестиций в ИИ в 2020 году увеличился на 40% по сравнению с 2019 годом и составил 67,9 млрд долларов.


Тем не менее, 65% руководителей не могут объяснить, как их модели ИИ принимают решения. Поэтому руководители, которые стремятся улучшить клиентский опыт, должны использовать "полезное напряжение", чтобы прервать автоматизм в применении "черных ящиков" систем ИИ. Перспективы ИИ огромны, но если мы хотим быть по-настоящему ориентированными на клиента, его применение требует ограничения, включая систематическое устранение вредного напряжения и добавление полезного напряжения. Напряжение не всегда является негативным фактором - фокус в том, чтобы отличить хорошее напряжение от плохого и провести аудит систем, чтобы определить, какое из них наиболее полезно. Компании должны проанализировать, где люди взаимодействуют с ИИ, и исследовать области, где может возникнуть вред, взвесить, как добавление или устранение напряжения изменит процесс, и протестировать эти измененные системы с помощью экспериментов и многометодных анализов.

Поиск хорошего напряжения.

Что такое хорошее напряжение и как отличить его от плохого напряжения в клиентском опыте? Хорошее напряжение - это точка соприкосновения на пути к цели, которая дает человеку самостоятельность и независимость для улучшения выбора, а не автоматизирует процесс принятия решений. Этот подход однозначно ориентирован на человека. Он допускает разумное рассмотрение выбора для потребителя и тестирование вариантов командой менеджеров в соответствии с потребностями пользователей, а также четкое понимание последствий выбора. Кроме того, это может улучшить спрос потребителя, вовлекая пользователей в более активное обдумывание или более эффективное совместное создание опыта.

Важно отметить, что хорошее напряжение не обязательно снижает потребительский опыт, более того, оно может привести к популяризации бренда. Например, предоставление большей свободы действий в отношении своих данных, прозрачность использования персональных данных или приоритет благосостояния человека над вовлеченностью может быть не автоматическим или без напряжения, но это лучше для людей, стоящих за точками данных, и для общества в целом. Недавний краудсорсинговый "алгоритмический вызов" Twitter, в котором компания попросила клиентов выявить потенциальную предвзятость алгоритмов, добавил хорошее напряжение к клиентскому опыту таким образом, чтобы повысить вовлеченность и уменьшить вред. Напряжение может быть полезным, когда нам нужно уделить время клиентам, чтобы лучше понять их потребности и уникальный опыт - процесс, который может быть неэффективным (но приятным). Сообщества, где клиенты общаются друг с другом и информируют друг друга, могут улучшить опыт клиентов за пределами точки соприкосновения с транзакцией, как и взаимодействие с клиентами, которое позволяет получить данные, выходящие за рамки традиционных оценок NPS (как в случае с Booking.com). Это возможности для создания, а не просто извлечения ценности.

Приобретение товаров онлайн

Плохое напряжение, с другой стороны, лишает клиента права голоса и наносит потенциальный вред, особенно уязвимым группам населения. Именно размещение препятствий на пути цифровой трансформации, ориентированной на человека, создает стимулы для подрыва самостоятельности клиента или препятствия для алгоритмической прозрачности, тестирования и инклюзивных перспектив. Например, когда WhatsApp изменил условия предоставления услуг, пользователи, не согласившиеся с новыми условиями, столкнулись с увеличением напряжения и снижением полезности приложения. Такая асимметрия напряжения на пути пользователя - легкий и стимулирующий вход в систему, а затем барьеры на выходе - создает динамику, напоминающую ловушку для омара: заманчивый вход, но отсутствие возможностей для выхода.

Фирмы могут пересмотреть свой путь клиента и провести "аудит напряжения", чтобы выявить точки соприкосновения, где хорошее напряжение может быть намеренно использовано на благо пользователя, или где плохое напряжение подтолкнуло клиента к "темным моделям". Уже существуют фирмы и организации, которые стремятся предложить подобный опыт в борьбе с алгоритмической предвзятостью. Кас Санстейн предложил "аудит осадка", чтобы искоренить "чрезмерные и неоправданные напряжения" для потребителей, сотрудников и инвесторов. Аналогичным образом, аудит напряжения может включать в себя целенаправленный анализ точек напряжения на пути клиента и в опыте сотрудника (EX).

Что могут сделать компании.
При оценке роли напряжения в цифровой трансформации, положительной или отрицательной, учитывайте поведенческие тенденции и благосостояние клиентовПодталкивание - мощный инструмент, но руководители должны использовать его осторожно, поскольку он может быстро стать манипулятивным. Хорошее напряжение, направленное на снижение такого риска, - относительно небольшая цена по сравнению с оттоком клиентов из-за разрушения доверия и репутации. Вот три предложения:

Что могут сделать компании при оценке роли напряжения в цифровой трансформации

1. Когда речь идет о внедрении ИИ,  практикуйте действия, связанные с неудобствами.  Да, предложение клиентам большего выбора может сделать их путешествие менее удобным (как в случае с принятием cookie по умолчанию), но утвердительное согласие должно быть сохранено. В организациях также удобно (и комфортно) находиться в однородных группах, но разнообразие в конечном итоге борется с когнитивными предубеждениями и приводит к большим инновациям. Найдите время, чтобы включить более представительные, междисциплинарные и разнообразные наборы данных и кодеров.
Но, возможно, первый и самый важный неудобный поступок - это то, что ваша команда должна взять паузу и спросить: "Должен ли ИИ делать это? И может ли он сделать то, что ему обещают?". Задайте вопрос, уместно ли вообще использовать ИИ в данном контексте (например, он не может предсказать преступное поведение и не должен использоваться для "предиктивного полицейского контроля", чтобы арестовывать граждан до совершения преступлений в стиле "Отчета о меньшинствах"). Намеренно закладывайте недостатки в процессах, которые мы сделали автоматическими в нашем стремлении к стратегии без напряжения, и включайте точки соприкосновения с "хорошим напряжением", которые раскрывают ограничения, предположения и коэффициенты ошибок алгоритмов (например, карточки моделей ИИ, на которых указаны эти детали для повышения прозрачности).Рассмотрите возможность привлечения внешних партнеров по аудиту ИИ, которые могут быть менее внедрены в организационную рутину и с большей вероятностью выявят области, где отсутствие напряжения порождает отсутствие критического, человеческого мышления и где хорошее напряжение может улучшить клиентский опыт и снизить риски.
 
2. Много экспериментируйте (и терпите неудачи), чтобы предотвратить применение машинного обучения в режиме автопилота. Это требует изменения менталитета и перехода к культуре экспериментов во всей организации, но слишком часто ответственность за проведение экспериментов возлагается только на специалистов по анализу данных. Руководители должны поощрять регулярные возможности для тестирования хорошего напряжения (и устранения плохого напряжения) на протяжении всего пути клиента. Например, в IBM все маркетологи проходят обучение экспериментам, инструменты для экспериментов удобны и легко доступны, а конкурсы "30 экспериментов за 30 дней" проводятся регулярно. Это требует от руководства достаточной уверенности в том, что идеи будут проверены и что уроки, полученные о клиенте, станут движущей силой продукта.
Закономерности работы интернет магазинов

Заново познакомьте себя и свою команду с научным методом и поощряйте всех членов команды генерировать проверяемые гипотезы в точках касания пути клиента, проводя небольшие испытания и точно определяя переменные. Например, программа Fairlearn от Microsoftпомогает тестировать алгоритмы и выявлять проблемы, такие как ошибки, на выборочной группе, где реальный вред может быть нанесен до выпуска продукта. Проведите широкое обучение и сделайте это частью ваших KPI, чтобы создать культуру экспериментирования. Планируйте много неудачных экспериментов - обучение происходит за счет напряжения. Но дело не только в том, чтобы быстро потерпеть неудачу, но и в том, чтобы учесть полученные уроки, поэтому сделайте распространение этих уроков как можно более легким.
 
3. Будьте начеку в поисках "темных закономерностей". Соберите свою команду, составьте карту цифрового путешествия клиента и спросите: легко ли клиентам заключить договор или получить опыт, но непропорционально трудно или непонятно выйти из него? Если ответ положительный, то, скорее всего, они находятся в цифровой версии ловушки для омара. Такая асимметрия входа/выхода подрывает способность клиента действовать самостоятельно, а подталкивание на этом пути клиента может стать похожим на манипуляцию. Примерами могут служить подписки, которые без напряжения автоматически продлеваются с мелким шрифтом, делающим их отмену невозможной, и "соглашения" об обмене данными, скрывающие нарушение конфиденциальности. Повышенная прозрачность вариантов на протяжении всего пути клиента, хотя и не исключает напряжения, но сохраняет заинтересованность клиента и, в конечном итоге, доверие. Это критически важно для лояльности клиентов.
В основе этих трех постулатов лежит принцип цифровой трансформации по принципу "человек-человеку": уважайте и доверяйте своим клиентам настолько, чтобы расширять их возможности, даже если это приведет к напряжению в точках соприкосновения. Уверенный, ответственный бренд не должен прибегать к хитростям и манипуляциям для повышения вовлеченности. Вполне вероятно, что в нашем будущем появится законодательство, подобное Биллю о правах ИИ, поэтому сейчас самое подходящее время для развития практики, ориентированной на клиента. А с уходом сторонних файлов cookie от Google настало время изменить курс, чтобы создать конкурентное преимущество. Уже сейчас компания Apple позиционирует себя как убежище для конфиденциальности, а компания Duck Duck Goпозиционирует себя против Google, поскольку для нее приоритетом является пользовательское агентство, а не доступ к данным. Команда Salesforce по этике ИИ не только создала этический кодекс для внутренних целей, но и помогает своим корпоративным клиентам внедрять точки трения ИИ, например, напоминания клиентам о том, что они взаимодействуют с ботами, а не с людьми.
 
Салман Рушди заметил: "Свободные общества - это общества в движении, а с движением приходит напряжение". Таким образом, хорошее напряжение на фоне цифровой трансформации можно рассматривать как особенность, а не как ошибку. Вместо того чтобы без напряжения использовать информационную асимметрию алгоритмов, стремитесь к совместному с клиентами созданию опыта, чтобы делиться ценностью с человеком и служить ему в первую очередь. Фирмы, которые при применении машинного обучения будут учитывать интересы клиентов, приблизятся к достижению "ответственного ИИ". Пришло время рассматривать напряжение не как нечто, что нужно искоренить, а как инструмент, который, при эффективном использовании, может разжечь огонь расширения возможностей и самостоятельности, а также удобства. Это приведет к тому, что ваша компания станет не только "клиентоориентированной", но и человекоориентированной.