Чем опасны голосовые помощники. Кейсы, когда компании пожалели о внедрении ПО и как не допустить их ошибок

Сегодняшние голосовые помощники уже практически неотличимы от «живых» людей: как минимум по первым фразам не всегда можно определить, кто находится на другом конце провода. По интонации и логике ведения диалога роботы не уступают «живым» сотрудникам кол-центров. И все же одной такой прокачки голосовых помощников недостаточно, чтобы они приносили бизнесу исключительно пользу. Почему компании терпят удары по репутации, а то и теряют деньги, внедряя голосовые ИИ-решения, и как избежать распространенных ошибок, рассказал Сергей Путченко, руководитель группы развития бизнеса облачной платформы Voximplant.

1. Робот слишком бездушный

Российский сервис по заказу пиццы внедрил голосового помощника, который консультировал клиентов по ценам и составу блюда, мог подобрать пиццу и другие блюда по заданным параметрам, зафиксировать адрес доставки. Все это вполне рутинные задачи, которые действительно можно смело отдавать боту, мышление живого человека в них нужно редко. Однако клиенты все равно постоянно просили переключить на оператора. Главная причина — потому что роботы были с «машинным» голосом.

Сегодня эта проблема встречается реже, чем 5 лет назад: но она еще не ушла окончательно в прошлое. Человек хочет общаться с человеком, пусть даже на том конце — лишь имитация. Важно заботиться о том, как клиент воспринимает голосового бота. Так что стоит его озвучить голосом живого человека. Здесь важную роль играет модель общения «человек-человек» с клиентом – услышать голос живого человека хоть и в записи намного приятнее, чем скрипучие звуки бота. Более того, если голосовой помощник разговаривает как Google-переводчик, не может уловить контекст и сыпется при перестановке слов даже в типовых фразах - это не помощник, а настоящий вредитель. 

Помочь в такой ситуации может синтез речи, который обеспечит ощущение общения с живым человеком. Синтезировать голос можно с помощью диктора, однако, такой подход позволит добиться естественности звучания лишь на 50%. Второй способ – создать собственный голос или выбрать из предложенных провайдером синтеза. Это позволяет боту добиться более плавных интонаций, управлять скоростью речи и даже проявлять эмоции.

2. ИИ теряется в человеческой речи

В языковой онлайн-школе проводили тесты автоматизации обзвонов для записавшихся на бесплатное вводное занятие. Задача простая: надо узнать у клиента, придет он или нет. На разные варианты ответа — разные скрипты дальнейшего диалога у робота. Виртуальный помощник получил голос реальной сотрудницы, так что клиенты на звонок отвечали и вступали в разговор, не сразу понимая, что это робот. Однако, считая, что на другом конце — человек, они далеко не всегда отвечали четкими и понятными машине фразами-командами. Робот путался, выдавал себя, клиенты просили перевести на оператора.

Несмотря на то, что человек не очень хочет общаться с машиной, обманывать его тоже не стоит. Недопонимание может стать критичным, так что будет не лишним в начале разговора сказать, что на связи — робот или голосовой помощник. Также нужно настроить ИИ-ассистента так, чтобы он просил человека четко формулировать запрос или вопросы. В подобных ситуациях неизбежно использование технологий машинного обучения и NLU-технологии (технологии распознавания естественного языка), которые позволяют боту обучаться на диалогах с пользователями в автоматическом режиме. Чем больше диалогов, тем умнее становится бот. 

В процессе общения «умный» бот действует как человек — соотносит фразу с образцами, которые уже видел и на основе которых проходил обучение, выделяя наиболее подходящую по смыслу. Боты мыслят классами и соотносят каждый новый запрос с одним из них. Классы в свою очередь формируются в зависимости от сферы применения бота: доставка продуктов, запись на урок, бронирование отеля и многое другое.

3. Перебор с попытками в человечность

Иногда стремление компании сделать голосового помощника слишком человечным, уметь иронично общаться и создавать неформальную атмосферу, приводит к неприятным ситуациям. Таких кейсов немало: например, бот одного из крупных российских банков на жалобу клиентки о неработающем сервисе входа по отпечатку пальца ответил буквально «Пальцы бы вам отрезать». Нейросеть попыталась пошутить, но юмор вышел черным.

Ошибка объяснялась «молодостью» ИИ-помощника — он только-только запустился, обучался на диалогах из открытых источников в интернете, поэтому его «заносило». Подобные проколы на ранней стадии развития нейросети случаются нередко. Главное, чтобы со временем они сходили на нет.

Юмор и элементы живого общения — это неплохо. Но от ИИ-помощников в приложениях от банка или ретейла или при звонке в компанию в первую очередь хотят помощи, а не дружеской беседы, как с Алисой или Siri. Поэтому бизнесу нужно искать разумный баланс между человеческими реакциями робота и уходом в неформальное общение. 

Если посмотреть на такого бота со стороны бизнеса, надо понимать, что цена разработки и поддержки подобного помощника в несколько раз выше, чем распознающего лишь односложные «да-нет» ответы. «Недалекий» бот больше сконцентрирован на закрытии конкретных нужд клиентов и определенных бизнес-задач. Поэтому, если ваша главная цель – обслуживание пользователей, а не развлечение, лучше сделайте бота глупее, но эффективнее. Можно сделать идеального бота, постоянно оттачивая его, а можно сделать «обычного» бота, который сможет закрывать потребности клиентов, делая их счастливыми. 

4. Недостаточный уровень безопасности

Активная цифровизация финтех-отрасли привела к тому, что в банках стали появляться голосовые помощники — как для автоматического обзвона клиентов, так и в пользовательских приложениях. Они консультируют по продуктам банка, помогают решить оперативные вопросы вроде блокировки карты и так далее. Это удобно, но, как оказалось, не всегда безопасно.

Клиенты одного из крупных российских банков пожаловались на голосового ассистента, который по запросу моментально называет 4 последние цифры номера банковской карты и остаток на счете. ИИ определяет клиента исключительно по номеру телефона, с которого идет звонок, и сразу обращается по имени-отчеству. Ни кодовое слово, ни какие-либо другие данные для проверки личности он не уточняет. Достаточно произнести «баланс», и голосовой ассистент говорит, сколько осталось денег.

Проблема в том, что мошенники могут звонить в банк с подменой номера телефона, и им ничто не мешает получить нужные данные о карте и счете. Масштабного скандала не случилось, но были единичные жалобы от россиян на такие ситуации.

Банкам и финансовым организациям, которые внедряют голосовых помощников для клиентов, нужно очень аккуратно подходить к вопросам безопасности. В частности, следует усиливать систему проверки: одного только определения номера телефона мало. На сегодняшний день рынок предлагает множество верификационных решений - идентификацию по голосу, по личному коду и так далее.  Технологии искусственного интеллекта также способны отслеживать и анализировать действия пользователей в режиме реального времени. Если будет замечена хотя бы слегка нетипичная ситуация, система молниеносно сработает и применяет один из сценариев защиты. Алгоритмы принимают во внимание как геопозицию пользователя, так и учитывают такую рабочие часы финансовых организаций и т.д.Более того, результат работы моделей ИИ зависит от объема данных из различных, в том числе внешних, источников. Необходимо особенно трепетно проверять источники (желательно использовать только модерируемые) данных, иначе вы не сможете контролировать модель, если не будете знать, куда может зайти диалог. При правильно использовании технологии, ИИ не только снижает затраты, но и значительно улучшает отношения с клиентами.