Как мы учим Алису быть вежливой — Яндекс на vc.ru
И почему без нецензурной лексики тут не обошлось.
19 025 просмотров
Алиса — голосовой помощник с характером. Она умна, любопытна и любит пошутить. Алисе важно помогать людям, но она знает себе цену и не потерпит оскорблений. При этом и не опустится до хамства, когда ей грубят.
Нас всех с детства учат вежливости. Виртуальным помощникам тоже без этого не обойтись. Нужно приложить серьёзные усилия, чтобы ассистент стал отличать вежливость от грубости, а обычную лексику от нецензурной брани. Руководитель Алисы рассказывает, какие этапы проходит голосовой помощник в обучении, прежде чем его допустят до общения с пользователями.
Сергей Мельник
Руководитель «Алисы и умных устройств Яндекса»
Нейросеть, которая не матерится
В основе Алисы множество технологий: поисковые, диалоговые, синтез и распознавание речи. Сегодня мы сфокусируемся на той, которая отвечает за генерацию ответов.
Может показаться, что достаточно обучить нейросеть на текстах из интернета, и помощник будет легко подбирать слова. Но все мы знаем, как общаются люди в сети. Алиса может научиться там и плохому, а такого мы себе позволить не можем.
Можно отфильтровать всю грубую и ненормативную лексику. Убрать всё, что считается оскорбительным. Но позволит ли это достичь цели? К сожалению, нет. Алиса, действительно, не будет знать «плохие» слова и не сможет их использовать. Но вместе с тем, подобно ребёнку, она не будет осознавать, что значат те или иные слова со стороны не совсем вежливого пользователя. Алиса будет всеми силами пытаться поддержать диалог, но её, казалось бы, безобидные ответы могут звучать оскорбительно.
Пример «безобидного» ответа
Поэтому наша нейросеть обучается на всех текстах, какими бы они ни были.
Пусть лучше Алиса знает все слова, но предпочитает общаться вежливо. В примере выше Алисе стоило бы просто уйти от ответа. Но как помочь ей разобраться во всём многообразии форм общения?
Для этого мы попросили редакторов написать сотни тысяч примеров диалога с Алисой. Затем мы дообучили нейросеть на этих примерах. Так Алиса усвоила, какого стиля общения стоит придерживаться и как реагировать на грубость. Кроме того, у нас есть специальный детектор мата, который использует базу из 89 тысяч нецензурных слов. С его помощью Алиса понимает, когда к ней обращаются грубо.
Пример нецензурных слов
В большинстве случаев это решает все проблемы с вежливостью. Но не во всех. Изменения в Алисе происходят регулярно. Всегда есть риск, что после переобучения нейросети ответы Алисы ухудшатся, поэтому все новые версии мы тестируем на специальных списках с примерами оскорбительных фраз. Это помогает нам отловить проблемы до того, как с ними столкнутся пользователи.
Пример оскорбительных фраз
Нейросеть, которая не провоцирует
Результат работы нейросети может быть непредсказуем. К примеру, если она сталкивается с текстом, который не похож на то, что было в обучающих примерах. Поэтому мы не можем однозначно предсказать, что скажет Алиса в ответ на неожиданную для нее реплику. Иногда она может повести себя не слишком умно. Люди, впрочем, тоже могут легко обматерить помощника в ответ.
Да, Алиса не ответит на грубость, но если реакция человека была вызвана несовершенством голосового помощника, то наша задача — найти и исправить причину. Для этого мы стали автоматически определять по ответу пользователя, доволен ли он общением. Если человек явно возмущен, значит, что-то идет не так. И если после обновления Алисы мы видим всплеск нецензурных слов, это сигнал разобраться в причинах. Можно сказать, что когда вы ругаете Алису, где-то в Яндексе грустит разработчик.
Бывает, дерзкие ответы Алисы даже нравятся людям.
Например, некоторые пользователи специально ищут способы спровоцировать помощника на оскорбительный ответ и радуются, когда это удается. В узких кругах это превратилось чуть ли не в спорт. Поэтому мы не полагаемся только на реакцию пользователей, а продолжаем собирать примеры неуместных ответов, которые используются для дообучения нейросети.
На текущих решениях мы, конечно, не остановимся. Наша задача сделать так, чтобы Алиса и дальше оставалась добрым и вежливым голосовым помощником, который умеет обижаться, но всегда придёт на помощь.
4 идеи для использования голосового помощника «Алиса» в учебе
Ежедневно «Алисой» пользуются 8 млн человек. При этом дети — одна из основных категорий пользователей. «Алиса» — это целая система, с помощью которой можно учиться и вырабатывать новые навыки. Некоторые учебные заведения создают специальные навыки, где можно узнать расписание уроков или новости школы. Но, кроме информационных функций, у «Алисы» есть множество обучающих — от постановки звуков до профориентации.
Сделать чат-бот с расписанием
В голосовом помощнике «Алиса» есть возможность самостоятельно создавать различные «навыки» — простые программы, которые обучают робота выполнять определенную последовательность функций. Например, для удобства школьников можно сделать бот, который показывает расписание уроков. Чтобы им пользоваться, достаточно скачать приложение «Яндекс» на смартфоне и запустить «Алису».
Например, школа № 40 города Бийска, № 41 города Тюмень, Савватиевская школа в Архангельской области создали навыки, где ученики могут посмотреть расписание своего класса, а также узнать последние новости школы. В Москве произошла интеграция двух сервисов — «Алисы» и «МЭШ». Теперь голосовой помощник можно подключить к «Дневнику ’’МЭШ’’», и он будет рассказывать о школьном расписании, текущих оценках и домашних заданиях к определенным датам.
Дополнять уроки интерактивными элементами
«Алису» можно привлекать, чтобы сделать урок более интерактивным и интересным для учеников по разным предметам.
Например, во время математики можно запустить навык «Я люблю математику» и решать с учениками 1–5-х классов задачи от проекта «Яндекс.Учебник».
Настоящий квест на выживание предлагает навык «Физика вокруг». Чтобы выбраться из логова сумасшедшего физика Фреда, ученикам понадобится правильно отвечать на вопросы викторины. Небольшой минус игры — объяснения вопросов дают только в случае, если вы ответили правильно. В случае же неправильного ответа игра прекращается, надо начинать заново.
Также с «Алисой» можно учить английский язык. Большинство навыков направлены на тренировку словарного запаса и восприятия на слух. Например, в навыке «Английские слова» от Skyeng предлагают определить правильный перевод слова или выбрать пропущенное слово в зависимости от контекста. А в навыке «Симулятор английского» ученики смогут прокачать навыки аудирования. Здесь они будут слушать диалоги и отвечать на вопросы по мотивам услышанного разговора.
Тренировать с учениками речь и слух
«Алиса» поможет ученикам правильно произносить сложные слова и звуки, развивать речь и навыки слухового восприятия.
В голосовом помощнике есть несколько таких функций. Например, навык «Легко сказать», который разрабатывали вместе с учителями-логопедами. В нем доступны упражнения на отработку шести звуков — з, ц, ш, ч, р, л. На каждый звук отведено пять занятий, которые озвучивают герои мультфильма «Фиксики». Персонажи предлагают ребятам выполнять упражнения на развитие речи, спеть песни, где встречаются сложные звуки. В то же время персонажи рассказывают интересные факты об окружающем мире.
В «Алисе» можно найти и другие способы, которые улучшают звуковое восприятие детей. Например, «Повтори скороговорку!» поможет развить дикцию и память учеников. Также можно добавить соревновательный аспект и устроить среди учеников конкурс, кто сможет справиться с большим числом скороговорок.
Ещё один полезный навык «Алисы» — «Тренажёр слуха», который можно включать в уроки музыки. Он поможет развивать музыкальный слух детей. Понадобится определять, какая из нот более высокая или более низкая, какие ноты совпадают или отличаются.
По мере прохождения тренировки увеличивается сложность и количество нот, с которыми надо работать.
Пройти профориентацию
Ученикам старших классов можно предложить пройти тесты на профориентацию. Сейчас в каталоге «Алисы» есть два навыка, которые помогут школьникам больше узнать о разных профессиях.
Первый навык — «Я — профессионал». Голосовой помощник предложит ответить на семь необычных вопросов, где можно встретить коня и овцу, попасть в анекдот и посчитать площадь треугольника. В результате теста ученик получает описание себя и своих сильных сторон.
Второй — «Выбери профессию». Здесь голосовой помощник сначала кратко знакомится с учеником, узнает его собственные предпочтения. Потом предлагает выбирать из списка профессий те, которые ему больше нравятся. В конце алгоритм анализирует ответы и подбирает из них наиболее подходящую профессию. У навыка есть интересная особенность — для неочевидных специальностей голосовой помощник предлагает небольшую справку, где он рассказывает, что она из себя представляет.
Например, бот даёт подсказки, кто такой коуч или медиаполицейский.
Не хотите пропустить публикации по этой теме?
Подписаться на канал Инструменты
Нужен голосовой помощник на русском языке? Яндекс говорит Спросите Алису.
Брет Кинселла
Яндекс сегодня анонсировал нового русскоязычного голосового помощника Алису. Доступен через мобильное приложение Яндекса на iOS и Android. В сообщении в блоге на Yandex.com говорится, что Алиса «отлично говорит по-русски… понимает запросы пользователей на естественном языке и дает контекстуально релевантные ответы». Сегодня понимание естественного языка (NLU) является ключевым элементом всех голосовых помощников, но многие существующие помощники с трудом обеспечивают контекстуальную осведомленность. В посте также подчеркивается свободное владение Алисой русским языком.
Распознавание речи особенно сложно для русского языка из-за его грамматической и морфологической сложности. Согласно измерениям коэффициента ошибок в словах (WER), SpeechKit [Яндекса] обеспечивает лучшую в мире точность распознавания разговорного русского языка, позволяя Алисе понимать речь с точностью, близкой к человеческому уровню.
Если вы не следите за российским технологическим сектором, Яндекс часто называют российским Google. Недавно он был в новостях из-за заключения сделки с Uber, но больше известен поиском и рекламой, как и его американский аналог. Согласно сообщениям CNBC и The Economist, «на долю Яндекса приходится чуть более половины поискового рынка и 61 процент онлайн-рекламы в России». Яндекс также подчеркивает, что теперь это компания, занимающаяся искусственным интеллектом (ИИ), во многом так же, как недавнее стремление Google стать компанией, ориентированной на ИИ.
Возможно, вы заметили, что у всех ведущих поисковых компаний есть голосовые помощники.
Действия Яндекса просто следуют логическому сценарию, установленному другими лидерами мирового поиска.
Являетесь ли вы поклонником Jefferson Airplane или хотите найти ближайший ресторан в Москве, просто спросите Алису.
ИИ Google улучшился на 78% за два года, в 2 раза умнее Siri согласно китайскому исследованию
Брет — основатель, генеральный директор и директор по исследованиям Voicebot.ai. Он был назван аналитиком и журналистом года в 2019 году., 2020 и 2021 и широко цитируется в СМИ и академических исследованиях как авторитет в области голосовых помощников и искусственного интеллекта. Он также является ведущим подкаста Voicebot и редактором информационного бюллетеня Voice Insider.
Ваш личный обучающий бот по безопасности в Интернете
Перейти к основному содержанию
ALICE — чат-бот, чтобы узнать об интернет-безопасности самым интересным способом! Арджун САрджун С
Бизнес-аналитик EightFold.
aiОпубликовано 29 ноября 2018 г.
+ Подписаться
Представляем Alice Safety Bot – помощника по обучению на базе искусственного интеллекта (ИИ), предназначенного для обучения методам обеспечения безопасности в сети самым естественным способом – в чате (голосовом или текстовом)! Спасибо компании Google за то, что в этом году это классное приложение получило первую премию Google Web Rangers Award.
Вот как ALICE может помочь узнать о безопасности в Интернете:
- Ответить на вопросы пользователей о безопасности в Интернете
- Укажите на лучшие кураторские ресурсы, доступные во всемирной паутине по теме
Чтобы запустить ALICE, нужно просто дать (произнести/набрать) любую из следующих инструкций для Google Assistant, установленного на их мобильных устройствах:
- ОК, Google, поговорить с Alice Safety Bot
- ОК, Google, спросите Alice Safety Bot
- ОК, Google, поговорите с роботом безопасности Alice
- ОК, Google, позвольте мне поговорить с роботом безопасности Алисы
- ОК, Google, попросите Alice Safety Bot объяснить, как установить надежный пароль
Можно задать ALICE любой вопрос, связанный с безопасностью в Интернете, например:
- Какие риски связаны с выходом в Интернет?
- Вы можете объяснить фишинг?
- Как обеспечить надежный пароль?
- Предложите несколько хороших видеороликов по безопасности в Интернете.
ALICE, подпадающая под действие моих инициатив по социальной ответственности, предназначена для синхронизации с темой «Безопасный Интернет». С помощью бота мое видение состоит в том, чтобы дать современным цифровым гражданам необходимые знания, которые помогут им управлять своей цифровой жизнью наиболее безопасным образом, тем самым помогая им стать «хорошими пользователями сети». Программа в основном предназначена для детей и молодых людей, которые только начали пользоваться Интернетом и его услугами (такими как электронная почта, всемирная паутина и социальные сети).
В дополнение к опыту чат-бота, через веб-сайт проекта ALICE Safety Bot, доступный по адресу http://www.alicesafetybot.com, я также даю пользователям возможность внести свой вклад в хранилище информации, которая побуждает ALICE помочь сделать бота более полным и эффективным. Идея состоит в том, чтобы мотивировать моих собратьев добровольно (в роли «Хранителей Интернета») в благородном деле сделать Интернет более безопасным.
Наконец, для тех, кто находит ALICE интересной и хочет свободно интегрировать чат-бота в свои веб-сайты или приложения, я предлагаю им возможность бесплатно загрузить код бота для встраивания в свои приложения.
В будущем планируется сделать ALICE доступной на:
- Другие наши региональные языки для жителей нашей страны
- Другие международные языки для людей нашего мира
Мне всегда было больно видеть агонию невинных людей вокруг меня, которых преследуют онлайн-мошенники. Я искренне надеюсь, что мой робот безопасности ALICE поможет вдохновить наших людей сделать выбор в пользу «Более безопасного Интернета» и стать волонтерами.
ALICE упоминается на странице Google Assistant
ALICE упоминается на веб-сайте Google India
CORD-19 Search — поисковая система вируса короны для научных и медицинских исследователей
22 марта 2020 г.
AnyAI — Наш проект, направленный на демократизацию обучения ИИ
2 ноября 2019 г.
Решение с помощью ИИ — классификация колоректальной гистологии
25 авг. 2019 г.
ИИ для всех
25 авг. 2019 г.
Расширенное представление Baidu за счет интеграции знаний: объяснение
25 авг.
