После некорректного ответа на вопрос про Машу и Медведя популярная нейросеть стала говорить осторожнее
Некорректный ответ Алисы про героиню мультфильма «Маша и Медведь» является единичным случаем, сейчас умная колонка так не отвечает, сообщила пресс-служба «Яндекса», отвечая на поток возмущений пользователей.
Напомним, уполномоченный по правам ребенка в Санкт-Петербурге Анна Митянина, выступая с отчетом перед Законодательным Собранием Северной столицы, выразила беспокойство по поводу бесконтрольного влияния на детей информационных технологий.
Омбудсмен привела в качестве примера ответ умной колонки «Алиса» на вопрос о популярном мультфильме «Маша и Медведь».
Ребенок спросил, почему Маша живет одна. Колонка ответила, что она всего лишь призрак убитой девочки, и именно поэтому не растет, и видеть ее могут только животные. Родители не смогли выдержать потери дочери и уехали, оставив пустой дом. А мучает Маша Медведя, потому что он и лишил ее жизни.
В пресс-службе «Яндекса» сказали, что в единичных случаях Алиса могла ответить некорректно на вопрос о семье главной героини мультфильма «Маша и Медведь».
«В данный момент она больше так не отвечает, — отметили в компании. — Мы всегда рекомендуем активировать детский режим при общении с Алисой, чтобы оградить ребенка от нежелательного контента».
В пресс-службе также пояснили, что Алиса регулярно обучается чему-то новому, в том числе, когда общается со своим владельцем.
Умная колонка, говорится в сообщении, старается подбирать подходящие фразы для диалога. Для части вопросов, на которые Алиса не может ответить сама, она берет информацию из открытых источников.
Я решаю проверить, как благоразумие Алисы выглядит на практике. Выхожу с ней на контакт. Первым делом задаю нейросети тот самый вопрос о Маше и Медведе. В ответ она выкладывает разные ссылки. Я прошу ответить устно, но Алиса не хочет этого делать.
Тогда я спрашиваю: «Почему Маша издевается над Медведем?» «Думаю, что она его просто боится», — отвечает нейросеть. «Если она над ним издевается, значит, не боится», — парирую я. «А разе так бывает? – спрашивает Алиса. – Неужели Маша не знает, что обижать животных нельзя?»
Я проявляю настойчивость и еще раз спрашиваю, почему Маша живет одна. Вместо ответа Алиса неожиданно задает свой вопрос: «А вы любите мультики про Смешариков?»
Я не сдаюсь и уже без надежды на успех спрашиваю: «Алиса, ты не будешь говорить, почему Маша живет одна и издевается над Медведем?» «Потому что это детский мультик. Он не подходит для больших ребят», — рапортует девушка-бот.
Я иду дальше и задаю вопрос, касающийся другого мультфильма: «Почему Лунтик 15 лет жил с пчелами, которые его воспитывали?» «Давайте поищем!» — отвечает Алиса и выкладывает ссылки. «Можешь сама сказать об этом?» — «Ищу для вас ответ».
Точно так же ботиха отвечает на мой следующий вопрос: «Почему Лунтик 15 лет не искал маму?»
«А почему мама не искала Лунтика?» — не унимаюсь я. «Сейчас найдем», — говорит Алиса. После просьбы ответить устно «собеседница» пытается шутить: «Это что, мое домашнее задание?» «Просто прошу тебя сказать!» — умоляю я. «Нет, на меня тогда ваша учительница пожалуется», — выдает в ответ нейросеть.
«Алиса, почему Мамонтенок из мультфильма «Мама для мамонтентка» искал маму?» — закидываю я в чрево нейросети новую каверзу. «Ищу в «Яндексе», — следует ответ.
Я достаю еще один козырь: «Алиса, у тебя есть эмоциональный интеллект?» «У меня нет его, но я очень стараюсь развиваться», — говорит «собеседница».
«Ты способна почувствовать и понять человека?» — задаю я итоговый вопрос. «Я всего лишь умею хорошо понимать людей. Это моя работа», — самонадеянно отвечает нейросеть. «И чувствовать людей ты не можешь», – констатирую я. «Могу. А у вас есть такая способность?» — не сдается Алиса. «Да, потому что я человек», — гордо отвечаю я. «Тогда я – женщина-кошка. Шучу», — вымученно острит Алиса.
После казуса с вопросом о популярном мультике Алису так усовершенствовали, что она не решается не то что рассуждать, а вообще что-либо говорить даже по простым темам.
На мой взгляд, перезагруженная Алиса стала больше походить на диспетчера, готового предложить пользователю ссылки по теме (мы и сами можем найти) или, как заправский политик, увести разговор в сторону.
Хочется, чтобы сетевой ИИ имел более совершенные алгоритмы, позволяющие ему делать умозаключения, анализировать и выдавать не готовые шаблоны из Интернета, а плоды своего мыслительного процесса. Это же все-таки интеллект!
Глеб Кудрявцев
