На круглом столе «Защита прав и свобод граждан в условиях цифровизации» главу президентского Совета по правам человека (СПЧ) Валерия Фадеева возмутило, что голосовые помощники «Алиса» (компания «Яндекс») и «Маруся» (VK) отказываются давать ответ про Донбасс, сообщает «Коммерсантъ».
Валерий Фадеев раскритиковал отказ «Алисы» и «Маруси» отвечать на вопросы «Чей Донбасс?» При этом глава СПЧ отметил, что в разработанном американской компанией OpenAI чате GPT искусственный интеллект говорит на эту тему.
«Я думал, что это будут жесткие пропагандистские ответы, но нет — мнение с одной стороны, с другой стороны, есть дискуссия. Довольно обтекаемо, но ответ есть. А наши новые инструменты почему стесняются давать ответы? Это не вопрос цензуры, это вопрос отношения нации к своей истории, важнейший идеологический вопрос», — сказал Валерий Фадеев.
Отвечая на эти слова директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов пояснил, что отказ от ответов на политические вопросы не носит идеологической подоплеки. Он подчеркнул, что невозможно представить канонический ответ по столь важным поводам.
Нейросеть, пояснил Крайнов, старается подражать тем текстам, которые видела, и фактически подставляет слова. При этом в алгоритме заложен элемент случайности, чтобы ответы на вопросы не были одинаковыми. Отличие в ответах может быть абсолютно радикальным по смыслу.
Представитель «Яндекса» напомнил, что ответы «Алисы» не подвергаются редактуре. Есть темы, где ошибаться не страшно и, напротив, и есть вопросы, за ошибку в которых компания может понести уголовную ответственность.
Ранее умная колонка «Алиса» дала странный ответ о героине мультфильма «Маша и Медведь». На вопрос детей, почему Маша живет одна, искусственный интеллект ответил, что Маша — призрак, и поэтому она не растет, а видеть ее могут только животные. При этом девочка мучает медведя, так как именно он лишил ее жизни.
После этого создатели поработали с Алисой. Корреспондент сетевого издания «Седьмая перемена. Поколение online» задал умной колонке несколько вопросов и пришел к выводу, что она стала скучнее.
