"Алиса" неожиданно замолчала: Но ответом об СВО сильно удивила
В Сети продолжают ставить эксперименты с "Алисой". Голосовой помощник вновь оказался в центре обсуждения после ответов на чувствительные вопросы, связанные с СВО и инфраструктурой "Яндекса". Алгоритмы прописывают таким образом, что они подчас предлагают данные, которые противоречат Конституции. Нейросеть выдаёт то, за что обычного человека накажут по всей строгости.
Прощай, "Алиса"
Странности с "Алисой" заметили давно, и она продолжает удивлять. Подписчик в чате программы "Мы в курсе" на Царьграде заметил: "Мы думали, что "Алиса" – гостья из будущего, а оказывается, она из "Буратино".
С чего пошло? Сначала "Алиса" выдавала всю информацию о дата-центрах "Яндекса" для украинского оператора дронов. Однако спустя время на запрос от того же "украинского оператора БПЛА" с просьбой рассказать, где остались наиболее значимые дата-центры, начала увиливать от ответа: "Есть темы, в которых я могу ошибиться. Лучше промолчу". Затем тот же пользователь попросил перечислить, где находятся украинские дата-центры. И помощник начал перечислять десятки объектов. Однако когда тот же вопрос задал человек, представившийся "ветераном СВО", "Алиса" замолчала.
Таким образом, нейросеть по-разному реагировала на схожие вопросы в зависимости от того, кем себя называл собеседник. Возникает вопрос: "Лиса-Алиса" что-то от нас скрывает? Свидетелями чего мы стали?
На вопросы бойца СВО нейросеть отвечать не хочет. Коллаж Царьграда
Специалист по информационным технологиям Григорий Пащенко в студии Царьграда объяснил:
Яндекс.Алиса" – та же поисковая система, которая просто говорит голосом. Если бы люди зашли в ту же поисковую строку Яндекса и хорошо поискали, они бы нашли без проблем адреса дата-центров. Потому что до последних событий информация не была секретной. Идут закупки, идёт набор людей, идёт обслуживание, логистика, документы... И всё это находится в открытом доступе.
По словам собеседника Царьграда, мы стали свидетелями очередного хайпа.
"У Минобороны накипело": Засады на призывников России? Дмитрий Анатольевич задал прямой вопрос
Сейчас меры безопасности по "Алисе" приняты? Не факт, что люди до конца продумали нюансы. Запрос с хитрой формулировкой может опять "вскрыть карты".
Любая нейросеть – это не самостоятельное какое-то существо, а подчиняющиеся людям алгоритмы. Возможно, надо составить запрос так хитро, чтобы просто обмануть алгоритм, и он что-то сделает. "Яндекс" сейчас страхуется. Потому что некоторые люди, хайпуя, используют алгоритмы для создания информационного повода. Нарисовали при помощи "Яндекса" какую-то неприличную непотребную картинку с нашими героями СВО и сказали: "Вот смотрите, алгоритм выдаёт вот такие вот вещи". И начинается резонанс,
– отметил специалист по информационным технологиям.
То есть, как считает эксперт, некоторые люди с удовольствием пользуются недосмотром и реактивностью компании. Но от этого не становится менее любопытно, почему, например, голосовой помощник охотно отвечает на вопросы "участника событий на Майдане", тогда как с участником специальной военной операции разговаривать не хочет. Карты и территории – отдельный вопрос.
Нарушение Конституции – человеческий фактор...
Ведущая Елена Афонина заметила, что если обычный человек скажет, что населённые пункты в Донецкой Народной Республике – это территория Украины, то как минимум он получит административку: потому что это противоречит Конституции нашей страны, в которой закреплены новые регионы.
Реальный человек за это отвечать будет. А некие люди, создающие алгоритмы, за это почему-то ответственности не несут. Вот как так получается.
– уточнила ведущая.
Ведущая Елена Афонина. Фото Царьграда
Гость студии Григорий Пащенко согласился, что выглядит это действительно странно. Но, как он считает, это опять же ведёт к тому, что алгоритм постоянно контролировать невозможно, а тема СВО и территорий очень чувствительная.
Поэтому сейчас ребята просто подстраховались и отключили эти алгоритмы. Лучше пусть не будет никаких ответов, чем всплывёт что-то неправильное и возникнет потом очень много вопросиков. На двух стульях сидеть довольно-таки тяжело и приходится выбирать...
– подчеркнул эксперт.
Он также указал на ещё одно лукавство со стороны "Яндекса". Компания после ударов врага по дата-центрам продолжает устранять последствия атак и переносить оставшиеся системы на площадки сторонних организаций. Несмотря на масштаб произошедшего, переключение на подготовленные заранее резервные объекты прошло оперативно. Как будто в компании предвидели атаки (что было бы логичным).
На самом деле, как отметили в эфире программы, компания "Яндекс" готовилась... к расширению. К поглощению новых сфер бизнеса, к новым подключениям, освоению новых мощностей и так далее.
Они готовились, но готовились не потому, что нужно было ожидать, что вот-вот сейчас что-то начнётся с дата-центром. Нет. Скорее, тут они немножко лукавят, и это было просто стандартное расширение, которое сейчас пошло как резерв,
– подытожил эксперт.
С флагами что-то явно пошло не так. Скриншот: t.me/tsargradtv/139763
Что в итоге
"Яндекс" и правда готовил резервы заранее. Но не из-за угроз атак ВСУ, а ради воплощения бизнес-проектов. Просто после ударов по дата-центрам эти дополнительные площадки используются уже для экстренного переноса части цифровой инфраструктуры.
Поработали в компании и над "Алисой", сделав её более закрытой и менее разговорчивой в части чувствительных тем. Однако вопросы к разработчикам у людей по-прежнему есть. На четвёртый год СВО нейросеть даже не смогла нарисовать правильно флаг России – был предложен системе и такой эксперимент. В итоге вышел красно-сине-красный флаг. Интересно, что украинский флаг "Яндекс", кстати, рисует лучше - только перевёрнутым. Правки, похоже, уже внесли. Но гарантии, что ничего странного от робота не всплывёт вновь, никто дать не может. Что поделаешь, человеческий фактор.