24.02.2025
Фото: Коллаж Mustafin Magazine
Текст: Mustafin Magazine
Чат-бот Grok блокировал данные об Илоне Маске и Дональде Трампе
Сомнительные ответы новой модели становятся предметом обсуждений уже не в первый раз
Как сообщает The Verge, Grok временно скрывал результаты поиска, связанные с утверждениями о том, что Илон Маск и Дональд Трамп распространяют дезинформацию. По словам главы инженерного отдела xAI Игоря Бабушкина, это произошло из-за несанкционированного изменения системных инструкций нейросети.
Все началось, когда пользователи спросили у чат-бота: “Кто является крупнейшим распространителем дезинформации на X?” Они заметили, как Grok избегает ссылок на источники, где утверждается, что Маск и Трамп распространяют ложную информацию.
Бабушкин объяснил, что изменение в системных настройках без одобрения руководства внес бывший сотрудник OpenAI, который теперь работает в компании Маска.
Он также подчеркнул, что системный запрос Grok – внутренние правила, определяющие, как ИИ отвечает на вопросы – является публичным. По словам Бабушкина, сотрудник изменил инструкцию, полагая, что это улучшит работу чат-бота. Однако он утверждает, что это не соответствует ценностям xAI.
Бабушкин – один из первых разработчиков, присоединившихся к команде xAI в 2023 году. До сотрудничества с Маском он работал в других ИИ-компаниях, включая DeepMind и OpenAI.
С момента выхода модели Grok-3 в середине февраля чат-бот уже успел дать несколько проблематичных ответов. Например, что Трамп, Маск и вице-президент Джей Ди Вэнс “наносят наибольший вред Америке”. Позже инженеры xAI вмешались в систему, чтобы предотвратить ответы, в которых говорилось, что Маск и Трамп заслуживают смертной казни.
