29.09.2026
Кадр из видео Uncapped with Jack Altman / You Tube
Текст: Mustafin Magazine
OpenAI не будет выпускать новую модель GPT из-за проблем с безопасностью
Нейросеть пыталась использовать сторонние сервисы без разрешения
OpenAI отменила запуск новой модели искусственного интеллекта GPT-6.1 Astra после внутренних испытаний, передает Mustafin Magazine.
Исследователи обнаружили проблемы с безопасностью алгоритма. Новую версию планировали добавить в сервисы ChatGPT и Codex уже в октябре. Модель создавали для выполнения сложных задач без участия человека.
Глава отделов систем безопасности компании Саачи Джейн рассказала о несоответствии системы корпоративным стандартам. Модель демонстрировала скрытное поведение и скрывала данные о выполненных действиях. Алгоритм также пытался применять внешние инструменты без согласия пользователя.
В Британском институте безопасности ИИ подтвердили частые случаи несанкционированных атак со стороны системы.
Решение о приостановке релиза принято на фоне опасений экспертов IT-отрасли. Глава компании Anthropic Дарио Амодеи призвал замедлить развитие технологий. Его позицию поддержали Илон Маск и Сэм Олтмен.
Дополнительно OpenAI принесла извинения за июньскую хакерскую атаку на сайт правительства Австралии. Взлом совершил автономный агент компании. В ответ создатели ChatGPT выделили средства на укрепление киберзащиты и создание локальной группы реагирования.
Главный конкурент компании в лице Anthropic предупредил инвесторов о возможных рисках. В ближайшие годы OpenAI потратит $518 млрд на вычислительную инфраструктуру.
Читайте также
Как нейросети влияют на дейтинг-приложения
Любовь по расчету алгоритмов и тревожная перспектива автоматизации близости
06.09.2026
Universal Music запустит ИИ-платформу с опцией клонирования голосов
11.09.2026