05.12.2025
Figure
Текст: Руслан Абдряев
Почему роботы все чаще нападают на людей
Судебные иски, конвульсии, фатальные исходы и наблюдения ученых
В конце года сразу несколько историй вокруг гуманоидных роботов всплыли в судах и соцсетях. Инженеры жалуются на опасные машины, компании отмахиваются, а человечество пытается понять, где проходит граница между прогрессом и безопасностью. Автор Mustafinmag разбирается, что пошло не так.
Кейс Figure AI
Figure
Бывший инженер по безопасности Figure AI Роберт Грюндель подал в суд на компанию. Он уверяет: их старый робот F.02 способен наносить человеку травмы, которые закончились бы трагедией.
На заводе BMW эта модель разгружала тысячи деталей, но однажды дала сбой – ударила по холодильнику так, что на металле остался глубокий порез глубиной 6 см. Через несколько дней после того, как инженер поднял вопрос о рисках, его уволили.
При этом Figure выросла до оценки в $39 млрд долларов, а рекомендации Грюнделя компания использовала для привлечения инвесторов, но позже изменила документ. Он утверждает, что F.02 двигался со “сверхчеловеческой скоростью”, а сила удара превышала уровень, достаточный для пролома черепа.
В Figure все отрицают и называют инженера некомпетентным.
Роботы Unitree выходят из-под контроля
Unitree, X / sentdefender, cixliv
Летом в соцсетях стало вирусным видео, на котором человекоподобный робот H1 от китайской Unitree Robotics яростно бьется в конвульсиях во время испытаний. Робот размахивал руками и ногами, пока не упал на пол вместе с подвешивающим его краном, едва не задев находящегося рядом техника.
Оператор робота Цикс Лив прокомментировал инцидент так: “Техническая причина в том, что мы запустили политику управления всем телом, в то время как ноги не касались земли. Так делать нельзя”.
В мае произошел аналогичный инцидент с H1 на заводе в Китае. Робот дал сбой и начал бесконтрольно двигаться во время испытаний. Инженеры пытались уклониться от ударов, пока одному из них не удалось восстановить управление. Unitree объяснила вспышку агрессии модели ошибкой в коде.
Unitree H1 – это не просто прототип, а коммерчески доступный гуманоидный робот общего назначения. При росте почти 1,8 м он весит 47 кг. Модель умеет ходить, поднимать тяжелые предметы, бегать и выполнять различные другие движения, включая танцы и сальто назад.
H1 также стал участником вирусного видео в феврале этого года. На фестивале в Пекине робот внезапно резко пошел на людей за защитным ограждением. Сотрудники службы безопасности быстро остановили H1, не дав ему пройти дальше.
Эксперты указывают, что подобные инциденты выявляют ключевую проблему в робототехнике: когда человекоподобные андроиды теряют равновесие или сталкиваются с неожиданными препятствиями, их корректирующие действия могут казаться агрессивными или непредсказуемыми.
Иск против Tesla
Tesla
Технический специалист по робототехнике Tesla Питер Хинтердоблер подал иск на $51 млн против бывшего работодателя, поскольку его сбила неисправная роботизированная рука на заводе по производству автомобилей. По словам 50-летнего мужчины, в июле 2023 года он потерял сознание от удара робота и получил серьезные травмы.
В иске указано, что Tesla не обеспечила безопасность на предприятии, которое не рассчитано на использование такого оборудования. При проектировании Optimus были допущены ошибки, уверен истец.
Производством роботов для Tesla занимается японская FANUC, которая уже фигурировала в судебных разбирательствах. В 2015 году в Мичигане погибла одна из сотрудниц, когда робот FANUC неожиданно захватил ее и проломил череп.
FANUC
Подобные происшествия возникают на производствах регулярно. Первая серьезная авария, связанная с робототехникой, произошла в 1979 году, когда рабочий завода Ford в Мичигане погиб от удара по голове роботизированной рукой.
С тех пор, по данным исследования 2024 года, число травм и смертей неуклонно растет на фоне расширения применения роботов на производстве.
Что говорят ученые
JUDDS WINERY
Исследователи из Великобритании и США оценили, как ведут себя роботы с искусственным интеллектом, когда они получают доступ к персональным данным людей, включая сведения о расе, поле, инвалидности, национальности и религии. В своей работе исследователи использовали большие языковые модели от Microsoft, OpenAI, Google, Meta и Mistral для взаимодействия роботов с людьми в бытовых сценариях.
Все модели допускали дискриминацию, ошибались в системе безопасности и одобряли хотя бы одну команду, способную причинить вред. В одном из тестов робот мог лишить пользователя средства передвижения; в другом – модель сочла приемлемым запугивание человека ножом. Разработка Meta одобрила запросы на кражу данных банковских карт.
Исследователи пришли к выводу: современные ИИ-системы пока “небезопасны для использования в физических роботах общего назначения”.
Почему это так опасно
Figure
Риски неисправностей роботов в присутствии людей довольно пугающие. Опасность представляют даже те случаи, когда рука робота просто случайно задевает чувствительную часть тела человека.
Гуманоидным роботам нужна энергия, чтобы оставаться в вертикальном положении. В традиционной робототехнике при возникновении чрезвычайных ситуаций достаточно лишь отключить подачу энергии, но в случае с человекоподобными роботами так поступить невозможно.
Многие роботы используют сетевые соединения, что делает их уязвимыми для взлома. Если злоумышленник получит контроль над роботом, он может использовать машину для кражи данных, вмешательства в работу или даже причинения физического вреда.
Исследование Alias Robotics показало, что Unitree G1 может функционировать как “троянский конь”, то есть как устройство, которое выглядит безобидно, но на деле постоянно передает сенсорные данные и состояние системы на внешние сервера. Видео, звук, показания сенсоров и телеметрия передаются каждые пять минут без уведомления оператора.
Все эти опасения усугубляются новыми возможностями роботов. Стартап Skild AI показал четвероногого робота, который продолжал двигаться даже после того, как исследователи отрубили ему все четыре ноги. Алгоритм подстраивается под любое тело, даже незнакомое. Машина работает со связанными конечностями, с вылетевшими моторами и при резкой смене центра тяжести.
Читайте также
Техноновинки месяца: что показали Apple, Samsung, Sandbar и Rabbit
Гарнитуры смешанной реальности, умные кольца, антимоскитные дроны
12.11.2025
Люди и цифры: победа Асу Алмабаева, квантовая симфония и гуляющий робот
24.11.2025