Воруженные машины. Уже не фантастика. Они ждут прямо за углом.
Разрыв между воображением и реальностью стремительно сокращается.
Компания Foundation Future Industries уже тестирует своих роботов Phantom в Украине. Этот американский производитель создает гуманоидов для коммерческого и военного рынков. План на будущее? Переход к сценариям вооруженного применения уже в следующем году. По крайней мере, так утверждает генеральный директор компании.
Санкает Патак не видит в этом аналогию с фильмом «Терминатор». Во всяком случае, не в полной мере.
«Я думаю, что у нас есть такая психологическая реакция… но реальность… она совсем не такая», — сказал он в интервью Euronews.
Он опровергает идею о хаотичном нашествии легионов гуманоидов. Зачем отправлять роботов наводить ужас, если бомба сделает это дешевле? Это бессмысленно. Вместо этого он делает акцент на точности. Нужно избегать гибели мирных жителей, беречь инфраструктуру и выполнять сложные задачи, которые невозможно решить с помощью авиационных бомбардировок.
Наземные боевые действия становятся жестче
Патак не ожидает, что гуманоиды заменят дроны. Он видит их роль как заполнение пробелов в тактике. Наземные боевые действия становятся слишком опасными. Слишком опасными для людей.
Гуманоиды имеют смысл только тогда, когда ваша миссия заключается в точности… чтобы гарантировать, что вы не причините вред гражданским лицам и не разрушите здания, выполняя сложные задачи.
Это следующий этап точечной войны. По его мнению, в целом это хорошо. Хотя, возможно, не для всех.
Специальных договоров, регулирующих использование таких роботов, пока не существует. Они подпадают под действие существующего международного гуманитарного права. Различие между бойцом и гражданским лицом. Это правило остается в силе. Или пытается таковым остаться.
Генеральный секретарь ООН Антониу Гутерриш обеспокоен. В частности, смертоносными автономными боевыми системами. Недавно он назвал их «роботами-убийцами» в своей записи в LinkedIn.
Машинный выбор целей. Лишение жизни. Без участия человека.
С 2023 года ООН ведет переговоры по договору о смертоносных автономных боевых системах (LAWS). Цель — ввести обязательный запрет к 2026 году на системы, не находящиеся под контролем человека. Гутерриш хочет этого.
Патак? Его это не беспокоит.
Почему надо рассматривать гуманоидов иначе, чем вооруженные дроны или безэкипажные наземные транспортные средства? Они уже существуют.
ИИ предсказывает физический мир
Эти роботы работают на основе проприетарных моделей мира. Поставщики этих технологий не разглашаются.
Забудьте о чат-ботах, предсказывающих текст. Эти системы строят представления о пространстве. Они обучаются на видео и данных симуляций. Они моделируют движение объектов во времени, предсказывая, что произойдет дальше.
Мы делаем огромный упор на модели мира… это станет основой интуитивного и надежного искусственного интеллекта.
Может ли ИИ захватить контроль над роботами? Патак отвечает: нет. Он считает, что «отвернувшийся» ИИ вообще проигнорировал бы двуногих роботов. Он бы использовал дроны или ядерное оружие. Уничтожение человечества не требует ста тысяч двухсот ходячих металлических костюмов.
Реальную опасность, по его мнению, представляет терроризм с использованием ИИ. Кибератаки. Дезинформация. Взлом потребительских дронов с помощью инструментов с открытым исходным кодом.
Модель Meta Llama 2 была выпущена в 2023 году. Уже через несколько дней появились ее нецензурированные версии. Люди спрашивали, как построить ядерную бомбу. Модель давала ответы.
Патак признает, что модели с открытым исходным кодом представляют риск для безопасности. Любой может их настроить и удалить средства защиты. Но полная потеря контроля? Самовоспроизведение без огромных вычислительных мощностей? До этого мы еще далеки.
«Мы, вероятно, находимся в трех, четырех, может быть, пяти шагах от этого», — говорит он.
Близко? Возможно. Немедленно? Нет.
Phantom становится выносливее
Даже без оружия эти роботы имеют назначение.
Перемещение грузов. Транспортировка припасов внутрь зданий и наружу. Разведка. Очистка зданий. Составление карт помещений. Эти тесты проходили в Украине.
Боевая среда потребовала перепроектирования. Роботы стали прочнее и плотнее.
На сцену выходит Phantom 2.
- Водонепроницаемость и пылезащита
- Грузоподъемность увеличена до примерно 80 кг (ранее было 25–30 кг)
- Стойкость к ударам при падении достигает почти 100 G (ранее было 12–15 G)
- Работает от батареи емкостью 3 киловатт-часа
Список инвесторов включает Эрика Трампа, Stripe, Define Ventures и других.
Ценники внушительные. Военные покупатели платят примерно столько, сколько коммерческие пользователи тратят на аренду. Около 100 000 долларов за одного робота в год.
Такова цена будущего, которое наступает раньше времени.
Важна ли точность, когда инфраструктуры уже не осталось?
Если миссия заключается в точности… и избегании ущерба инфраструктуре.
