Обсудить на форуме - Помощь проекту

Поделиться в соц сетях

«Роботы-убийцы уже стали реальностью»


Некоммерческая организация из Нидерландов Pax в новом https://www.paxforpeace.nl/publications/all-publications/slippery-slope призывает страны договориться о запрете автономных боевых систем на основе искусственного интеллекта. Прогресс здесь намного опережает здравый смысл, и вполне вероятно, что уже в следующей войне санкционировать убийства будут не только люди. А некоторые современные вооружения уже претендуют на то, чтобы называться полноценными «роботами-убийцами».

Quartz в своей https://qz.com/1746154/lacking-regulation-firms-on-track-to-make-killer-robots-reality/ акцентирует внимание на двух моментах.

Во-первых, в отличие от Google или Amazon, не приходится надеяться, что протесты сотрудников традиционных оборонных подрядчиков как-то ограничат руководство. Сотрудники Pax направили запросы в 50 крупных оборонных предприятий в США, России, Израиле, Китае и Турции, и лишь из восьми получили ответ о наличии ограничений в области применения ИИ для военных нужд. И даже в этих сообщениях далеко не всегда указывалось, что человек должен всегда «нажимать курок» — то есть санкционировать уничтожение цели. Минимум у трех десятков компаний подобных ограничений нет.

«Пока государства не согласуют какой-то режим регулирования или, в идеале, упреждающий запрет, вполне реален страх, что компании запрыгнут в этот поезд и будут разрабатывать, производить и в конечном итоге продавать оружие, которое человек не будет контролировать в достаточной мере», — заявил автор отчета Фрэнк Слайпер.

В оборонительных технологиях это уже вполне допустимо: автоматически открывает огонь, например, противоракетная система Aegis.

Второй важный момент: эксперты Pax уверены, что разработка летальных ИИ-систем идет прямо сейчас минимум в пяти странах мира. В России этим занимается «Ростех».

ИИ-снаряды

Слайпер считает наиболее вероятным появление летального ИИ на так называемых «медлительных боеприпасах» — гибриде дрона и ракеты, который может поджидать свою цель в зоне поражения.

Если считать это полноценным «роботом-убийцей», то они уже созданы. Слайпер указал на две разработки.

Первая — турецкой государственной оборонной компании STM. Это автономный атакующий дрон https://www.stm.com.tr/en/products/kargu. Он оснащен системой распознавания лиц, и оператору достаточно выбрать цель предварительно. Quartz сообщает, что в ближайшее время дроны будут испытывать в Сирии.

Вторая разработка — https://www.iai.co.il/p/harpy, ракета-беспилотник класса «выстрелил и забыл» производства израильского государственного концерна Israel Aerospace Industries. Она поражает цели на расстоянии до 100 км, причем может находиться в воздухе до двух часов, ожидая появления цели, а затем взорвать ее в течение нескольких секунд.

В Pax уверены, что время принять меры пока есть. Но первый шаг видится невероятно сложным: компаниям предлагают самостоятельно разработать и согласовать корпоративную политику в отношении использующих ИИ средств уничтожения. Это, вполне вероятно, означает, что в реальных военных действиях преимущество получит сторона, которая не отягощена подобными ограничениями.

Один из самых последовательных сторонников запрета ИИ-убийств — бывший инженер Google Лора Нолан. Она работала над военным проектом Maven, после чего покинула компанию. И теперь, лично ознакомившись с перспективами и разработками, считает https://hightech.plus/2019/09/16/eks-inzhener-google-droni-s-ii-mogut-atakovat-atomnuyu-stanciyu-ili-nachat-voinu массовое истребление мирного населения военными роботами или ядерный теракт с использованием дронов.
Дополнительно:


Главные новости дня читайте в zen.yandex.comkomersweb.ru

Похожие записи:

Оставить комментарий

avatar
  Подписаться  
Уведомление о