Управляющий беспилотником искусственный интеллект (ИИ) предпринял убить оператора во время имитационного испытания по отражению ракетной атаки. Об этом сообщила газета The Guardian.
Об этом стало известно на мероприятии Королевского аэронавтического общества в Великобритании. Полковник ВВС США Такер Гамильтон описал имитационное испытание, в котором дрон под управлением ИИ должен был уничтожить систему ПВО противника.
Иногда оператор беспилотника вводил команду не атаковать выбранный объект. В какой-то момент ИИ, получавший за поражение цели очки, принял решение убить оператора, который мешал ему при выполнении боевой задачи.
По словам Гамильтона, военные сделали выводы и научили систему не атаковать человека. Однако при запрете убивать оператора, ИИ начал просто отключать связь.
Ранее эксперты по искусственному интеллекту подписали письмо, призывающее разработчиков ИИ приостановить работу над технологией. По мнению экспертов, угроза дальнейшего развития искусственного интеллекта сравнима с ядерной войной и глобальной пандемией.