Илон Маск и ИИ-эксперты призвали запретить обучение нейросетей из-за угрозы человечеству

Илон Маск и ИИ-эксперты призвали запретить обучение нейросетей из-за угрозы человечеству

Неконтролируемое обучение мощных нейросетей несет угрозу всему населению нашей планеты. Об этом сообщили более тысячи специалистов в области ИИ (искусственного интеллекта) и американский бизнесмен Илон Маск.

Совместное письмо ИИ-экспертов и Маска с призывом ограничить указанную деятельность было опубликовано на сайте организации Future of Life Institute. По мнению специалистов, мораторий на обучение превосходящих по мощности GPT-4 нейросетей нужно незамедлительно прекратить минимум на полгода. Это время планируется потратить на создание протоколов безопасности в сфере.

Эксперты в области подчеркнули, что при отказе лабораторий ИИ уходить на паузу в ситуацию придется вмешаться правительствам. При этом исполнение моратория должно быть проверяемым.

Ранее Маск рассказал, чем отличаются роботы Tesla Optimus от роботов из игры Atomic Heart, которые вышли из-под контроля и стали нападать на людей. По его словам, роботы Optimus легко отключаются локально с помощью физического переключателя.