НКО «Институт "Будущее жизни"» выступает с открытым письмом, в котором призывает ввести мораторий на разработку и создание сверхинтеллекта (AGI). Этот искусственный интеллект должен быть способен превзойти человека в решении любых задач.
Более 37 тысяч человек поддержали эту инициативу, среди которых были сооснователь компании Apple Стив Возняк, соучредитель Stability AI Эмад Мостак, бывший президент Baidu Я-Цинь Чжан, советник Папы Римского Паоло Бенанти, принц Гарри и Меган Маркл, а также лауреаты премий Тьюринга и Нобелевской. В их числе и Джеффри Хинтон, известный как «крестный отец ИИ».
Авторы отмечают пользу искусственного интеллекта, но опасаются, что сверхразум, вероятно, появится уже через год-два и сможет заменить людей или даже полностью их уничтожить.
Критики обращают внимание на чрезмерно общие формулировки. Они задаются вопросами о том, кто будет ответственен за введение запрета и каким образом будет осуществляться контроль. Также остается неясным, какие конкретные действия будут запрещены, и когда именно будет достигнут «консенсус» и обеспечена всеобщая поддержка.
В марте 2023 года, после выпуска GPT-4, Институт предложил ввести шестимесячный мораторий на создание более мощных ИИ-систем.
