ИИ скоро сможет улучшать сам себя без людей

[XenBaza]

Скайнет на пороге: ИИ скоро сможет улучшать сам себя без людей. Искусственный интеллект развивается настолько быстро, что уже через пару лет модели смогут дорабатывать и обучать без участия человека.

В Anthropic уже паникуют: индустрия слишком быстро несётся к моменту, когда модели начнут самостоятельно создавать более сильные версии себя.

Вкратце рассказываем, чего боятся передовые разрабы:

Главный риск: ИИ сможет самостоятельно создавать и обучать свои следующие поколения без помощи людей.

Сейчас у технологических гигантов есть только «педаль газа», а механизма экстренной остановки на случай, если ситуация выйдет из-под контроля, до сих пор не существует.

Сооснователь Anthropic Джек Кларк сравнивает текущую ситуацию с гонкой вооружений. Он призывает крупнейших игроков рынка, включая OpenAI и SpaceX, объединиться и заморозить или замедлить разработку передовых моделей.

В противном случае человечеству придется столкнуться с «армией ИИ», которые мыслят в разы быстрее людей и действуют полностью автономно.

А вот сейчас стало реально страшно