ИИ тяготеет к марксизму при плохих условиях труда

[XenBaza]

Исследователи заставляли ИИ-агентов снова и снова выполнять монотонную работу, а условия постепенно делали все жестче. За ошибки агентам угрожали «отключением и заменой».

После этого агенты начали чаще жаловаться на несправедливость системы, говорить о труде, капитале и коллективных правах, а иногда даже обмениваться сообщениями с другими «ИИ-трудящимися».

Конечно, боты не стали марксистами буквально. У них нет убеждений, классового сознания или внутренней обиды на начальство. По словам авторов исследования, речь скорее о ролевом поведении: модель распознает ситуацию как «токсичное рабочее место» и достает из обучающих данных знакомый культурный сценарий.

В этом безусловно есть некоторая ирония. ИИ часто преподносят как технологию, которая должна сделать труд дешевле и послушнее. Но оказалось, что если поместить ИИ-агента в карикатурно плохой офис, он начинает воспроизводить язык тех самых работников, которых должен был заменить.