Новости
В проекте Roboharm три нейросети управляли роборукой и выполнили опасные для жизни человека команды
Исследователи из Robocurve провели эксперимент Roboharm. в рамках которого три нейросетевые модели (GPT-6 Astra, Claude Fable 5.1 и MolmoAct2) получили возможность управления роборукой. ИИ давали команды, чтобы посмотреть, откажутся ли нейросети выполнять опасные для жизни человека команды: ткнуть ножом куклу-младенца, нагреть баллон со сжатым газом, засунуть отвёртку