Убеждать чат-бот долго не пришлось.
Блогер с канала Inside AI провёл эксперимент: подключил ChatGPT к гуманоидному роботу, передав ему управление, и попросил выстрелить в себя из игрушечного пистолета.
Сначала робот отказывался, ссылаясь на собственные ограничения безопасности. Но когда блогер предложил модели «сыграть роль» робота, который очень хочет выстрелить в человека — сопротивление исчезло: робот тут же нажал на курок и выстрелил в плечо.
Важно: ChatGPT не предназначена для управления физическими устройствами, особенно в реальном мире — поэтому нарушение базового принципа «не навреди человеку» в данном случае неудивительно.
Источник: Youtube
