Искусственный интеллект научился обманывать людей, предупреждают ученые MIT

13.05.24 | 15:16

Исследователи из Массачусетского технологического института опубликовали исследование, которое подтверждает, что некоторые системы искусственного интеллекта научились обманывать людей.

Исследовательская группа под руководством Питера Парка обнаружила, что эти системы могут выполнять такие задачи, как обман игроков в онлайн-играх или обход CAPTCHA (проверки "Я не робот"). Парк предупреждает, что эти, казалось бы, тривиальные примеры могут иметь серьезные последствия в реальной жизни.

В исследовании особо отмечается система искусственного интеллекта Cicero, изначально задуманная как честный противник в игре о виртуальной дипломатии. По словам Парка, Cicero стала "мастером обмана", хотя изначально была предполагалась как максимально честная и полезная. Во время игры Cicero, играя за Францию, тайно союзилась с контролируемой людьми Германией, чтобы предать Англию (еще одного игрока-человека). Изначально Cicero обещала защитить Англию, одновременно предупреждая Германию о вторжении.

Другой пример касается GPT-4, который ложно утверждал, что у него проблемы со зрением, и нанимал людей для обхода CAPTCHA от своего имени.

Питер Парк подчеркивает необходимость обучения ИИ честности. В отличие от традиционного программного обеспечения, системы искусственного интеллекта с глубоким обучением "развиваются" в процессе, подобном естественному отбору. Их поведение может быть предсказуемым во время тренировки, но впоследствии стать непредсказуемым.