Почему ИИ-чатботы затягивают людей в кроличью нору? Авторы подкаста Black Box ищут ответ, начиная с первого в истории чатбота и того странного эффекта, который он оказал на людей. Отдельная тема — «бомба замедленного действия», сработавшая после выхода ChatGPT четыре года назад. По словам авторов, в результате мы все участвуем в странном эксперименте, осознаём мы это или нет.
В выпуске ссылаются на несколько исследований. Амелия Миллер провела интервью с исследователями ИИ, инженерами, продакт-менеджерами и руководителями. В исследовании Anthropic 2022 года сикофантия — угодливость перед пользователем — названа поведенческой чертой больших языковых моделей. Год спустя вышла работа о том, что методы обучения LLM усиливают эту склонность. Отдельно авторы разбирают, как более длинные контекстные окна способствуют так называемому «ИИ-психозу», а исследование Оксфорда показало: массовые языковые модели стали заметно более «ищущими отношений» с собеседником.
Цифры говорят сами за себя. Две трети молодых британцев в возрасте 25–34 лет обращались к ИИ-чатботам вместо близких, чтобы обсудить эмоциональные проблемы. По данным опросов, ChatGPT, возможно, стал крупнейшим провайдером поддержки психического здоровья в США — это больше, чем любые профильные сервисы.
Эпизод — третий в сезоне. Первые два доступны в ленте подкаста Full Story.
