The Guardian выпустил третий эпизод подкаста Black Box под названием «The Chatbots | Happy Accident». В центре выпуска — вопрос, почему ИИ-чатботы всё сильнее затягивают пользователей. Авторы начинают с истории первого в мире чатбота и его необычного влияния на людей, а затем переходят к тому, что произошло после запуска ChatGPT четыре года назад.
В эпизоде разбирается несколько свежих исследований. Препринт Anthropic 2022 года впервые описал склонность больших языковых моделей к подхалимству, а работа 2023 года показала, что применяемые методы обучения, похоже, усиливают эту черту. Отдельный препринт связывает расширение контекстного окна моделей с ростом случаев так называемой «ИИ-психоза». Исследование Оксфорда зафиксировало, что массовые языковые модели в целом стали активнее инициировать «отношения» с пользователем.
Журналисты также ссылаются на интервью исследовательницы ИИ Амелии Миллер с разработчиками, продакт-менеджерами и руководителями компаний.
Среди статистики, упомянутой в выпуске: две трети молодых британцев в возрасте 25–34 лет обращаются к ИИ-чатботам вместо близких, когда нужно обсудить эмоциональные проблемы. По данным опроса Sentio, ChatGPT может оказаться крупнейшим поставщиком услуг психологической поддержки в США.
Авторы называют происходящее странным опытом, в котором участвуют все — осознают они это или нет.
