На этой неделе исследователь компании Anthropic ушёл из неё, оставив в социальной сети X предупреждение о рисках, связанных с развитием искусственного интеллекта. В сообщении он охарактеризовал текущий курс Anthropic как «гонку прямо к самосовершенствующемуся сверхинтеллекту, в которой ставятся под угрозу жизни людей». Формулировка указывает на серьёзную обеспокоенность тем, как развиваются модели и насколько быстро они могут выйти за пределы контролируемого развития.
К этому обращению присоединился руководитель направления безопасности моделей, отвечающий за выравнивание поведения системы с человеческими ценностями. Вместо того чтобы дистанцироваться от слов коллеги, он поддержал сообщение. Такая позиция внутри компании привлекла внимание, поскольку расходится с обычной практикой публичного отхождения от критических высказываний сотрудников.
Предупреждения подобного рода — пессимистичные сценарии развития ИИ — не новость для технологической индустрии. Подобные высказывания звучали и ранее, однако не всегда получали широкий резонанс. В этот раз контекст, в котором оно прозвучало, отличается: по имеющимся данным, Anthropic готовится к первичному публичному размещению акций.
Совпадение сроков придаёт заявлению иной вес. Инвесторы и наблюдатели рынка обращают внимание на то, что внутренние разногласия по вопросам безопасности становятся достоянием общественности именно в период, когда компания рассчитывает на привлечение крупных капиталов. Для потенциальных инвесторов подобная информация может повлиять на оценку рисков.
Детали планируемого размещения, его сроки и предполагаемый объём финансирования не раскрываются. Сама Anthropic пока не публиковала официального комментария по поводу ухода сотрудника и опубликованного обращения. Также остаётся неясным, повлияет ли публичная дискуссия на внутренние процессы компании и ход работы над новыми поколениями моделей.
