Неделя в сфере искусственного интеллекта началась с повседневных восторгов и закончилась тревожными предупреждениями. Семь дней назад энтузиасты активно тестировали новейшую модель OpenAI GPT-6 Astra, которую продвигали как помощника для бытовых задач — от бронирования кортов до заказа еды. К среде повестка резко сместилась: увольняющийся исследователь Anthropic Джейкоб Коксон заявил, что люди, создающие ИИ, «искренне верят, что технология может уничтожить всех к концу десятилетия».
Коксон говорил о гипотетическом искусственном сверхинтеллекте — версии системы, которая превосходит человека в большинстве областей и пока не существует. Тем не менее его слова, подкреплённые рядом аналогичных заявлений других экспертов, вызвали широкую настороженность.
Предупреждения инсайдеров о том, что передовые системы ИИ несут экзистенциальную угрозу для человечества, стали отправной точкой для публичной дискуссии о безопасности. Руководство Anthropic выдвинуло план по усилению мер предосторожности, однако отклик оказался преимущественно негативным.
Критики усматривают в инициативе несвоевременность и избирательность. Сэм Альтман, глава OpenAI, и Илон Маск выступили в поддержку замедления того, что они назвали «безрассудной» разработкой ИИ. Позицию поддержала и администрация Трампа. При этом многие наблюдатели воспринимают призывы к сдержанности с подозрением: по их мнению, объявление о рисках последовало слишком поздно, а сами предложения лишены конкретных механизмов контроля.
