Уход Джейкоба Коксона из Anthropic стал переломным моментом в обсуждении рисков искусственного интеллекта. Об этом пишет автор колонки The Guardian Дэвид Крюгер, комментируя ситуацию в сфере разработки ИИ.
По словам Коксона, компании в сфере ИИ долгое время шли по грани, рискуя жизнями миллионов людей, и шансы на благополучный исход невелики. Его решение уйти из Anthropic привлекло широкое внимание к проблеме контроля над системами ИИ.
В ответ на нарастающие опасности генеральный директор Anthropic Дарио Амодей представил предложение о замедлении развития передовых моделей на один-два года. Цель — дать время для существенного прогресса в области технической безопасности. Идею поддержали Сэм Альтман и Илон Маск.
Однако, по мнению Крюгера, замедление не решает ключевого вопроса. Он подчёркивает: человечество до сих пор не знает, как удерживать контроль над такими системами, и пауза в разработке не гарантирует, что ИИ не приведёт к гибели людей. «Нам нужен план, в котором мы уверены, что ИИ не уничтожит нас, — пишет автор, — и этого предложения таким планом не является».
Крюгер не отрицает, что определённые меры предосторожности могут помочь, но настаивает: простое замедление темпов разработки не устраняет фундаментальный риск потери контроля над ИИ-системами. Вопрос безопасности требует более конкретных решений, чем добровольная пауза.
