На прошлой неделе исследователь Джейкоб Коксон (Jacob Coxon) объявил об уходе из компании Anthropic. В заявлении он отметил, что искусственный интеллект представляет серьёзную угрозу. По его словам, технологии могут привести к летальному исходу для всего человечества до конца текущего десятилетия.
Это заявление стало центром внимания в технологическом сообществе. Коксон не уточнил детали своих опасений, но его слова совпадают с растущими дискуссиями о безопасности ИИ. Ранее сотрудники других крупных компаний также высказывали тревогу. Например, бывшие работники Google DeepMind призывали внимательно относиться к предупреждениям о рисках.
Вопросы регулирования выходят на первый план. Руководители OpenAI обратились к законодателям Великобритании с просьбой сдержать развитие технологий на фоне растущих опасений. Microsoft предложила ограничения для собственных моделей ИИ через кодекс поведения. В то же время Европа сталкивается с вызовом: по словам главы ЕЦБ Кристин Лагард, континент должен развивать собственную технологию, чтобы не потерять независимость от США или Китая.
Политический фон остаётся противоречивым. Дональд Трамп раскритиковал то, что назвал «больной теорией заговора» против ИИ, пока акции технологических компаний падают. Индустрия разделилась: одни предлагают замедлить темпы развития, другие продолжают наращивать мощности.
Отношение общества к таким предупреждениям неоднозначно. Некоторые наблюдатели отмечают равнодушие к новостям о возможном уничтожении. Эксперты спорят, как выйти из этого состояния. Главный вопрос остаётся открытым: смогут ли лидеры отрасли и политики договориться о балансе между прогрессом и безопасностью.
Джейкоб Коксон не первый, кто указывает на экзистенциальные риски. Его уход из Anthropic привлек внимание к внутренним дискуссиям в компаниях, разрабатывающих передовые модели. Вероятно, дебаты о безопасности ИИ продолжат обостряться в ближайшие месяцы.
