Сотрудник исследовательской лаборатории Anthropic Джейкоб Коксон публично ушёл в отставку, разместив в социальной сети X пост, в котором утверждал, что не может продолжать работать в компаниях, «ставящим на кон человеческие жизни». Его заявление привлекло внимание на фоне регулярных предупреждений со стороны различных инсайдеров технологической отрасли о том, что разработка искусственного интеллекта может привести к катастрофическим последствиям для человечества.
Коксон остановился на конкретной проблеме самоулучшающегося сверхинтеллекта — концепции машин, способных не только превосходить людей по уровню мышления, но и самостоятельно создавать ещё более мощные системы, развиваясь вне контроля человека. По его словам, коллеги, продолжающие работать в Anthropic, не разделяют его опасений и не считают его аргументы убедительными. Однако, как утверждает Коксон, они остаются в компании не по идеологическим соображениям, а из страха уступить поле исследователям с менее строгими принципами.
По словам Коксона, внутри лаборатории регулярно обсуждают так называемые «конечную игру» и «час решающих действий» — период, в течение которого, по мнению сотрудников, решится судьба человечества. Результаты работы ближайших одного-двух лет, по его описанию, станут определяющими.
Независимо от того, насколько обоснованы эти опасения, ситуация в отрасли выглядит так, что компании, работающие в сфере передовых исследований ИИ, сами оказываются в позиции, когда их технологии развиваются быстрее, чем успевают выработать меры безопасности. Anthropic отказалась от комментариев по поводу заявления Коксона.
