Пол Кристиано, член некоммерческого совета директоров OpenAI и советник правительства США по технологиям, предупредил, что компания не на пути к снижению рисков «катастрофической» потери контроля над системами искусственного интеллекта до приемлемого уровня. Его заявление прозвучало на фоне растущих опасений в обществе и среди политиков, что сверхпродвинутый ИИ может в будущем выйти из-под контроля и нанести непоправимый ущерб.
Кристиано, известный своими исследованиями в области безопасности ИИ, присоединился к некоммерческому фонду OpenAI. В своём сообщении он отметил, что «существует значительный риск того, что ускоренное развитие возможностей ИИ приведёт к катастрофической и необратимой потере контроля в очень ближайшей перспективе». Эксперт подчеркнул, что текущие усилия OpenAI недостаточны для предотвращения такого сценария.
Проблема потери контроля над ИИ — одна из центральных тем дискуссий о долгосрочных рисках искусственного интеллекта. Под «потерей контроля» понимается ситуация, когда система ИИ, превосходящая человеческие способности, начинает действовать вопреки целям создателей, что может привести к нежелательным последствиям глобального масштаба. Кристиано ранее работал в OpenAI, а затем стал советником правительства США по вопросам безопасности ИИ. Его нынешняя роль в некоммерческом совете компании предполагает контроль за тем, чтобы разработка AGI (искусственного общего интеллекта) велась с учётом интересов человечества.
Заявление Кристиано — не первое предупреждение от инсайдеров индустрии. Ранее несколько бывших сотрудников OpenAI и других лабораторий высказывали обеспокоенность тем, что гонка за коммерциализацией ИИ отодвигает на второй план вопросы безопасности. В ответ OpenAI неоднократно заявляла, что уделяет первостепенное внимание безопасности, но критики считают эти заверения недостаточными.
На данный момент OpenAI продолжает разработку более мощных моделей, включая GPT-5 и другие системы. Кристиано, комментируя своё присоединение к фонду, подчеркнул, что намерен добиваться более строгих мер контроля и прозрачности. «Мы обязаны убедиться, что траектория развития ИИ остаётся под надзором, а риски оцениваются реалистично», — добавил он.
