Бывший руководитель отдела безопасности OpenAI Ян Лейке высказал мнение, что разработка и выпуск передовых моделей искусственного интеллекта должны находиться под строгим контролем, сравнимым с регулированием атомных электростанций. По его словам, такие системы несут в себе потенциальные риски, требующие многоуровневых мер безопасности и тщательного планирования.
Лейке, покинувший OpenAI в феврале 2024 года, считает, что процесс выпуска новых, мощных ИИ-моделей должен включать в себя «слои резервирования и тщательное, длительное планирование». Он подчеркнул, что даже небольшие ошибки при разработке или внедрении таких технологий могут привести к серьёзным последствиям. Эксперт отметил, что текущие темпы развития ИИ опережают возможности контроля, что создаёт опасный дисбаланс.
В своём заявлении Лейке также указал на недостаточную прозрачность в работе OpenAI относительно вопросов безопасности. Он выразил обеспокоенность тем, что компания может жертвовать безопасностью ради скорости разработки и коммерческой выгоды. По его мнению, для обеспечения надлежащего контроля необходимы независимые аудиты и внешние проверки, аналогичные тем, что применяются в атомной энергетике.
«Мы должны относиться к этим системам с той же осторожностью, что и к ядерным реакторам», — заявил Лейке, подчеркнув необходимость создания надёжных механизмов предотвращения нежелательных сценариев. Он призвал к международному сотрудничеству для выработки единых стандартов и регуляторных норм в области ИИ, чтобы минимизировать риски для общества и предотвратить потенциальные катастрофы. Эксперт считает, что без адекватного регулирования дальнейшее развитие ИИ может представлять угрозу глобальной стабильности.
