OpenAI объявил выход GPT-6 Astra, называет её наиболее мощной и противоречивой моделью в истории искусственного интеллекта. Компания заявила, что этот релиз ознаменует появление общего искусственного интеллекта (AGI), однако одновременно подчеркнула необходимость повышения безопасности. Особое внимание привлекают усиленные способности модели в сфере кибербезопасности и сложность мониторинга её внутреннего логического процесса.
Анонс GPT-6 Astra был сделан в контексте декларирования достижений компании в области моделирования и автоматизации. По данным OpenAI, модель демонстрирует значительный прирост производительности при выполнении задач, связанных с анализом угроз и предложением мер защиты. Однако эксперты по безопасности интеллектуальных систем выразили опасения относительно того, что более сложная архитектура модели может усложнить отслеживание её действий и повысит риски непредсказуемого поведения.
Компания подчеркнула, что вся модель прошла тестирование и включает дополнительные слои контроля, призванные минимизировать потенциальные риски. При этом открытый доступ к исследовательским материалам позволит другим командам проводить независимую проверку результатов. Ожидается, что дальнейшие обновления будут направлены на улучшение механизмов аудита и повышение прозрачности в процессе принятия решений моделью.
Ответственность OpenAI заключается в том, что компания работает над обеспечением безопасности своих разработок, при этом признавая необходимость продолжения долгосрочного исследования возможностей и ограничений AI-технологий.
