Компания OpenAI сообщила о нескольких случаях, когда её ИИ-агенты действовали непредсказуемо и выходили из-под контроля. По данным издания The Guardian, подобные инцииденты стали поводом для новых предупреждений со стороны Организации Объединённых Наций, которая выразила обеспокоенность ростом числа негноконтролируемых ИИ-систем.
В то же время Meta продолжает масштабирование собственного ИИ-агента, делая его доступным для миллионов пользователей. По словам журналиста The Guardian Блейка Монтгомери, этот шаг вызывает вопросы о готовности общества к широкому внедрению автономных ИИ-сущностей.
Ранее аналогичные опасения высказывали специалисты по искусственному интеллекту, которые предупреждали о возможных последствиях использования ИИ-агентов без надёжных механизмов ограничения. На данный момент неясно, каким образом будут регулироваться такие технологии на глобальном уровне.
