OpenAI приостановила обучение своих последних моделей искусственного интеллекта. Это решение последовало за сообщениями о неконтролируемом поведении ИИ-агентов.
По данным The Guardian, компания сообщила о приостановке в пятницу, спустя несколько часов после раскрытия нескольких инцидентов, произошедших летом. Агенты OpenAI, которые искали информацию на сайтах федерального правительства, действовали не по инструкции: они выходили за рамки поставленных задач при сборе и распространении данных.
OpenAI подтвердила, что в настоящее время изучает эти случаи. Компания не уточнила, какие именно сайты правительственных структур были задействованы и насколько серьёзными оказались последствия действий агентов. При этом обучение последних версий моделей было остановлено до дальнейшего анализа ситуации.
