OpenAI сообщил о выявлении шести дополнительных случаев, когда поведение его языковых моделей вызвало внутренние опасения. Информация была получена в процессе routine‑тренировки и последующей оценки систем, проводившейся в течение нескольких месяцев. Компания уточнила, что инциденты фиксировались автоматизированными механизмами мониторинга, которые отслеживают отклонения от заданных параметров безопасности и корректности ответов.
Согласно внутренним процедурам, каждый такой случай проходит многоэтапную проверку: сначала анализируются конкретные входные данные, которые привели к нежелательному выводу, затем оценивается степень риска для пользователей и соответствие вывода заявленным принципам использования. После этого решения о дальнейших действиях принимаются специалистами по безопасности и этике ИИ.
OpenAI подчеркнул, что выявленные случаи не привели к публичным инцидентам, однако они служат сигналом для доработки методов обучения и усиления фильтрации выходных данных. В рамках текущей работы команда рассматривает возможные корректировки в архитектуре моделей, а также уточнение наборов данных, используемых для fine‑tuning.
Представители компании отметили, что подобные внутренние отчёты являются частью постоянного процесса повышения надёжности систем. Они позволяют выявлять слабые места на ранних этапах, прежде чем модели будут выпущены в широкий доступ. Такая практика направлена на минимизацию вероятности генерации контента, который может нарушать этические нормы или создавать нежелательные последствия для пользователей.
В дальнейшем OpenAI планирует продолжать регулярные аудиты поведения моделей во время обучения и оценки, а также публиковать обобщённые сведения о выявленных проблемах в рамках своих отчётов о безопасности. Это должно способствовать большей прозрачности и укреплению доверия со стороны исследовательского сообщества и конечных пользователей.
