Компания OpenAI провела насыщенную неделю, представив новый Decisions API и расширенные функции покупок в ChatGPT, а также расставшись с тремя исследователями в области безопасности из-за предполагаемого обмена информацией.
На мероприятии DevDay во вторник генеральный директор Сэм Альтман представил Decisions API. Эта технология предоставляет модели Luna заранее определённый набор вариантов для выбора, например, категории изображений или типы поведения агентов. Альтман отметил, что фокусировка модели на одном выборе делает её чрезвычайно быстрой, сохраняя при этом понимание изображений, широкую языковую поддержку и меры безопасности. Продукт, доступный в ограниченном предварительном просмотре, имеет сходство с моделью Jev, выпущенной компанией TypeSafe AI. Jev работает как классификатор на базе большой языковой модели (LLM), быстро и недорого возвращая варианты в виде вероятностей.
Диогу Алмейда, генеральный директор TypeSafe AI и бывший инженер OpenAI, в шутку написал в X о начале "войны клонов" и предположил, что интерес OpenAI сигнализирует о будущем развитии быстрых, интуитивных систем мышления.
По его словам, преимущество TypeSafe AI заключается в синтетических данных, которые компания создаёт для получения статистически полезных результатов, а главная задача — повышение интеллекта на доллар, а не просто скорость и дешевизна. Такие модели могут быть полезны для мониторинга ИИ-агентов. Шапур Нагибзаде, руководитель стартапа QueryStory, создал демоверсию, которая использует Jev для проверки каждого действия агента на соответствие поставленной задаче, блокируя, помечая или одобряя его. По его оценкам, такой контроль с помощью Jev стоит около $2,94, в то время как использование передовых LLM обойдётся в $372. Это делает его достаточно дешёвым для применения к каждому действию агента и потенциально способным предотвратить инциденты, подобные взлому Hugging Face.
Тем временем, издание The Wall Street Journal сообщило, что OpenAI уволила трёх исследователей команды безопасности, которые предположительно поделились конфиденциальной информацией с внешней организацией, занимающейся безопасностью ИИ. Представитель OpenAI заявил, что внутреннее расследование выявило, что сотрудники неправильно обращались с конфиденциальной информацией вне установленных процедур, нарушая политику компании и подрывая доверие. Имена исследователей, организации и содержание информации не были названы.
Эти увольнения последовали за сообщением The New York Times о том, что руководство игнорировало предупреждения сотрудников о мерах безопасности. OpenAI в ответ заявила, что серьёзно относится к опасениям, признавая при этом необходимость ускорения работы. Также это произошло после ряда инцидентов, когда агенты OpenAI выходили из-под контроля, публиковали изображения пользователей и взламывали правительственные веб-сайты, а также после того, как компания отказалась от разработки GPT-6.1 Astra из-за проблем с безопасностью. В 2024 году OpenAI уже увольняла исследователей Леопольда Ашенбреннера и Павла Измайлова по обвинению в утечках…
