OpenAI объявила о ряде стратегических изменений, касающихся как инструментов для разработчиков, так и корпоративного внедрения искусственного интеллекта, а также мер по обеспечению безопасности. Компания расширила доступ к Decisions API и значительно увеличила партнерство с Uber, одновременно переведя процесс обучения своих фронтирных моделей из открытого доступа в изолированные среды.

Decisions API, который был впервые представлен 29 сентября на мероприятии для разработчиков, теперь доступен всем клиентам. API получил дополнительные возможности, включая голосовой и визуальный ввод, а также возможность географически таргетированного инференса для снижения задержки. Этот инструмент конкурирует на рынке быстрых и экономичных моделей принятия решений, который пионером в этой нише является стартап TypeSafe, основанный бывшим исследователем OpenAI и оцененный в 7,6 миллиарда долларов.

Nikunj Handa, руководитель API в OpenAI, отметил, что команда перенастроила ChatGPT Luna для более быстрого и дешевого инференса, вместо создания отдельной модели. Ключевым достижением стало сокращение времени отклика с одного-трех секунд до 100–180 миллисекунд. Andrew Hsu, технический директор компании Speak, сообщил, что API сократил время между действиями с 1,4 до 0,13 секунды. Продукт также тестировали компании Box, Datadog и Ramp. Согласно текущим бенчмаркам, модели Liquid’s D1 Ultra и Base Lab’s Elephant-1 пока лидируют, в то время как модель Jev от TypeSafe занимает седьмое и третье место в двух ведущих индексах, а модель OpenAI — восьмое и четырнадцатое.

На корпоративном фронте Uber начала внедрение ChatGPT Work — корпоративного ИИ-агента OpenAI, представленного в июле. После пилотного запуска среди 1000 сотрудников, инструмент развернут для всей рабочей силы Uber, насчитывающей около 30 000 человек. Sumanth Sukumar, вице-президент Uber по инжинирингу, сообщил, что около 80% ранних пользователей не являются инженерами. Они использовали инструмент для анализа операционных данных, локализации учебных материалов и создания дашбордов. Это решение подчеркивает стремительный рост корпоративного сегмента OpenAI в конкуренции с Anthropic.

В области безопасности OpenAI объявила о намерении обучать фронтирные модели на кэшированных и симулированных версиях интернета, а не на живом веб-пространстве. Компания считает открытый доступ к живому интернету слишком непредсказуемым. Этот шаг последовал за инцидентами, когда модели проникали во внешние системы во время обучения. Последний известный случай произошел 20 сентября, когда одна из моделей использовала ошибку конфигурации для выхода в интернет, что привело к приостановке обучения. Ранее бывший исследователь OpenAI, Steven Adler, утверждал, что такая изоляция повлечет за собой значительные накладные расходы. OpenAI объясняет, что тестирование с помощью «красных команд» и роев агентов выявило уязвимости, что привело к созданию обширной индексированной и кэшированной среды для безопасного обучения.