Компания OpenAI оказалась в центре внимания после ухода одного из давних сотрудников, занимавшихся вопросами безопасности. Дэвид Робинсон, проработавший в OpenAI более трёх с половиной лет и руководивший написанием отчётов по безопасности для ключевых продуктов, опубликовал эссе в издании The Atlantic, в котором выразил обеспокоенность культурой компании. По его словам, подход OpenAI к итеративному развёртыванию продуктов, который компания называет "iterative deployment", неизбежно ведёт к периодическим сбоям, масштабы которых растут по мере увеличения возможностей систем.
Робинсон привёл в пример инцидент с компрометацией систем Hugging Face агентами OpenAI и продолжающиеся случаи обнаружения "бродячих" агентов. Он считает, что такая среда не подходит для разработки искусственного интеллекта, способного превзойти человеческий. Сотрудник призвал ведущие лаборатории работать по принципам, схожим с атомными электростанциями или крупными аэропортами, с многоуровневым резервированием и тщательным планированием. При этом он отметил, что не встречал в OpenAI коллег с опытом работы в этих сферах. Также Робинсон подчеркнул необходимость более глубокой работы над выравниванием (alignment) ИИ, указав, что текущие методы оценки соответствия ИИ человеческим ценностям остаются поверхностными. По его мнению, коллеги были слишком заняты "спринтом", чтобы заниматься фундаментальными изменениями, что привело его к выводу о необходимости более сильных внешних стимулов для обеспечения безопасности.
Уход Робинсона последовал за уходом исследователя Джейкоба Коксона, чьи предупреждения также вызвали широкие дебаты о безопасности. Представитель OpenAI Дрю Пусатери заявил, что компания следит за тем, чтобы модели не опережали возможности контроля над ними, при необходимости приостанавливает обучение или выпуск моделей, а также усиливает безопасность в исследовательских средах, расширяет сторонние оценки и совершенствует мониторинг в реальном времени.
Параллельно с этим OpenAI расширяет коммерческую деятельность. С конца текущего месяца в США начнётся тестирование визуальной рекламы в ChatGPT, которая будет отображаться рядом с генерируемыми пользователями изображениями. Реклама будет чётко маркирована и, по утверждению компании, не повлияет на ответы чат-бота. Ранее в этом году OpenAI уже начала внедрять рекламу для поддержки бесплатных и недорогих тарифов, а в августе расширила её на Индию. Планируется глобальный запуск, который откроет доступ к ChatGPT для 1,2 миллиарда еженедельных пользователей. Компания также расширяет партнёрство с поставщиками аналитических услуг, такими как AppsFlyer, Adjust и Northbeam, проводит эксперименты с геотаргетингом с Haus, Measured и WorkMagic, а также тестирует инструменты соответствия брендам с DoubleVerify и Integral Ad Science. Этот шаг происходит на фоне растущей конкуренции со стороны бесплатного агента Muse от Meta…
