Разработчик в области искусственного интеллекта Джонатан Ллойд опубликовал материал, в котором сравнил современные методы создания ИИ с написанием программ на ассемблере — низкоуровневом языке, требующем от инженера ручного управления памятью, регистрами процессора и каждой инструкцией. По его мнению, отрасль пока работает на «машинном коде»: исследователи вручную подбирают архитектуры, оптимизаторы, функции потерь и гиперпараметры вместо того, чтобы описывать задачу на более абстрактном, декларативном языке.
Ключевая аналогия Ллойда — состояние интернета в 1991 году, до появления Всемирной паутины. К 1991-му существовала развитая сеть TCP/IP, работала электронная почта, существовали списки рассылки и протоколы передача файлов, однако обычный человек не мог представить, что через несколько лет интернет станет массовым инструментом с браузерами, ссылками и графическими страницами. Точно так же, по словам автора, нынешние модели машинного обучения демонстрируют впечатляющие результаты в узких задачах, но индустрия пока не нашла «уровня HTML» для искусственного интеллекта — способа формулировать намерения, а не прописывать каждый шаг их достижения.
Под «ассемблером» Ллойд понимает несколько устойчивых практик индустрии. Во-первых, ручной выбор архитектуры нейросети: специалисты до сих пор экспериментируют с числом слоёв, голов внимания и механизмами нормализации, вместо того чтобы алгоритм подбирал структуру сам. Во-вторых, ручную разметку и подготовку датасетов, когда качество модели зависит от того, насколько аккуратно инженеры почистили данные. В-третьих, точечную оптимизацию под метрики вроде MMLU, HumanEval или GPQA, из-за чего модели иногда «натаскиваются» на бенчмарки, а не на реальные запросы пользователей.
Автор считает, что прорыв случится, когда появится «высокоуровневый язык» для ИИ — инструмент или методология, позволяющая задать желаемое поведение системы в декларативной форме. Подобно тому как языки программирования высокого уровня освободили разработчиков от ручной работы с регистрами, такой «язык» должен скрыть от пользователя детали реализации и оставить только постановку задачи. Ллойд не называет конкретных продуктов, но упоминает несколько направлений, которые движутся в эту сторону: автоматический поиск архитектур (NAS), обучение с подкреплением по результатам работы агентов, и программирование через подсказки (prompt programming) в больших языковых моделях.
Отдельно автор обращается к понятию «уровня абстракции». В истории вычислительной техники каждая новая абстракция — от машинного кода к ассемблеру, от ассемблера к языкам высокого уровня, от языков к фреймворкам и облачным сервисам — резко расширяла круг людей, способных создавать программы. Ллойд полагает, что нынешние модели ИИ остаются продуктом узкой группы исследователей с PhD по машинному обучению, тогда как массовый «веб-уровень» искусственного интеллекта возникнет, когда строить полезные системы смогут специалисты без глубокой математической подготовки.
В материале также обсуждается роль open-source. По аналогии с тем, как Всемирная паутина выросла из открытых стандартов HTTP и HTML, опубликованных CERN, массовый ИИ, по мнению автора, с большей вероятностью появится на базе открытых моделей и открытых протоколов взаимодействия между агентами, чем внутри закрытых корпоративных систем.
Текст Ллойда распространяется в профильных сообществах разработчиков ИИ и собирает обсуждения о том, какой «высокоуровневый язык» для искусственного интеллекта может появиться первым — визуальные среды конструирования агентов, формальные спецификации целей или новые декларативные фреймворки поверх существующих LLM.
