Термин «стохастический попугай» (stochastic parrot), которым часто описывают большие языковые модели (LLM), стал неактуальным. Такое мнение высказали исследователи, обеспокоенные потенциальными рисками, связанными с развитием передовых систем искусственного интеллекта. По их словам, сравнение LLM с «улучшенным автозаполнением» может создавать ложное чувство безопасности при обсуждении серьёзных угроз.

Изначально термин «стохастический попугай» подразумевал, что LLM лишь статистически обрабатывают и воспроизводят огромные объёмы текстовых данных, не обладая реальным пониманием или сознанием. Эта аналогия предполагала, что модели имитируют человеческую речь, но не способны к самостоятельному мышлению или генерации действительно нового контента. Однако современные LLM демонстрируют способности, выходящие за рамки простого статистического моделирования.

Эксперты указывают, что передовые модели ИИ способны к сложным рассуждениям, решению задач, требующих логического вывода, и даже к творческим процессам. Их поведение иногда трудно предсказать, и они могут проявлять неожиданные свойства, которые не сводятся к простому воспроизведению усвоенных паттернов. Это ставит под сомнение применимость упрощённой модели «попугая», которая не учитывает глубину и сложность работы современных ИИ.

Отказ от термина «стохастический попугай» важен для более точной оценки рисков. Если рассматривать ИИ как простого имитатора, то серьёзные проблемы, такие как возможность генерации дезинформации в невиданных масштабах, предвзятость, усугубляющая социальное неравенство, или потенциальное использование ИИ в деструктивных целях, могут недооцениваться. Более точное понимание возможностей и ограничений ИИ необходимо для разработки адекватных мер безопасности и этических норм.

Исследователи призывают к более глубокому изучению природы передовых ИИ-систем, чтобы лучше понимать их поведение и потенциальное влияние на общество. Это позволит более ответственно подходить к их разработке, внедрению и регулированию, избегая как излишнего пессимизма, так и необоснованного оптимизма.