Термин «стохастический попугай» для обозначения больших языковых моделей (LLM) потерял свою актуальность и может создавать ложное чувство безопасности при обсуждении серьёзных рисков, связанных с развитием искусственного интеллекта. Такое мнение высказали исследователи в своей публикации.
Изначально сравнение LLM с «попугаями» подразумевало, что модели лишь имитируют человеческую речь, комбинируя слова на основе статистических закономерностей, без реального понимания смысла. Эта аналогия была предложена в 2021 году для описания работы моделей, которые обучаются на огромных массивах текстовых данных и генерируют ответы, основываясь на вероятностях появления тех или иных слов.
Однако, по мнению современных исследователей, такая трактовка не отражает текущие возможности передовых ИИ-систем. Новые поколения моделей демонстрируют способность к рассуждению, решению задач и даже некоторой форме креативности, что выходит за рамки простого «повторения» и статистического комбинирования слов. Использование устаревшей метафоры может привести к недооценке потенциальных опасностей, таких как распространение дезинформации, предвзятость, а также непредвиденные последствия при интеграции ИИ в критически важные сферы жизни.
Эксперты подчёркивают, что для адекватного обсуждения и управления рисками, связанными с мощными ИИ, необходимо использовать более точные и современные описания их возможностей. Это позволит выработать более эффективные стратегии регулирования и контроля, а также повысить осведомлённость общества о реальном положении дел в области искусственного интеллекта. Отказ от упрощённых аналогий является важным шагом к более глубокому пониманию природы и последствий развития этих технологий.
