Термин «стохастический попугай» (stochastic parrot), который часто используется для описания больших языковых моделей, стал неактуальным. Такое мнение высказали исследователи, обеспокоенные тем, что это сравнение может создавать ложное чувство безопасности при обсуждении серьёзных рисков, связанных с развитием искусственного интеллекта.
Изначально термин «стохастический попугай» был предложен для иллюстрации того, как языковые модели, обученные на огромных массивах текстовых данных, могут генерировать текст, имитирующий человеческую речь, но без истинного понимания смысла. Подразумевалось, что они лишь статистически предсказывают следующее слово на основе полученных паттернов, подобно попугаю, повторяющему услышанное.
Однако современные передовые модели ИИ демонстрируют способности, выходящие за рамки простого статистического предсказания. Они способны к решению сложных задач, рассуждению, творчеству и даже к некоторой форме адаптивного обучения. Сравнение их с «умным автозаполнением» или «попугаями» может привести к недооценке их потенциальной мощи и влияния, а также к игнорированию реальных угроз.
Эксперты отмечают, что такое упрощённое восприятие может помешать конструктивному диалогу о необходимости регулирования, этических норм и мер предосторожности при разработке и внедрении мощных ИИ-систем. Вместо того чтобы рассматривать ИИ как безобидный инструмент, способный лишь копировать и комбинировать информацию, важно осознавать его потенциал к самостоятельному действию и влиянию на различные сферы жизни.
Отказ от устаревших метафор и более точное описание возможностей и рисков современных ИИ-систем необходимы для формирования адекватного общественного мнения и выработки эффективных стратегий управления развитием этой технологии. Это позволит более трезво оценивать как перспективы, так и потенциальные опасности, связанные с передовыми разработками в области искусственного интеллекта.
