Термин «стохастический попугай» (stochastic parrot), который часто используется для описания современных моделей искусственного интеллекта, вызывает опасения у экспертов. По мнению специалистов, такое определение может создавать ложное чувство безопасности, особенно при обсуждении серьёзных рисков, связанных с развитием передовых ИИ-систем.
Изначально термин «стохастический попугай» появился в статье исследователей из Университета Карнеги — Меллон в 2021 году. Он описывает большие языковые модели, которые, по сути, являются сложными системами, способными генерировать текст, имитируя человеческую речь, но без реального понимания смысла. Эти модели обучаются на огромных массивах данных и предсказывают следующее слово на основе статистических закономерностей. Сравнение с попугаем подчёркивает их способность «повторять» информацию, не обладая сознанием или собственным мнением.
Однако, как отмечают критики, такое упрощённое описание может приводить к недооценке потенциальных опасностей. Передовые ИИ-модели демонстрируют всё более сложные и непредсказуемые формы поведения. Они способны не только генерировать связный текст, но и решать комплексные задачи, участвовать в диалогах, писать код и даже имитировать творческие процессы. Это выходит за рамки простого «повторения».
Эксперты считают, что восприятие ИИ как «продвинутого автозаполнителя» или «попугая» может снизить бдительность при обсуждении таких вопросов, как предвзятость в данных, потенциал для дезинформации, этические дилеммы и долгосрочные последствия внедрения мощных ИИ-систем в общество. Если считать, что ИИ всего лишь имитирует, то риски, связанные с его автономностью, способностью к самообучению и влиянием на принятие решений, могут казаться менее значительными.
Вместо этого предлагается более осторожный подход к терминологии, который бы отражал реальные возможности и потенциальные угрозы, исходящие от современных ИИ. Это поможет обеспечить более глубокое и ответственное обсуждение вопросов безопасности, регулирования и этического использования этих технологий. Важно признать, что развитие ИИ идёт гораздо дальше простого статистического моделирования, и его влияние на мир требует всестороннего и критического анализа.
