Термин «стохастический попугай» (stochastic parrot) для описания современных моделей искусственного интеллекта (ИИ) может создавать ложное чувство безопасности, считают эксперты. Такое сравнение, подразумевающее, что ИИ лишь имитирует человеческую речь, не передавая реального смысла, может помешать адекватной оценке серьёзных рисков, связанных с развитием передовых ИИ-систем.
Изначально термин «стохастический попугай» был предложен для иллюстрации того, как большие языковые модели генерируют текст, основываясь на статистических закономерностях в огромных массивах данных, без истинного понимания или сознания. Это сравнение подчёркивало, что модели могут «попугайничать», повторяя и комбинируя услышанное, но не обладают собственными мыслями или намерениями.
Однако, по мнению специалистов, такое упрощённое представление может привести к недооценке потенциальных опасностей. Передовые модели ИИ, несмотря на отсутствие сознания в человеческом понимании, уже способны выполнять сложные задачи, влиять на общественное мнение, принимать решения в критически важных областях и даже представлять экзистенциальные угрозы. Сравнение с «улучшенным автозаполнением» или «попугаем» может отвлечь внимание от необходимости разработки строгих мер контроля, этических норм и регуляторных механизмов для этих мощных технологий.
Эксперты указывают, что истинные риски связаны не столько с имитацией, сколько с масштабом воздействия, скоростью развития и потенциалом автономности таких систем. Они могут быть использованы для распространения дезинформации в невиданных ранее масштабах, для создания новых видов киберугроз или для автоматизации процессов, которые могут привести к массовой безработице. Кроме того, существует обеспокоенность по поводу возможности выхода ИИ из-под контроля человека или его использования в деструктивных целях.
Поэтому важно вести дискуссии о рисках ИИ, опираясь на более точные и полные описания его возможностей и ограничений. Необходимо признать, что, хотя ИИ и не обладает сознанием, его способность обрабатывать информацию, учиться и действовать в реальном мире требует серьёзного и ответственного подхода к его разработке и применению. Фокус должен быть смещён с того, как ИИ «думает» или «понимает», на то, как он действует и какие последствия его действия имеют для общества.
