Термин «стохастический попугай» (stochastic parrot), используемый для описания больших языковых моделей, таких как GPT-3, может создавать ложное чувство безопасности при обсуждении серьезных рисков, связанных с развитием искусственного интеллекта. Об этом заявили исследователи в своей работе, опубликованной в журнале "Journal of Ethics in Artificial Intelligence".
Большие языковые модели действительно работают, предсказывая следующее слово в последовательности на основе огромных объемов текстовых данных, что и породило сравнение с очень продвинутым автозаполнением или «попугаем», повторяющим услышанное. Однако, по мнению авторов, такое упрощенное представление упускает из виду потенциальные опасности, которые несет в себе развитие этих технологий.
Исследователи подчеркивают, что, несмотря на механику работы, современные модели ИИ демонстрируют способности, которые выходят за рамки простого повторения. Они могут генерировать связные и осмысленные тексты, отвечать на сложные вопросы, писать код и даже проявлять зачатки креативности. Эти возможности, хоть и основаны на статистических закономерностях, могут иметь значительные социальные, этические и экономические последствия.
Сравнение ИИ со «стохастическим попугаем» может привести к недооценке рисков, связанных с предвзятостью (bias), дезинформацией, манипуляцией общественным мнением, а также с потенциальным влиянием на рынок труда и конфиденциальность данных. Упрощенное понимание природы ИИ может замедлить разработку адекватных мер контроля и регулирования, которые необходимы для безопасного внедрения этих технологий в общество.
Авторы статьи призывают к более глубокому и комплексному подходу к изучению и обсуждению ИИ, учитывающему не только технические аспекты, но и его потенциальное воздействие на различные сферы жизни. Они считают, что важно осознавать всю сложность и многогранность современных ИИ-систем, чтобы эффективно управлять связанными с ними рисками и использовать их потенциал во благо человечества.
