Термин «стохастический попугай», который ранее использовался для описания больших языковых моделей (LLM), стал неактуальным и может вводить в заблуждение при обсуждении потенциальных рисков, связанных с развитием искусственного интеллекта. Об этом говорится в публикации, опубликованной в издании Nature.
Изначально термин «стохастический попугай» был предложен исследователями из Университета Карнеги — Меллона в 2021 году. Он описывал LLM как системы, которые генерируют текст, статистически предсказывая следующее слово на основе огромных объемов данных, без истинного понимания смысла. Это сравнение с попугаем, повторяющим услышанное, подчеркивало отсутствие у моделей сознания или намерений.
Однако, по мнению авторов новой публикации, такое описание сегодня не отражает реального положения дел. Современные передовые модели ИИ демонстрируют способности, выходящие за рамки простого статистического предсказания. Они способны к решению сложных задач, генерации креативного контента и даже к некоторому подобию рассуждений. Использование устаревшей метафоры может создавать ложное чувство безопасности, отвлекая от серьезных вопросов, связанных с безопасностью, этикой и потенциальным влиянием этих технологий на общество.
Авторы статьи подчеркивают, что такие модели, как GPT-4, демонстрируют emergent abilities — способности, которые не были явно запрограммированы и не предсказывались на основе их архитектуры или данных обучения. Эти способности могут проявляться неожиданным образом и требуют пристального внимания со стороны исследователей и регуляторов. Сравнение с «попугаем» не учитывает потенциал этих систем к непредвиденному поведению и возникновению новых, ранее неизвестных свойств.
Отказ от термина «стохастический попугай» призван стимулировать более глубокое и серьезное обсуждение реальных вызовов, которые ставят перед человечеством передовые системы ИИ. Это включает вопросы контроля над мощными моделями, предотвращения их злонамеренного использования, а также понимания и управления их долгосрочным воздействием на различные сферы жизни, от экономики до межличностного общения. Эксперты настаивают на необходимости разработки новых концептуальных рамок для осмысления и регулирования этой быстро развивающейся области.
