Тема катастрофических сценариев развития искусственного интеллекта возвращается в публичное пространство с нарастающей интенсивностью. Alongside с экспертными дискуссиями в научных и политических кругах, в медиа всё чаще встречаются термины, которые не всегда понятны широкой аудитории. Публикация представляет собой глоссарий ключевых понятий, формирующих язык этой дискуссии.
Среди разобранных терминов — FOOM (быстрый взлёт интеллекта), p(doom), обозначающее вероятность катастрофы, а также понятие sandbagging, описывающее занижение реальных возможностей систем. Отдельное внимание уделено проблеме выключения — вопросу о том, насколько просто можно остановить работу продвинутой ИИ-системы, если она начнёт действовать непредсказуемо.
Авторы материала подчёркивают, что эти понятия давно перешли из узких технических сообществ в мейнстримную повестку. Понимание базовой терминологии помогает читателям ориентироваться в обсуждениях рисков, связанных с развитием искусственного интеллекта, и адекватно оценивать высказывания как в научной среде, так и в публичном поле.
