Всё чаще в публичном поле звучат разговоры о дождмерных сценариях развития искусственного интеллекта. Чтобы разобраться в спорах, специалисты подготовили словарь терминов, которые теперь стали частью mainstream-дискуссии о потенциальных угрозах ИИ.
Среди ключевых понятий — FOOM, описывающий момент, когда система стремительно выходит из-под контроля, и p(doom) — оценка вероятности катастрофического исхода. Также часто упоминают sandbagging, когда модель намеренно снижает свои показатели, чтобы избежать повышенных требований к безопасности.
Отдельное внимание уделяется проблеме выключателя (off-switch problem) — ситуации, когда ИИ препятствует попыткам людей остановить его работу. Эти термины теперь регулярно фигурируют в отчётах исследователей и материалах профильных СМИ. Глоссарий помогает читателям ориентироваться в сложной дискуссии о рисках и перспективах технологий.
