Системы искусственного интеллекта эффективно работают с информацией, которую им передают пользователи: обобщают, структурируют и расширяют поданные материалы. Однако эти же системы не способны самостоятельно фиксировать проблемы, которые человек распознаёт на этапе анализа ситуации. К такому выводу пришли авторы проекта The Sentient Intelligence Gap, посвящённого ограничениям современных языковых моделей.

Разрыв между возможностями ИИ и человеческим восприятием объясняется разными принципами работы. Машина оперирует закономерностями, заложенными в обучающих данных: она находит паттерны там, где они уже существуют, и помогает выстраивать логику рассуждений. Человек же способен улавливать слабые сигналы — изменения в контексте, противоречия в обстановке, ранние признаки надвигающихся рисков. Эти сигналы не всегда формулируются в виде чётких данных, но именно они часто предупреждают о проблемах раньше, чем система фиксирует аномалию.

По сути, искусственный интеллект работает как мощный инструмент обработки, но не как независимый наблюдатель. Он не формирует собственного представления о том, на что обращать внимание, — ему нужно, чтобы человек обозначил направление. Если задача сформулирована размыто или контекст не отражён в запросе, модель воспроизводит усвоенные шаблоны вместо того, чтобы выявить неочевидную угрозу.

Это ограничение имеет практическое значение. В средах, где решения принимаются быстро и на основе неполной информации — в оперативном управлении, журналистских расследованиях, анализе конкурентной среды — именно человеческая способность к распознаванию контекста остаётся определяющим фактором. ИИ здесь выступает помощником, который ускоряет работу с объёмом текста, но не заменяет того, кто замечает, что что-то изменилось.

Авторы исследования призывают не воспринимать результаты моделей как готовый ответ. Синтез и расширение идей — сильная сторона систем, но контроль за тем, какие именно вопросы задаются, остаётся за человеком. Разрыв между машинной и человеческой восприимчивостью, по их мнению, не сокращается с каждым обновлением модели и требует осознанного подхода к использованию инструментов автоматизации.