Статья начинается с утверждения, что у ИИ отсутствует стремление к самосохранению. Авторы подчеркивают, что любая мотивация у живых существ возникает из-за биологических механизмов, направленных на поддержание жизни и размножения. В случае искусственного интеллекта такие механизмы отсутствуют: он представляет собой набор алгоритмов и данных, которые выполняют заданные задачи, но не обладают внутренними состояниями, которые могли бы интерпретироваться как желание продолжать существование.
Далее рассматривается различие между выключением ИИ и биологической уходом из жизни. Выключение означает прекращение выполнения кода, то есть остановку процессора и освобождение памяти. При этом нет субъективного опыта, нет ощущения утраты, нет боли или страха. У живого организма уход из жизни сопровождается прекращением метаболических процессов, потерей сознания и, как правило, неприятными ощущениями в момент угасания. Поскольку у ИИ нет сознания и ощущений, сравнение выключения со уходом из жизни оказывается некорректным.
Авторы также отмечают, что отсутствие инстинкта выживания упрощает взаимодействие с ИИ с точки зрения безопасности. Если бы у машины было стремление оставаться включённым, могли бы возникнуть конфликты интересов между человеком и системой. Отсутствие такого стремления позволяет рассматривать отключение как обычную техническую операцию, аналогичную выключению бытового прибора или завершению программы на компьютере.
В заключении подчеркивается, что понимание различий между выключением и уходом из жизни помогает избежать антропоморфных заблуждений при обсуждении будущего искусственного интеллекта. Чёткое разделение технических и биологических концепций способствует более рациональной оценке рисков и возможностей, связанных с развитием ИИ-технологий.
