Компания Anthropic объявила о новых исследованиях, направленных на создание искусственного интеллекта, способного к сознательному восприятию. В рамках проекта учёные рассматривают, насколько такие системы могут обладать моральным сознанием.
Философы и представители религиозных традиций уже начали обсуждать последствия появления «сознательного» ИИ. По их мнению, ключевой вопрос состоит в том, способен ли алгоритм действительно понимать различие между правильным и неправильным, а не просто имитировать соответствующие ответы.
«Моральный смысл требует не только знания правил, но и осознания их значения», — отметил один из участников дискуссии, указав, что без собственного опыта и чувства ответственности машина может лишь подстраиваться под заданные критерии.
Сторонники идеи о моральном ИИ считают, что продвинутые модели могут обучаться на огромных объёмах данных, включающих этические нормы, и в результате формировать устойчивые «моральные» стратегии. Противники же подчёркивают, что без субъективного опыта такие стратегии остаются лишь набором инструкций, не способных к истинному моральному суждению.
Anthropic планирует продолжить эксперименты, оценивая, насколько новые подходы к обучению ИИ могут приблизить его к понятию сознания. Ожидается, что результаты будут опубликованы в ближайшие месяцы, что позволит более детально оценить перспективы и риски развития этически ориентированных систем.
Вопрос о моральной ответственности машин остаётся открытым, и дальнейшие исследования могут изменить представления о границах искусственного интеллекта.
