Редакция The Guardian на этой неделе обратила внимание на нарастающие риски искусственного интеллекта. Если существует вероятность в 10%, что ИИ способен поставить под угрозу существование человечества, ни одно ответственное правительство не должно оставлять его разработку на усмотрение компаний, вовлечённых в гонку за создание сверхинтеллекта. Тем не менее до недавнего времени именно это происходило.
Предупреждение прозвучало от исследователя Anthropic — компании стоимостью около одного триллиона долларов, стоящей за чат-ботом Claude. По мнению автора editorial, угрозы, связанные с пандемиями, запускаемыми при помощи ИИ, или атаками на ядерные системы, вполне реальны. Для их признания странам не обязательно договариваться о демократии или торговой политике.
По данным Reuters, США и Китай проведут первые двусторонние переговоры по безопасности ИИ перед запланированным саммитом в Белом доме между Дональдом Трампом и Си Цзиньпином. Несмотря на технологическое соперничество, ни Вашингтон, ни Пекин не способны в одиночку обеспечить безопасность самых передовых систем искусственного интеллекта. Соглашение между двумя странами не сможет определить, как работает ИИ, во всём мире — страны, использующие эти технологии, должны участвовать в выработке глобальных правил.
Экстремальные сценарии становятся всё более вероятными. На этой неделе Anthropic сообщила, что выявила пять случаев попыток использовать её модели для содействия разработке биологического оружия. Компания заблокировала соответствующие аккаунты. В одном из случаев запросы, отклонённые Claude, были направлены на платформу с более слабыми механизмами защиты. Как отмечает The Guardian, безопасность ИИ не может определяться наименее ответственной моделью.
