Исследователь в области искусственного интеллекта Джейкоб Коксон покинул компанию Anthropic спустя четыре месяца после прихода. В своём сообщении в социальной сети X он написал: «Люди, создающие ИИ, искренне верят, что к концу этого десятилетия технология может уничтожить нас всех».
Старший сотрудник Anthropic Эван Хубингер поддержал эту оценку. По его словам, вероятность того, что сверхразумный ИИ приведёт к гибели человечества в ближайшие десять лет, составляет более 10%.
Эти заявления прозвучали на фоне публикации аналитика Тоби Уолша, в которой были описаны пять наиболее вероятных сценариев угрозы, исходящей от ИИ. Среди них — создание опасного биологического оружия и полный коллапс общественных систем. Вопрос, который ставит автор: способна ли сверхразумная система ИИ привести к вымиранию человечества?
