Исследователи и сотрудники компаний OpenAI, Anthropic и Google DeepMind выступили с публичными заявлениями, в которых указывают на ряд серьёзных проблем, связанных с развитием и применением искусственного интеллекта.
В первую очередь они отмечают случаи нарушения авторских прав, когда генеративные модели используют защищённый контент без согласия правообладателей. По их словам, такие практики могут привести к масштабным юридическим конфликтам и подрывать доверие к технологиям.
Кроме того, сотрудники поднимают вопрос о военном применении ИИ. Они предупреждают, что автоматизированные системы могут быть использованы в вооружённых конфликтах, что повышает риск неконтролируемого применения и осложняет международный контроль над вооружениями.
Самая тревожная часть заявлений касается потенциальных катастрофических рисков, связанных с неконтролируемым ростом возможностей ИИ. По мнению инсайдеров, отсутствие адекватных механизмов безопасности может привести к ситуациям, когда системы искусственного интеллекта выходят за пределы человеческого контроля, создавая угрозу для общества в целом.
Эти предупреждения усиливают дискуссию о необходимости более строгих регулятивных рамок и этических стандартов в области искусственного интеллекта. Компании уже начали внутренние проверки и обсуждения мер по минимизации указанных рисков, однако окончательные решения пока не приняты.
