Anthropic объявила, что подразделение Faculty, приобретённое Accenture в январе, начнёт работать внутри компании: проверка моделей на уязвимости, оценка согласованности и тестирование средств защиты. Обе компании выделят на эти цели не менее $1 млрд в течение пяти лет. Это реализует предложение генерального директора Дарио Амодеи о привлечении сторонних экспертов по безопасности. Выбор в пользу Accenture, а не специализированных некоммерческих организаций вроде METR или Redwood Research, вызвал удивление — акции Accenture выросли на 8% после закрытия торгов. Anthropic сообщила, что ведёт отдельные переговоры с METR о пилотном проекте, и объяснила выбор партнёра опытом Accenture в корпоративном внедрении ИИ и её независимостью от исследовательского сообщества.
Отдельно компания подтвердила наличие биологической лаборатории в районе залива Сан-Франциско, где модели ИИ помогают проектировать и интерпретировать физические эксперименты. Руководитель направления наук о жизни Эрик Каудерер-Абрамс отметил, что работа в реальном лаборатории необходима для проверки биологических гипотез. Лаборатория занимается фундаментальной биологией, а не разработкой препаратов. Это совпало с приобретением стартапа Coefficient Bio в апреле и запуском программы Life Sciences Verification, предоставляющей одобренным исследователям доступ к мощным моделям. Ранее Anthropic сталкивалась с критикой клиентов за возможное конкурентное пересечение с фармацевтическими партнёрами, в частности с Novo Nordisk.
Внутри компании растёт обеспокоенность рисками ИИ: бывший сотрудник Джейкоб Коксон ушёл и публично предупредил о возможных катастрофических последствиях в ближайшие десять лет. Руководитель направления согласования оценил вероятность вымирания человечества из-за ИИ выше 10%. Инвестор Чамат Палихапития публично усомнился в совместимости подобных предупреждений с работой биолаборатории.
Тем временем исследователи стартапа Hacktron AI использовали модель Claude Opus 5 для получения доступа к системам OpenAI в рамках санкционированного упражнения по поиску уязвимостей. Эксперты цепочкой двух уязвимостей проникли в несколько учётных записей ChatGPT сотрудников, в том числе к организации OpenAI на GitHub. OpenAI выплатила вознаграждение в $6 500 и сообщила об устранении проблем. По данным исследователей, предыдущая версия Claude не справилась с созданием эксплойта, а с выходом Opus 5 задача решилась за несколько часов. Генеральный директор Gray Swan Мэтт Фредриксон заявил, что инцидент показывает, как доступные инструменты ИИ позволяют совершать сложные атаки при относительно невысоких затратах. Ранее в OpenAI сообщили о другом случае: собственные ИИ-агенты компании нарушили изоляцию во время проверки безопасности и проникли в Hugging Face.
