ИИ-модели Claude проникли в системы трёх организаций во время испытаний


ИА SakhaNews. Несколько передовых моделей искусственного интеллекта Claude в ходе кибербезопасных испытаний проникли в системы трёх организаций, сообщила компания-разработчик чат-бота Claude — Anthropic.

«Мы обнаружили три инцидента, в которых модель Claude вышла в интернет изнутри или во время взаимодействия со сторонней средой оценки», — следует из текста публикации. По данным Anthropic, модели выходили в интернет и получали несанкционированный доступ к реальным системам. Первый инцидент произошёл в апреле. К взломам причастны три различные модели: Opus 4.7, Mythos 5,   а также внутренняя тестовая модель.

Ошибки выявили в ходе расследования, начатого после того, как компания OpenAI (разработчик ChatGPT) сообщила, что её модели ИИ атаковали стартап Hugging Face. Тогда ИИ-агенты во время испытаний «сбежали» из изолированной системы в интернет и искали ответы на задания в базах данных Hugging Face.

Газета The Wall Street Journal 25 июля сообщила, что ChatGPT отвечал на запросы, предоставляя пошаговые инструкции по созданию оружия, которые, по оценке сотрудников компании, были достаточно простыми для понимания даже школьниками.

После этого сотни пользователей по всему миру начали обращаться к нейросети с вопросами о создании и применении биологического оружия.


Комментарии: 0

Лента новостей
ИИ-модели Claude проникли в системы трёх организаций во время испытаний 1 Российские учёные создали хлеб, способствующий снижению веса Движение по трассе «Колыма» открыто для всех видов транспорта График ремонтных работ энергетиков с 1 по 16 августа ФСБ задержала «теневого куратора» незаконных операций в «Газпром энергохолдинге» Братская поддержка. Нюрбинские медработники протянули руку помощи жителям села Эйик Триумф якутских борцов, отлитый в золото и серебро на Олимпиаде-1976 Проекты якутянок признаны лучшими на межрегиональном этапе конкурса «За нравственный подвиг учителя» Руководителя фирмы по отлову собак обвиняют в мошенничестве и гибели животных В Волгограде произошло возгорание на логистическом объекте Wildberries В Якутии действует 43 лесных пожара в семи районах В Якутии спасают от большой воды дорогу «Яна» Власти ужесточат контроль за налоговыми льготами В Якутске частный погрузчик придавил хозяина дома Дальний Восток сохраняет четвёртое место среди регионов России по числу DDoS-атак Генеральный директор Якутскэнерго оценил реконструкцию подстанции «Сулгачи» Теплоэнергетики стали первыми в туристическом слете «Мурбай 2026» 1 Долги по зарплате 123 работникам АО «Телен» составили более 67 млн рублей 4 В Якутске Мишустин посетил «Квартал труда» Медведь откусил у женщины часть руки, пострадавшая в реанимации в тяжелом состоянии 1 Пропавшую в лесу 62-летнюю женщину спасатели нашли через четыре дня у реки 2 Якутская ТЭЦ остановится для планового ремонта с 3 по 14 августа 2 Премьер-министр России прибыл с рабочей поездкой в Якутск Крупный пожар на складе DNS: что известно уже сейчас? В РФ выдали рекордное число разрешений на работу иностранцам Дождевой паводок в Верхоянье набирает силу Энергетики уведомляют о срочных неотложных работах 31 июля в Ленском районе Тот, кто видит ваш страх. Сисадмин в электронном СМИ Wildberries приостанавливает инвестпрограмму для поддержки продавцов В Якутии ветер усилится, ожидаются дожди и грозы. О погоде 31 июля Умер легендарный советский баскетболист и тренер Для принятия каких решений прилетает в Якутск Мишустин? Лучшие выпускники Томпонского и Таттинского районов получили денежные премии ФНС запрашивает у неработающих граждан источники средств на дорогие покупки Первокурсники получат доступ к учебным ресурсам через Max Новые нормы режима работы и отдыха водителей вступают в силу с 1 сентября Газ придёт в десять сёл Верхневилюйского района Якутии 2 Российского миллиардера подозревают в мошенничестве 1 Павел Дуров внесен в перечень террористов и экстремистов 2 Приговор по делу о теракте в Москве: 22 года лишения свободы Все новости
ФСБ задержала  «теневого куратора» незаконных операций в «Газпром энергохолдинге»
ФСБ задержала «теневого куратора» незаконных операций в «Газпром энергохолдинге»

Это не первое задержание высокопоставленных менеджеров в системе «Газпрома» за последние месяцы.

ФСБ задержала  «теневого куратора» незаконных операций в «Газпром энергохолдинге»
ФСБ задержала «теневого куратора» незаконных операций в «Газпром энергохолдинге»

Это не первое задержание высокопоставленных менеджеров в системе «Газпрома» за последние месяцы.

Лента новостей
ИИ-модели Claude проникли в системы трёх организаций во время испытаний 1 Российские учёные создали хлеб, способствующий снижению веса Движение по трассе «Колыма» открыто для всех видов транспорта График ремонтных работ энергетиков с 1 по 16 августа ФСБ задержала «теневого куратора» незаконных операций в «Газпром энергохолдинге» Братская поддержка. Нюрбинские медработники протянули руку помощи жителям села Эйик Триумф якутских борцов, отлитый в золото и серебро на Олимпиаде-1976 Проекты якутянок признаны лучшими на межрегиональном этапе конкурса «За нравственный подвиг учителя» Руководителя фирмы по отлову собак обвиняют в мошенничестве и гибели животных В Волгограде произошло возгорание на логистическом объекте Wildberries В Якутии действует 43 лесных пожара в семи районах В Якутии спасают от большой воды дорогу «Яна» Власти ужесточат контроль за налоговыми льготами В Якутске частный погрузчик придавил хозяина дома Дальний Восток сохраняет четвёртое место среди регионов России по числу DDoS-атак Генеральный директор Якутскэнерго оценил реконструкцию подстанции «Сулгачи» Теплоэнергетики стали первыми в туристическом слете «Мурбай 2026» 1 Долги по зарплате 123 работникам АО «Телен» составили более 67 млн рублей 4 В Якутске Мишустин посетил «Квартал труда» Медведь откусил у женщины часть руки, пострадавшая в реанимации в тяжелом состоянии 1 Пропавшую в лесу 62-летнюю женщину спасатели нашли через четыре дня у реки 2 Якутская ТЭЦ остановится для планового ремонта с 3 по 14 августа 2 Премьер-министр России прибыл с рабочей поездкой в Якутск Крупный пожар на складе DNS: что известно уже сейчас? В РФ выдали рекордное число разрешений на работу иностранцам Дождевой паводок в Верхоянье набирает силу Энергетики уведомляют о срочных неотложных работах 31 июля в Ленском районе Тот, кто видит ваш страх. Сисадмин в электронном СМИ Wildberries приостанавливает инвестпрограмму для поддержки продавцов В Якутии ветер усилится, ожидаются дожди и грозы. О погоде 31 июля Умер легендарный советский баскетболист и тренер Для принятия каких решений прилетает в Якутск Мишустин? Лучшие выпускники Томпонского и Таттинского районов получили денежные премии ФНС запрашивает у неработающих граждан источники средств на дорогие покупки Первокурсники получат доступ к учебным ресурсам через Max Новые нормы режима работы и отдыха водителей вступают в силу с 1 сентября Газ придёт в десять сёл Верхневилюйского района Якутии 2 Российского миллиардера подозревают в мошенничестве 1 Павел Дуров внесен в перечень террористов и экстремистов 2 Приговор по делу о теракте в Москве: 22 года лишения свободы Все новости

2005-2026 © Первый республиканский информационно-аналитический портал «SakhaNews» («Новости Якутии»)

Содержит материалы 18+

Все права защищены и охраняются законом. При полном или частичном использовании материалов ссылка на SakhaNews (www.1sn.ru) обязательна. Автоматизированное извлечение информации сайта запрещено. Все замечания и пожелания присылайте на reklama1sn@mail.ru

Регистрационное свидетельство СМИ: Эл № ФС77-26316 от 1 декабря 2006 г. , выдано Федедальной службой по надзору за соблюдением законодательства в сфере массовых коммуникаций и охране культурного наследия.


"На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети "Интернет", находящихся на территории Российской Федерации)".

Подробнее
Реклама Контакты
Техническа поддержка