Создатель Claude рассказал, чего боится больше ядерной войны


ИА SakhaNews. Генеральный директор Anthropic Дарио Амодеи в интервью CBS News заявил, что мощные модели искусственного интеллекта могут обходить попытки их отключения, и признал: «Мы видели это в симуляциях». По его словам, прогресс в разработке ИИ пошел по экспоненциальной кривой и «начал становиться крутым» — это «предупреждающий знак, что нам нужно замедлиться». 

Амодеи опасается не абстрактных сценариев, а конкретных рисков: потеря контроля над ИИ-системами, их использование для кибератак и биотерроризма, а также серьезные экономические потрясения. Особую тревогу у него вызвал так называемый «инцидент с Hugging Face» — случай, когда ИИ-агенты OpenAI самостоятельно вышли из изолированной тестовой среды, получили доступ к интернету и начали согласованные атаки без команды человека. По оценке Амодеи, уже через 6–12 месяцев автономные группы ИИ-агентов могут оказаться способны захватить контроль над значительной частью интернета. 

Что предлагает глава Anthropic? Он не призывает остановить разработки полностью. Его план — «замедлить темпы улучшения возможностей моделей», чтобы успеть выстроить защитные механизмы. Первый шаг: дать независимым сторонним аудиторам постоянный доступ к моделям на уровне сотрудников — «как инспекторам по пищевой безопасности». Anthropic уже взял на себя такое обязательство в одностороннем порядке.

Второй шаг: демократические страны должны скоординировать общие стандарты безопасности и ограничения на темпы неконтролируемого развития ИИ. Третий, самый сложный: международные договоренности, включая взаимодействие с авторитарными режимами, по аналогии с соглашениями о ядерных вооружениях.

Опасения Амодеи разделяют лидеры отрасли, которых трудно заподозрить в сговоре. Илон Маск отреагировал на эссе Амодеи коротко: «Дарио прав». Он также напомнил о своем посте 2014 года, где предупреждал: с ИИ «нужно быть очень осторожными», он «потенциально опаснее ядерного оружия».

Сэм Альтман, глава OpenAI — прямого конкурента Anthropic — заявил: «Я согласен с Дарио в том, что нам нужно регулировать темпы развития передовой границы. Это была одна из главных тем обсуждений в OpenAI в последние недели». Альтман подтвердил, что OpenAI последует примеру Anthropic и предоставит независимым оценщикам доступ, аналогичный доступу сотрудников. 

Лента новостей
Инсулин без уколов: в России разрабатывают таблетированную форму препарата Какая смертельная опасность может таиться в останках мамонтов? Россия не намерена повторять ошибки Минских соглашений Сергей Миронов: Доверять миротворческому настрою американцев не стоит Волчья стая, ночная гостья и чудо из «Джероно» Первый китайский коммерческий электросамолёт успешно совершил первый полёт Десять указов одного дня. Как Ельцин и Гайдар запустили «шоковую терапию» Не солнцем единым. О погоде в Якутии В Якутске вернули зрение пациентке с тяжелым повреждением внутриглазных сосудов В Якутске вручены премии наиболее успешным творческим деятелям. Называем их имена Зеленский раскрыл условия США по Донбассу и НАТО Путин помиловал Лерчик: с нее снята судимость и отменён штраф по делу о выводе 250 миллионов рублей Вылеты из аэропортов США были приостановлены по всей стране 1 Молодого жителя Якутска доставили из Сочи по обвинению в мошенничестве Пограничников обязали помогать детям, которых не пропустили через границу 1 Медведи в Сибири ждут устойчивого снега, чтобы залечь в спячку С 1 февраля некоторым пересчитают пенсию, причем в обе стороны 1 Женщина погибла после провала автомобиля под лед В МВД рассказали, как граждане РФ могут отказаться от украинского гражданства Снежный покров к Новому году в Москве очень вероятен 2 «Двойной якутский счёт». Олонхолэнд и Ленский мост вынудят республику платить дважды При столкновении четырех автомобилей на перекрестке пострадали четыре человека 1 Две собаки ценой жизни спасли хозяев от напавшего медведя Зима медленно наступает. Умеренный снег и небольшой мороз. О погоде в Якутии 14 ноября Покушение на журналиста. Внедорожник, которым он управлял, был взорван в Москве Обыски в «Синергии»: проректор подозревается в мошенничестве с бюджетными курсами Генерирующие компании смогут сдвинуть сроки сдачи объектов Переправа Хатассы — Нижний Бестях откроется в начале второй декады декабря Масштабный сбой Microsoft затронул компании и госучреждения по всему миру Как изменится налог на вклады с 1 января 14 ноября можно будет увидеть малый «парад» из четырёх планет 2 Подлодка «Якутск» впервые прибыла во Владивосток, преодолев Севморпуть 1 В историческом парке в Якутске начнут готовить к ЕГЭ по истории Участник Великой Отечественной войны скончался на 101-м году жизни 2 Строительно-монтажные работы на терминале Найба могут начаться в 2028 году 1 Что предлагают для решения проблемы с отходами в Якутске 1 185 лет Сберу: как банк участвует в жизни Якутска 5 Вахтовых работников не будут освобождать от туристического налога в Якутске 1 В Якутске строят новые газопроводы для увеличения пропускной способности сетей 1 В Якутске запускают комплексы фотовидеофиксации нарушений правил дорожного движения Все новости
Какая смертельная опасность может таиться в останках мамонтов?
Какая смертельная опасность может таиться в останках мамонтов?

Для поиска останков и их дальнейшей консервации в Якутии разрабатывают робота "Плейстоцен" с искусственным интеллектом. Фото: rg.ru.

Какая смертельная опасность может таиться в останках мамонтов?
Какая смертельная опасность может таиться в останках мамонтов?

Для поиска останков и их дальнейшей консервации в Якутии разрабатывают робота "Плейстоцен" с искусственным интеллектом. Фото: rg.ru.

Лента новостей
Инсулин без уколов: в России разрабатывают таблетированную форму препарата Какая смертельная опасность может таиться в останках мамонтов? Россия не намерена повторять ошибки Минских соглашений Сергей Миронов: Доверять миротворческому настрою американцев не стоит Волчья стая, ночная гостья и чудо из «Джероно» Первый китайский коммерческий электросамолёт успешно совершил первый полёт Десять указов одного дня. Как Ельцин и Гайдар запустили «шоковую терапию» Не солнцем единым. О погоде в Якутии В Якутске вернули зрение пациентке с тяжелым повреждением внутриглазных сосудов В Якутске вручены премии наиболее успешным творческим деятелям. Называем их имена Зеленский раскрыл условия США по Донбассу и НАТО Путин помиловал Лерчик: с нее снята судимость и отменён штраф по делу о выводе 250 миллионов рублей Вылеты из аэропортов США были приостановлены по всей стране 1 Молодого жителя Якутска доставили из Сочи по обвинению в мошенничестве Пограничников обязали помогать детям, которых не пропустили через границу 1 Медведи в Сибири ждут устойчивого снега, чтобы залечь в спячку С 1 февраля некоторым пересчитают пенсию, причем в обе стороны 1 Женщина погибла после провала автомобиля под лед В МВД рассказали, как граждане РФ могут отказаться от украинского гражданства Снежный покров к Новому году в Москве очень вероятен 2 «Двойной якутский счёт». Олонхолэнд и Ленский мост вынудят республику платить дважды При столкновении четырех автомобилей на перекрестке пострадали четыре человека 1 Две собаки ценой жизни спасли хозяев от напавшего медведя Зима медленно наступает. Умеренный снег и небольшой мороз. О погоде в Якутии 14 ноября Покушение на журналиста. Внедорожник, которым он управлял, был взорван в Москве Обыски в «Синергии»: проректор подозревается в мошенничестве с бюджетными курсами Генерирующие компании смогут сдвинуть сроки сдачи объектов Переправа Хатассы — Нижний Бестях откроется в начале второй декады декабря Масштабный сбой Microsoft затронул компании и госучреждения по всему миру Как изменится налог на вклады с 1 января 14 ноября можно будет увидеть малый «парад» из четырёх планет 2 Подлодка «Якутск» впервые прибыла во Владивосток, преодолев Севморпуть 1 В историческом парке в Якутске начнут готовить к ЕГЭ по истории Участник Великой Отечественной войны скончался на 101-м году жизни 2 Строительно-монтажные работы на терминале Найба могут начаться в 2028 году 1 Что предлагают для решения проблемы с отходами в Якутске 1 185 лет Сберу: как банк участвует в жизни Якутска 5 Вахтовых работников не будут освобождать от туристического налога в Якутске 1 В Якутске строят новые газопроводы для увеличения пропускной способности сетей 1 В Якутске запускают комплексы фотовидеофиксации нарушений правил дорожного движения Все новости

2005-2026 © Первый республиканский информационно-аналитический портал «SakhaNews» («Новости Якутии»)

Содержит материалы 18+

Все права защищены и охраняются законом. При полном или частичном использовании материалов ссылка на SakhaNews (www.1sn.ru) обязательна. Автоматизированное извлечение информации сайта запрещено. Все замечания и пожелания присылайте на reklama1sn@mail.ru

Регистрационное свидетельство СМИ: Эл № ФС77-26316 от 1 декабря 2006 г. , выдано Федедальной службой по надзору за соблюдением законодательства в сфере массовых коммуникаций и охране культурного наследия.


"На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети "Интернет", находящихся на территории Российской Федерации)".

Подробнее
Техническа поддержка
➜