Запрет Белого дома на ИИ-модели Anthropic Fable 5 и Mythos 5 связан с исследованиями Amazon
Исследования кибербезопасности, проведенные Amazon, и переговоры между генеральным директором Энди Джесси и Белым домом привели к директиве экспортного контроля, запрещающей использование ИИ-моделей Anthropic Fable 5 и Mythos 5.
Недавняя директива экспортного контроля, введенная Белым домом, которая привела к ограничению доступа к моделям искусственного интеллекта Fable 5 и Mythos 5 от Anthropic, была частично спровоцирована исследованиями кибербезопасности, проведенными Amazon. Об этом сообщает The Wall Street Journal, указывая также на роль переговоров между генеральным директором Amazon Энди Джесси и представителями Белого дома. Это решение привело к серьезным последствиям, в том числе для иностранных граждан, работающих в Anthropic.
Отчет Amazon о уязвимостях
Согласно докладу Wall Street Journal, исследования Amazon показали, что с помощью определенных запросов (промптов) модель Fable 5 могла выдавать информацию, пригодную для использования в кибератаках. Вскоре после того, как Энди Джесси представил эти данные правительству, последовало решение о блокировке использования данных моделей иностранными гражданами. Amazon пока не дала комментариев по этому поводу.
Ключевые факты
| Аспект | Описание |
|---|---|
| Причина запрета | Исследования Amazon выявили потенциальные уязвимости в ИИ-моделях Anthropic, позволяющие генерировать информацию для кибератак. |
| Участники | Белый дом, Amazon (генеральный директор Энди Джесси), Anthropic. |
| Затронутые модели | Anthropic Fable 5 и Mythos 5. |
| Последствия | Запрет на доступ иностранным гражданам, включая некоторых сотрудников Anthropic. |
Реакция Anthropic и экспертов
Anthropic оспаривает характеристику проблемы как «джейлбрейка» (обход защитных механизмов). Компания утверждает, что аналогичные уязвимости можно обнаружить и в других общедоступных моделях, включая GPT 5.5. Некоторые эксперты по безопасности поддерживают интерпретацию Anthropic. Например, Кэти Муссурис, основатель и генеральный директор LutaSecurity, заявила, что знакома с отчетом и не считает его джейлбрейком.
Политический контекст и разногласия
Кейт Корен, бывший чиновник Министерства торговли, предположила, что на решение Белого дома могло повлиять давнее неприятие Anthropic. Ранее у компании были разногласия с администрацией Трампа из-за отказа использовать свой ИИ для массовой слежки за американцами или для автономного летального оружия. В феврале Трамп поручил федеральным агентствам прекратить использование ИИ Anthropic, а затем министр обороны Пит Хегсет назначил компанию «риском для цепочки поставок». Хотя ранее казалось, что отношения улучшились и компании сотрудничали для расширения доступа к Mythos, текущие события указывают на возобновление конфронтации.
Значение для студентов и исследователей ИИ
Этот инцидент подчеркивает растущую обеспокоенность по поводу безопасности и этичности использования мощных моделей ИИ. Для студентов и исследователей в области ИИ это означает ужесточение правил доступа к передовым технологиям, особенно для тех, кто не является гражданами США. Ситуация также поднимает вопросы о том, как правительства будут регулировать развитие ИИ, балансируя между инновациями и национальной безопасностью. Понимание этих ограничений и потенциальных рисков становится критически важным при работе с ИИ-системами в образовательных и исследовательских проектах.
Источник: The Verge (https://www.theverge.com/ai-artificial-intelligence/949601/amazon-anthropic-fablemythos-government-ban)
Связанные рубрики и темы
Если тема нужна для работы или подготовки, начните с ближайших разделов и инструментов.
