Администрация США ввела ограничения на использование новейших моделей искусственного интеллекта компании Anthropic. Об этом сообщает The Wall Street Journal.
Поводом для решения стали результаты проверки, которую провели специалисты Amazon. Во время тестирования одной из новых моделей они обнаружили способы обхода встроенных механизмов защиты. Как утверждается, модель могла предоставлять информацию, способную облегчить проведение кибератак.
Все данные были переданы американским властям. После этого чиновники потребовали устранить выявленные проблемы и объяснили введённые ограничения соображениями национальной безопасности.
Ситуация привлекла особое внимание отрасли, поскольку Amazon — однин из крупнейших инвесторов Anthropic и её стратегический партнёр. Кроме того, компании связывают многомиллиардные соглашения в сфере облачных вычислений и искусственного интеллекта.
В Anthropic заявили, что выявленные способы обхода защитных механизмов не являются уникальными для их продуктов и встречаются у многих современных ИИ-моделей. В компании также считают, что масштабы проблемы были преувеличены.
По оценкам аналитиков, эта история может стать важным сигналом для рынка искусственного интеллекта. Эксперты отмечают, что если раньше экспортные ограничения США в основном касались полупроводников и вычислительного оборудования, то теперь под регулирование всё чаще попадают сами ИИ-модели.