Anthropic представила две новые модели ИИ пятого поколения. Компания назвала их Claude Fable 5 и Claude Mythos 5. Обе модели принадлежат к классу Mythos. Anthropic считает этот класс мощнее линейки Opus. Fable 5 — это публичная цензурированная версия. Она доступна всем пользователям и разработчикам. Mythos 5 же предназначена для ограниченного круга партнёров.
Что умеет Fable 5
Anthropic утверждает, что Fable 5 превосходит все предыдущие модели. Особенно сильно она показывает себя в нескольких областях. Например, в программировании. Также в научных исследованиях. И в обработке изображений. Плюс в выполнении сложных многошаговых задач. Таким образом, модель действительно мощная.
Главное отличие — жёсткая цензура
Основное отличие Fable 5 — её жёсткая цензура. Модель основана на той же архитектуре, что и Mythos. Однако разработчики дополнительно оснастили её мерами безопасности. Поэтому её можно использовать широкой аудитории. Это главное преимущество для массового рынка.
Mythos 5 и программа Project Glasswing
Mythos 5 не имеет некоторых ограничений. Она доступна в рамках специальной программы. Программа называется Project Glasswing. Anthropic реализует её совместно с правительством США. Mythos 5 предназначена для узкого круга специалистов. В первую очередь для экспертов по кибербезопасности. А также для поставщиков критической инфраструктуры. Anthropic называет Mythos 5 самой мощной моделью в мире в области кибербезопасности.
Что потребовало правительство США
Правительство США вмешалось в ситуацию. Оно потребовало от Anthropic ограничить доступ к передовым моделям. Ограничения касаются иностранных пользователей. Речь идёт о тех, кто не является гражданами США. Anthropic сообщила, что выполнила это требование. Таким образом, доступ для иностранцев ограничен.
Почему США приняли такое решение
Дэвид Сакс объяснил причину. Он является сопредседателем совета советников президента США по науке и технологиям. По его словам, надёжный партнёр проверял модель Fable 5. Во время проверки обнаружили уязвимость. Она позволяет обойти защитные механизмы. Это так называемый джейлбрейк. Администрация США попросила гендиректора Anthropic Дарио Амодеи устранить проблему. Или прекратить распространение модели. Компания выбрала второе.
Реакция Amazon
Представители Amazon тоже высказались. Они заявили, что правительство США регулярно консультируется с ними. Консультации касаются вопросов информационной безопасности. Однако содержание таких обсуждений не разглашается. Поэтому мы не знаем деталей.
Позиция Anthropic
В Anthropic отметили, что выполняют требования регулятора. Однако они не согласны с мотивацией властей. Компания считает, что обнаружение уязвимости не должно быть основанием для отзыва модели. Речь идёт об «ограниченной потенциальной уязвимости». Поэтому решение кажется компании чрезмерным.
Anthropic предупредила о возможных последствиях. Такой подход может создать опасный прецедент. Единичная проблема приведёт к прекращению распространения целого продукта. Это может повлиять на всю индустрию разработки ИИ. Следовательно, другие компании тоже пострадают.
Реакция индустрии
Эксперты разделились во мнениях. Одни поддерживают правительство США. Они считают, что безопасность важнее коммерции. Другие встают на сторону Anthropic. Они видят в этом излишнее регулирование. Многие опасаются, что подобные случаи будут повторяться. Как результат, разработка ИИ может замедлиться.
Что будет дальше
Anthropic продолжит работать над моделями. Однако доступ к Fable 5 для иностранцев ограничен. Mythos 5 останется в рамках Project Glasswing. Будущие релизы, скорее всего, тоже столкнутся с регуляторными ограничениями. Поэтому компании придётся искать баланс между безопасностью и доступностью.
