Компания Anthropic представила свою новую модель Claude Mythos Preview. Согласно заявлению компании, в этой модели общего назначения основное внимание уделяется дальнейшему развитию навыков программирования и логического мышления. Хотя модель не была специально разработана для сценариев кибербезопасности или атак, сообщается, что ее возможности в этой области также значительно возросли.
Не будет доступна для публичного использования
Anthropic отказалась от публичного выпуска модели. Claude Mythos Preview будет доступна только ограниченному числу компаний, занимающихся выявлением и устранением уязвимостей в критическом программном обеспечении. Цель состоит в том, чтобы обеспечить преимущество стороны защиты над злоумышленниками.
В настоящее время в инициативе участвуют 40 компаний. Anthropic объявила, что в рамках этой программы выделит участникам до 100 миллионов долларов в виде кредитов на использование Mythos Preview. На следующем этапе компании будут оплачивать услуги самостоятельно. Стоимость модели составит 25 долларов за миллион входных токенов и 125 долларов за миллион выходных токенов.
Выявлены тысячи критических уязвимостей
По данным компании, в ходе испытаний Mythos выявила тысячи уязвимостей высокого уровня опасности. Среди них были пробелы, обнаруженные в основных операционных системах и популярных веб-браузерах.
Anthropic считает, что на фоне такого быстрого развития искусственного интеллекта подобные возможности вскоре станут более распространенными и могут попасть в руки лиц, не имеющих намерения использовать их безопасно. Компания подчеркивает, что это может привести к серьезным последствиям для экономики, общественной и национальной безопасности.
Модель не только находит уязвимости, но и создает эксплойты
Anthropic отмечает, что Mythos Preview не только выявляет уязвимости, но и способна полностью автономно, без участия человека, создавать многочисленные варианты эксплойтов для них.
В блоге компании приведены три примера:
Модель обнаружила уязвимость, возникшую 27 лет назад в операционной системе OpenBSD. Этот пробел, который считается одной из самых безопасных систем в мире и используется в брандмауэрах и другой критической инфраструктуре, мог бы позволить злоумышленнику удаленно вывести систему из строя, просто установив соединение.
Mythos также обнаружила 16-летнюю уязвимость в инструменте FFmpeg. Сообщается, что эта строка кода была проверена автоматическими инструментами тестирования 5 миллионов раз, но проблема не была обнаружена.
Кроме того, модель автономно объединила несколько уязвимостей в ядре Linux, создав цепочку. Этот сценарий мог бы позволить повысить привилегии от уровня обычного пользователя до полного контроля над системой.
Anthropic сообщает, что все эти уязвимости, обнародованные в настоящее время, уже устранены. При этом компания заявляет о существовании тысяч других пробелов, над которыми еще ведется работа. Люди снова играют с огнем, а потом радуются: «хорошо, что мы это исправили сейчас». Отличная стратегия.
В новой версии Opus будут дополнительные меры безопасности
Компания также объявила, что в новую версию Opus, которая будет представлена в ближайшем будущем, будут интегрированы дополнительные механизмы безопасности. Цель состоит в том, чтобы снизить риски, возникающие из-за использования модели в целях атаки, по мере роста ее возможностей.
Проводятся консультации с правительством США
Anthropic также сообщила, что ведет постоянные консультации с представителями правительства США относительно возможностей Claude Mythos Preview в области наступательной и оборонительной кибербезопасности.
При желании я могу оформить это в более профессиональном медиа-стиле и формате заголовков и подзаголовков.