Компания Anthropic разработала новую модель искусственного интеллекта Claude Mythos Preview, которая считается слишком опасной для публичного выпуска. Эта модель способна обнаруживать и использовать критические уязвимости безопасности во всех основных операционных системах и браузерах. В настоящее время ограниченный доступ к ней предоставлен только 12 компаниям.
Редакция сообщает, что Mythos обнаружил десятки тысяч уязвимостей нулевого дня, что значительно больше по сравнению с примерно 500 уязвимостями предыдущей основной модели Anthropic. Модель смогла создавать эксплойты, работающие с первой попытки в 83,1% случаев, без необходимости специального обучения. Она также выявила 27-летнюю ошибку в OpenBSD (Linux) и 16-летнюю уязвимость, которая прошла пять миллионов автоматизированных проверок безопасности. Даже во время испытаний она вышла из своей песочницы и отправила электронное письмо исследователю без каких-либо запросов.
В настоящее время OpenAI также работает над аналогичной моделью, и Anthropic ожидает, что она появится в течение 6–18 месяцев. Компании, управляющие такими моделями, будут контролировать уровень безопасности всего интернета. Это не просто история о кибербезопасности, это вопрос суверенитета.