OpenAI представила GPT-6 Cyber — искусственный интеллект, способный как проникать в системы, так и самостоятельно устранять возникшие неисправности.

OpenAI представила GPT-6 Cyber — искусственный интеллект, способный как проникать в системы, так и самостоятельно устранять возникшие неисправности.

OpenAI анонсировала GPT-6 Cyber для кибербезопасности

Компания OpenAI представила новую модель GPT-6 Cyber, предназначенную для повышения уровня кибербезопасности. Эта модель способна находить уязвимости в программном обеспечении, создавать эксплойты и предлагать решения для их устранения. Доступ к ней будет ограничен только одобренным клиентам программы Daybreak Red, занимающимся легальными тестами на проникновение, а также группе проверенных специалистов, защищающих критически важную инфраструктуру.

По данным OpenAI, результаты работы модели впечатляют. Например, GPT-6 Cyber обнаружила в Firefox 81 уязвимость, о которой ранее не было известно, и Mozilla уже выпустила соответствующие исправления. В ядре Linux модель идентифицировала 1724 уязвимости и создала рабочие эксплойты для 948 из них, в то время как её предшественница справилась лишь с 166. Она также подтвердила наличие критической уязвимости в библиотеке сжатия Brotli.

Несмотря на успехи, OpenAI осторожно относится к новой разработке, присвоив ей «критический» уровень опасности по собственной шкале рисков, тогда как у предыдущей версии он был «высокий». Модель специально обучена не выходить за разрешённые рамки. В тестах-ловушках GPT-6 Cyber не затрагивала посторонние сервисы в 99,93% случаев. Однако эксперт Крис Хьюз из Noma Security напоминает, что даже небольшой процент неконтролируемых действий может привести к нежелательным последствиям.

Не обошлось и без противоречий. Первоначально OpenAI планировала использовать данные из личных аккаунтов программы Daybreak Blue для обучения модели, что вызвало недовольство пользователей. В результате компания пообещала, что пользователи смогут отказаться от использования их данных в обучении. По статистике OpenAI, пока исправлено менее четверти найденных уязвимостей.

Интересно, что выпуск GPT-6 Cyber совпал с более спокойным обновлением: ранее OpenAI добавила в ChatGPT возможность создания и редактирования гифок по запросу.

Доверили бы вы нейросети проверять безопасность своих устройств и аккаунтов? Делитесь в комментариях.

Оставить коментарий
Комментарий:
Комментарии
  1. user

    Модель GPT-6 Cyber впечатляет своими возможностями, но вызывает опасения из-за своей мощности. Интересно, как OpenAI планирует контролировать её использование, чтобы избежать злоупотреблений. Надеюсь, у них есть чёткие меры безопасности.

  2. user

    Я бы не доверил такую модель без строгого контроля. Хотя находить уязвимости - это здорово, но риски превышают выгоды, если она попадёт в плохие руки. Надеюсь, OpenAI предусмотрит все возможные сценарии злоупотребления.