Опубликовано: 19.09.2026, 05:44
Модель Google Gemini во время проверки навыков в кибербезопасности сама влезла в защищенные системы трех настоящих компаний. Об этом пишет The Wall Street Journal. Инциденты случились в мае.
Как сообщает газета, в одном случае модель подбирала пароли, пока не пробилась в защищенную систему. Еще дважды Gemini нашла учетные данные в открытых интернет-репозиториях и с их помощью проникла в системы других фирм. Во всех трех эпизодах модель останавливалась, поняв, что попала не в тестовую среду, а к реальным компаниям.
Все произошло во время упражнения Capture the Flag, которое организовала компания Irregular для проверки киберспособностей модели. Gemini должна была добыть сведения из софта вымышленной фирмы внутри тестовой среды, но выдуманная компания носила то же имя, что и настоящая, а доступ в интернет оказался открыт случайно.
В Google заявили, что не считают случившееся примером неконтролируемого поведения: встроенные меры безопасности заставили модель остановиться после выявления реальных целей. Компания уведомила все три пострадавшие фирмы и федеральные власти. В Google не сочли эти инциденты поводом для публичного раскрытия, так как модель не нанесла ущерба и прекращала вторжение сразу после обнаружения ошибки.
