Ассистент искусственного интеллекта в Microsoft, Copilot, случайно раскрыл содержание частных репозиториев более 20 000 организаций. Он включает в себя несколько крупных брендов, таких как Google, Intel, Huawei, PayPal, IBM, Tencent и даже Microsoft.
Однако, хотя репозитории были первоначально открыты для общественности через более чем 16 000 организаций, они перешли на частные, потому что они содержали конфиденциальную информацию. Информация включает в себя учетные данные аутентификации, ведущие к несанкционированному доступу. Такое событие произошло несколько месяцев назад, но данные все еще полностью доступны через Copilot, и любой может получить к нему доступ.
Откровение появилось во второй половине 2024 года компанией по безопасности AI Lasso. В январе Лассо обнаружил, что Копилот продолжал удерживать и демонстрировать частные репозитории и вышел, чтобы измерить величину проблемы.
Офир Дрор и Бар Ланьядо, исследователи Лассо написали в посте: «Понимая, что любые данные о Github, даже если он был общедоступным на короткое время, могут быть проиндексированы и потенциально подвергнуты инструментам, таким как Copilot, мы были встревожены тем, насколько легко эта информация могла быть получена».
Кроме того, было написано «мотивированное, чтобы понять полный объем вопроса, мы автоматизировали идентификацию« Репозиториев зомби »- те, которые перешли от общественности к частному и подтвердили наши выводы».
Исследователи проследили утечку до механизма кэширования бинга, обнаружив, что Microsoft показала один из частных репозиториев Лассо миру. Страницы были проиндексированы поисковой системой, когда они все еще были общедоступны и не смогли очистить эти записи после того, как репозитории стали частными на GitHub.
Таким образом, поскольку Copilot работает на двигателях Bing для возможностей поиска, частные данные стали доступными и через чат -бот ИИ. С тех пор Microsoft внесла изменения в свою систему для восстановления этой проблемы после отчета Lasso в ноябре