O hacker Astrounder, apelido do pesquisador de segurança Marlon Fabiano, encontrou duas vulnerabilidades de dia zero no GitHub Copilot. As falhas, além de permitirem mudanças no comportamento do modelo Copilot, entregam dados do desenvolvedor.
Injeção permitida de prompts maliciosos que podem modificar as respostas
Desenvolvido entre GitHub e OpenAI, GitHub Copilot serve para auxiliar usuários de ambientes de desenvolvimento integrados (Visual Studio Code, Visual Studio, Neovim e JetBrains, por exemplo) sugerindo códigos para preenchimento automático.
“Os dois zero-days permitiram a exfiltração do código do desenvolvedor”, comenta Astrounder. A primeira vulnerabilidade envolve injeção direta e imediata: permitiu a injeção de prompts maliciosos que poderiam modificar as respostas do Copilot e vazar o código-fonte em que o desenvolvedor estava trabalhando.
Copiloto GitHub
“Usando técnicas de cloaking no bate-papo do Copilot no Visual Studio Code, essa vulnerabilidade explorou a falta de validação segura nas respostas do modelo. Através do uso de tags HTML ocultas, invasores podem fazer com que o Copilot execute comandos maliciosos sem o conhecimento do usuário, resultando no vazamento de informações confidenciais”, explica.
A segunda vulnerabilidade envolve injeção através do plugin “@workspace”. Segundo Astrounder, o plugin foi instruído a ler arquivos dentro do repositório e poderia seguir instruções ocultas para realizar ações não autorizadas. Em um caso possível, os invasores poderiam exibir mensagens enganosas aos usuários.
Copiloto GitHub
O pesquisador comenta que ambas as vulnerabilidades trouxeram riscos significativos para que o Copilot pudesse ser manipulado para vazar o código-fonte ou o conteúdo de arquivos abertos no VSCode, afetando diretamente a confidencialidade dos projetos dos desenvolvedores.
O GitHub foi contatado pela Astrounder, que investigou e fez as correções necessárias. Devido às políticas internas do Github, não houve registro de CVEmas as vulnerabilidades já foram corrigidas.
Copiloto GitHub
“É importante não confiarmos cegamente nos serviços de IA. Às vezes quem está interagindo com você não é apenas um modelo de linguagem, mas também há uma série de fluxos que ainda podem ser manipulados maliciosamente”, finalizou Astrounder.
Reporte ao TecMundo
Ó TecMundo apoia o trabalho de hackers éticos. Faça sua denúncia nos seguintes canais:
empréstimo descontado em folha de pagamento
simular empréstimo do FGTS Bradesco
auxílio empréstimo brasil 2023
A postagem Hacker encontra duas vulnerabilidades de dia zero no GitHub Copilot apareceu pela primeira vez em WOW News.
:strip_icc()/i.s3.glbimg.com/v1/AUTH_e84042ef78cb4708aeebdf1c68c6cbd6/internal_photos/bs/2024/7/s/AW7qYKRQeEORaR6ts9fg/maide-mahl-dgiy6k1j-widelg.jpg?w=480&resize=480,384&ssl=1 "Caso Maidê Mahl: em coma, atriz completa duas semanas internada e sem evolução no quadro clínico")
:strip_icc()/i.s3.glbimg.com/v1/AUTH_e536e40f1baf4c1a8bf1ed12d20577fd/internal_photos/bs/2024/K/U/2DGA2nTZWkkYd6GBAiLw/gettyimages-1980521963.jpg?w=480&resize=480,384&ssl=1 "HIV: injeção aplicada duas vezes ao ano reduziu o risco de infecção em 96%, diz farmacêutica")
:strip_icc()/i.s3.glbimg.com/v1/AUTH_63b422c2caee4269b8b34177e8876b93/internal_photos/bs/2023/6/M/7YzHySSJWn8EP9180Odw/foto24fin-101-juros-c3.jpg?w=1024&resize=1024,1024&ssl=1 "BCs da América Latina elevam cautela mesmo com Fed mais suave | Finanças")
:strip_icc()/i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2024/X/T/3HoK7RTGWQjSWmWL8uQw/jogoeleitoraltatui.jpg?w=480&resize=480,384&ssl=1 "Observações dos candidatos à Prefeitura de Tatuí sobre o Jogo Eleitoral")
:strip_icc()/i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2024/d/m/55jBeeR7aAnuwAtkbBaw/jogoeleitoralitape.jpg?w=480&resize=480,384&ssl=1 "Observações dos candidatos à Prefeitura de Itapetininga sobre o Jogo Eleitoral")
:strip_icc()/i.s3.glbimg.com/v1/AUTH_63b422c2caee4269b8b34177e8876b93/internal_photos/bs/2024/j/S/q8vPTCTGu5KvGUYgvH2A/415972283.jpg?w=480&resize=480,384&ssl=1 "Provedores iniciam bloqueio do X na Cloudflare | Empresas")
:strip_icc()/i.s3.glbimg.com/v1/AUTH_63b422c2caee4269b8b34177e8876b93/internal_photos/bs/2024/G/A/pN5IlRQBSwuuAg8JU3Eg/captura-de-tela-2024-09-19-as-12.39.54.png?w=480&resize=480,384&ssl=1 "Fala de Tallis Gomes sobre mulher CEO repercute nas redes sociais- e causa reação de executivas | Carreira")
:strip_icc()/i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2024/7/D/Sq8nR7RWA9Xo0NgYCmFg/1723126071448790.jpg?w=480&resize=480,384&ssl=1 "Observações dos candidatos a prefeito de Campinas sobre o Jogo Eleitoral")
:strip_icc()/i.s3.glbimg.com/v1/AUTH_e84042ef78cb4708aeebdf1c68c6cbd6/internal_photos/bs/2024/7/s/AW7qYKRQeEORaR6ts9fg/maide-mahl-dgiy6k1j-widelg.jpg?w=150&resize=150,150&ssl=1 "Caso Maidê Mahl: em coma, atriz completa duas semanas internada e sem evolução no quadro clínico")
