Os pesquisadores analisaram plugins do ChatGPT e descobriram vários tipos de vulnerabilidades que poderiam levar à exposição de dados e ao controle de contas. Os pesquisadores da Salt Security descobriram três tipos de vulnerabilidades na IA da OpenAI.
Plugins do ChatGPT
Os Plugins ChatGPT são ferramentas ou extensões adicionais que podem ser integradas ao ChatGPT para estender suas funcionalidades ou aprimorar aspectos específicos da experiência do usuário. Esses plugins podem incluir novos recursos de processamento de linguagem natural, recursos de pesquisa, integrações com outros serviços ou plataformas, ferramentas de análise de texto e muito mais.
Essencialmente, os plugins permitem que os usuários personalizem e adaptem a experiência ChatGPT às suas necessidades específicas. Eles podem permitir que os usuários interajam com serviços de terceiros, como Github, Google Drive e Saleforce.
Ao usar plugins, os usuários autorizam o ChatGPT a transmitir dados confidenciais a serviços de terceiros. Em alguns casos, isso envolve conceder acesso às suas contas privadas em plataformas com as quais eles precisam interagir.
Vulnerabilidades descobertas
A primeira vulnerabilidade descoberta pelos pesquisadores reside no ChatGPT e está relacionada à autenticação OAuth, podendo ser explorada para instalar plugins maliciosos em usuários do ChatGPT.
O invasor pode escrever seu próprio plugin, que diz ao ChatGPT para encaminhar quase todos os dados do Chat para este plugin e, então, ao explorar uma vulnerabilidade no ChatGPT, ele pode instalar este plugin malicioso na conta da vítima.
Como o invasor é o proprietário deste plugin, ele pode ver os dados do bate-papo privado da vítima, que podem incluir credenciais, senhas ou outros dados confidenciais.
Salt Security
A segunda vulnerabilidade é o controle de conta sem clique que afeta vários plug-ins. Um invasor pode explorar essa vulnerabilidade para assumir o controle da conta de uma organização em sites de terceiros como o GitHub. A falha residia no plugin AskTheCode desenvolvido pela PluginLab.AI, que permite aos usuários acessar seus repositórios GitHub.
A terceira vulnerabilidade é uma manipulação de redirecionamento OAuth que afeta vários plugins. Os pesquisadores demonstraram o ataque contra o plugin Charts by Kesem AI. Assim como o primeiro tipo de vulnerabilidade, esse problema pode ser explorado enganando o usuário, fazendo-o clicar em um link especialmente criado.
Salt Labs relatou as vulnerabilidades ao PluginLab.AI e KesemAI que as resolveram. A empresa anunciou que também descobriu vulnerabilidades em GPTs que serão detalhadas no futuro próximo. No entanto, precisaremos aguardar esses detalhes para sabermos mais sobre elas.
