ChatGPT está vazando conversas e dados sigilosos para terceiros, diz relatório

O ChatGPT está vazando conversas com usuários, revelando até mesmo dados sigilosos como logins e senhas, em alguns casos, conforme revelou o ArsTechnica na segunda-feira (29). Capturas de tela compartilhadas com a publicação mostram a inteligência artificial (IA) generativa exibindo as informações durante interações não relacionadas.

Em um dos prints, é possível ver nomes de usuário e senhas de um sistema de suporte utilizado por funcionários de um portal de medicamentos prescritos por uma farmácia. Aparentemente, um contratado da empresa acionou o chatbot da OpenAI em busca de soluções para algum problema na página, segundo o relatório.

Conversa vazada pelo ChatGPT para um usuário que fazia pesquisas não relacionadas.

Nas demais conversas vazadas pelo ChatGPT, surgiram detalhes de uma proposta de pesquisa não publicada, scripts usando a linguagem PHP e o nome de uma apresentação em desenvolvimento. As interações parecem ter sido feitas por pessoas diferentes, de acordo com a reportagem.

Vale lembrar que a IA generativa já passou por outros vazamentos, expondo dados de assinantes e conversas para terceiros em março de 2023, além de informações usadas no seu treinamento, em novembro do ano passado. A OpenAI afirmou que está investigando o incidente relatado agora e deve fornecer detalhes em breve.

Como os dados do ChatGPT foram acessados?

As senhas vazadas pelo ChatGPT apareceram por acaso para o usuário da plataforma, Chase Whiteside. Ele disse que pediu ajuda à IA para encontrar nomes inteligentes para cores em uma paleta, no domingo (28), e a tecnologia exibiu as conversas com terceiros na sequência.

“Elas não estavam lá quando usei o ChatGPT ontem à noite (sou um usuário bastante assíduo). Nenhuma consulta foi feita — elas apenas apareceram no meu histórico e certamente não são minhas (e também não acho que sejam do mesmo usuário)”, revelou Whiteside, em entrevista ao site.

Diante da recorrência do problema, é essencial ter cuidado com o tipo de dados compartilhados com o bot alimentado por IA. Especialistas recomendam não digitar informações sensíveis durante as interações com a tecnologia.