O ChatGPT é seguro? Riscos, privacidade e como usá-lo com segurança

O ChatGPT é um chatbot de IA baseado em grandes modelos de linguagem (LLMs) que geram respostas semelhantes às humanas, com base em padrões aprendidos a partir de grandes volumes de texto e outros dados de treinamento. A OpenAI lançou o ChatGPT no final de 2022.

As pessoas atualmente utilizam essa ferramenta de IA generativa para todo tipo de finalidade, desde tarefas profissionais até questões pessoais, o que levanta preocupações sobre privacidade, segurança e o tratamento de dados dos usuários. Neste artigo, analisamos essas preocupações e apresentamos medidas práticas para ajudar a reduzir os riscos à privacidade ao utilizar o ChatGPT.

O ChatGPT é seguro? Resposta curta

De modo geral, o ChatGPT seguro para muitos usar no dia a dia, desde que os usuários evitem compartilhar informações altamente sensíveis e entendam suas limitações. A OpenAI oferece controles de privacidade e segurança, incluindo exportação de dados e opções de exclusão, Chat Temporário e controles de memória.

No entanto, nenhum sistema é perfeitamente seguro ou isento de riscos. Para usuários do ChatGPT Free, Plus e Pro, as conversas podem ser utilizadas para aprimorar os modelos da OpenAI, a menos que o treinamento de modelos seja desativado. A dependência excessiva de chatbots de IA para obter respostas, suporte emocional ou companhia também pode gerar riscos, especialmente quando o assunto envolve decisões relacionadas à saúde, segurança, questões jurídicas ou financeiras.

Como o ChatGPT protege os usuários

O ChatGPT armazena e processa grandes volumes de dados de usuários. Por esse motivo, a OpenAI utiliza diversas medidas de proteção para reduzir o risco de acesso não autorizado, violações e uso indevido.

Confira abaixo uma visão geral das principais medidas de segurança e privacidade. Para saber mais sobre como o ChatGPT protege os dados dos usuários, acesse o Portal de Confiança da OpenAI e consulte sua política de privacidade.

Criptografia de dados

O conteúdo entre usuários e a OpenAI, e entre a OpenAI e seus provedores de serviços, é criptografado em repouso e em trânsito. Para produtos corporativos, a OpenAI utiliza criptografia Advanced Encryption Standard (AES) de 256 bits em repouso e o protocolo Transport Layer Security (TLS) 1.2 ou superior em trânsito.

A criptografia é um processo criptográfico que transforma dados legíveis em um formato ilegível. Apenas as partes que possuem a chave de descriptografia correta podem reverter o processo e acessar as informações originais.

Controle de acesso

A OpenAI utiliza controles de segurança, testes e monitoramento para ajudar a reduzir o risco de acesso não autorizado, exposição de dados e uso indevido. Sua documentação de segurança e conformidade, incluindo informações sobre auditorias de terceiros, está disponível por meio do Portal de Confiança da OpenAI.

Auditorias de segurança e conformidade regulatória

A OpenAI apoia a conformidade com as leis de privacidade, incluindo o Regulamento Geral sobre a Proteção de Dados (GDPR) e a Lei de Privacidade do Consumidor da Califórnia (CCPA). O Portal de Confiança da OpenAI oferece acesso à documentação de conformidade, incluindo relatórios SOC 2 (Service Organization Control 2) Tipo 2 e certificações da ISO (International Organization for Standardization).

Auditores independentes também avaliaram os sistemas que sustentam sua API e as soluções do ChatGPT voltadas para empresas — incluindo Enterprise, Business, Edu, For Teachers e Healthcare. Esses relatórios ajudam a demonstrar se os controles da OpenAI estão alinhados a padrões reconhecidos do setor em áreas como segurança, confidencialidade, privacidade e disponibilidade.

Configurações de privacidade e controles de dados

Nas configurações do ChatGPT, os usuários podem escolher se a OpenAI pode utilizar suas conversas e arquivos para melhorar seus modelos de IA. O ChatGPT também oferece Chats Temporários. Essas conversas não aparecem no histórico de chat, não criam memórias e não são usadas para o treinamento do modelo. Os Chats Temporários ainda podem ser analisados ​​para verificar casos de abuso e são excluídos automaticamente dos sistemas em até 30 dias.

Empresas que utilizam as ofertas voltadas para clientes corporativos podem ter acesso a controles adicionais de privacidade, retenção e segurança. A OpenAI não utiliza dados da organização para treinamento de modelos por padrão em produtos corporativos. Além disso, oferece controles aprimorados de retenção de dados para organizações elegíveis, suporta a política de retenção zero de dados para casos de uso de API qualificados e disponibiliza o recurso de Gerenciamento de Chaves Corporativas para clientes que necessitam de controle sobre as chaves de criptografia.

A exclusão de um chat não implica necessariamente sua remoção imediata dos sistemas da OpenAI. A retenção depende do tipo de dado, de como ele é utilizado e das configurações da conta — esses dados podem ser retidos quando necessário para fins comerciais legítimos, razões de segurança, obrigações legais ou resolução de disputas.

Autenticação do usuário

A OpenAI suporta autenticação multifator (MFA), que exige uma etapa adicional de verificação durante o login. Isso reduz o risco de que uma senha roubada por si só permita a um invasor acessar a conta, embora não elimine totalmente o risco de tomada de conta .

Desidentificação de dados

A OpenAI adota medidas para reduzir a quantidade de informações pessoais nos conjuntos de dados de treinamento antes de utilizá-los para aprimorar e treinar modelos. Sua Política de Privacidade também estabelece que a OpenAI pode agregar ou desidentificar dados pessoais, de modo que não identifiquem mais o usuário.

Porém, os usuários ainda devem evitar compartilhar informações pessoais sensíveis com o ChatGPT, pois a desidentificação não garante que dados sensíveis jamais serão expostos ou deduzidos.

Quais são as principais preocupações em relação ao uso do ChatGPT?

Embora o ChatGPT inclua proteções de privacidade e segurança, ele apresenta riscos comuns a muitos sistemas de IA generativa.

Preocupações com privacidade e segurança

Para contas pessoais do ChatGPT, a OpenAI pode usar conversas e arquivos carregados para aprimorar seus modelos, a menos que o treinamento de modelos seja desativado. Quando essa configuração está desativada, novas conversas não são utilizadas para treinamento. Em alguns casos, revisores humanos também podem ler o conteúdo para ajudar a melhorar os serviços da OpenAI.

A OpenAI não vende dados pessoais nem compartilha conversas do ChatGPT com anunciantes. Porém, optar por não participar do treinamento de modelos não exclui necessariamente os dados existentes da conta ou das conversas. Assim como acontece com qualquer serviço online que armazena dados de usuários, as informações retidas ainda podem apresentar riscos residuais de segurança, incluindo a possibilidade de acesso não autorizado ou de uma violação de dados.

Desinformação e alucinações de IA

Assim como outros sistemas de IA generativa, o ChatGPT gera respostas com base em padrões aprendidos durante o treinamento, no prompt do usuário e em qualquer contexto ou ferramenta disponível no chat. Por isso, ele pode produzir informações incorretas, incompletas ou desatualizadas, apresentando-as com segurança. Esses erros costumam ser chamados de alucinações de IA.

Em áreas de grande impacto, como saúde, direito ou finanças, confiar em uma resposta gerada por IA sem consultar uma fonte confiável ou obter orientação profissional pode levar a más decisões. Por exemplo, informações médicas incorretas fornecidas por um chatbot de IA poderiam contribuir para escolhas de saúde arriscadas.

Impacto social e emocional

A OpenAI afirma que “o ChatGPT não foi projetado para substituir ou imitar relacionamentos humanos”, mas reconhece que algumas pessoas o utilizam dessa forma. Pesquisas iniciais da OpenAI e do MIT Media Lab identificaram associações entre certos padrões de uso do ChatGPT e indicadores como solidão, dependência emocional e interação social, embora sejam necessários mais estudos para compreender a relação de causa e efeito.

Outra preocupação em relação aos chatbots de IA é a tendência à concordância excessiva (sicofantia), situação em que o sistema tende a concordar ou validar excessivamente o usuário. Isso pode reforçar a visão preexistente da pessoa, mesmo quando uma resposta mais equilibrada seria mais segura ou útil.

O que você não deve compartilhar com o ChatGPT

A prática recomendada é tratar o ChatGPT como qualquer serviço online que armazena e processa conteúdo do usuário. Evite compartilhar qualquer informação altamente sensível, confidencial ou desnecessária para a tarefa.

Evite compartilhar o seguinte:

• Informações pessoais sensíveis: nomes completos, endereços residenciais, números de telefone, endereços de e-mail, números de documentos de identidade ou outros dados que possam identificar, localizar ou expor você.
• Credenciais e tokens de acesso: senhas, códigos de MFA, chaves de API, tokens de segurança, códigos de recuperação ou outros dados de login.
• Informações financeiras: números de conta bancária, dados de cartão de crédito, informações fiscais ou dados de pagamento.
• Informações de saúde: prontuários médicos, diagnósticos, resultados de exames, prescrições ou outros detalhes sensíveis relacionados à saúde.
• Dados confidenciais de trabalho ou de clientes: informações proprietárias, documentos internos, segredos comerciais, arquivos de clientes ou qualquer item abrangido por um acordo de confidencialidade (NDA) ou política interna da empresa.
• Assuntos legais: disputas em curso, detalhes de casos, estratégia jurídica ou informações protegidas pelo sigilo advogado-cliente.
• Informações privadas de outras pessoas: dados pessoais, fotos, mensagens ou registros envolvendo amigos, familiares, clientes, pacientes ou menores de idade.

O ChatGPT é seguro para crianças e estudantes?

Os termos de uso da OpenAI estabelecem que os usuários devem ter pelo menos 13 anos de idade, ou a idade mínima exigida em seu país para consentir com o uso do serviço. Usuários menores de 18 anos devem ter a permissão de um dos pais ou responsável legal. A OpenAI implementou medidas de previsão e verificação de idade, mas esses sistemas podem não verificar a idade de todos os usuários no momento do cadastro.

Todas as questões gerais sobre o ChatGPT se aplicam a crianças e estudantes, mas usuários mais jovens enfrentam riscos adicionais. A OpenAI também oferece controles parentais para contas vinculadas de pais e adolescentes, incluindo opções para gerenciar algumas configurações, definir horários de pausa e receber alertas de segurança em determinadas situações.

Assim como outros sistemas de IA generativa, o ChatGPT ainda pode produzir conteúdo que não seja adequado para todas as idades. A OpenAI aplica salvaguardas para adolescentes por padrão quando o usuário tem menos de 18 anos ou quando seus sistemas estimam que uma conta provavelmente pertence a alguém menor de 18 anos.

O uso do ChatGPT para trabalhos escolares pode violar políticas de integridade acadêmica, dependendo das regras da escola, do curso ou da atividade. Além disso, pode prejudicar o desenvolvimento de habilidades se os alunos o utilizarem como um atalho, em vez de como uma ferramenta de apoio.

Usuários mais jovens podem estar mais vulneráveis ​​à desinformação e aos efeitos sociais ou emocionais da dependência excessiva de chatbots de IA, uma vez que ainda estão desenvolvendo o pensamento crítico e habilidades interpessoais.

Como utilizar o ChatGPT com segurança

Os usuários podem mitigar riscos potenciais ao compreender as limitações do ChatGPT e utilizar os controles de privacidade e segurança disponíveis.

Utilize as ferramentas de privacidade do ChatGPT

Antes de utilizar o ChatGPT, revise as configurações de privacidade. Controles de dados integrados podem ajudar a reduzir a forma como suas informações são armazenadas ou utilizadas.

Opte por não participar do treinamento de modelos da OpenAI

1. Clique no seu ícone de perfil e selecione Settings (Configurações).
   
2. Acesse a seção Data controls (Controles de dados).
   
3. Desative a opção Improve the model for everyone (Melhorar o modelo para todos) e clique em Done (Concluído).
   

Exclua seus chats

Para excluir uma conversa individual:

1. Abra a barra lateral do histórico de chats, passe o mouse sobre o chat que deseja excluir e clique nos três pontos ...) ao lado do título do chat.
   
2. Selecione Delete (Excluir) e clique novamente em Delete (Excluir) para confirmar.
   

Para excluir todas as conversas de uma vez:

1. Abra a seção Settings (Configurações).
2. Acesse Data controls (Controles de dados).
3. Clique em Delete all chats (Excluir todos os chats) e confirme a exclusão quando solicitado.
   

Utilize Chats Temporários

Para começar um Chat Temporário:

1. Comece uma nova conversa clicando em New chat (Novo chat).
   
2. Clique no botão Temporary (Temporário) no canto superior da página e selecione Continue (Continuar).
   

Utilize senhas fortes e autenticação multifator (MFA)

Senhas fortes ajudam a proteger contas contra a adivinhação de senhas, credential stuffing (preenchimento de credenciais) e outros ataques de tomada de conta.

Uma senha forte deve ser longa, exclusiva e difícil de adivinhar. Um gerenciador de senhas como o ExpressKeys pode ajudar a criar e memorizar senhas complexas.

Você pode aumentar ainda mais a segurança da sua conta ativando a MFA. Para fazê-lo, abra a seção Settings (Configurações), selecione Security (Segurança), escolha um método na seção Multi-factor authentication (MFA) (Autenticação multifator) e siga as instruções de configuração.

Verifique respostas importantes antes de agir

O ChatGPT pode ser útil, mas suas respostas também podem ser imprecisas, incompletas ou desatualizadas. No caso de decisões importantes relacionadas a questões de saúde, jurídicas ou financeiras, verifique as informações usando fontes confiáveis ​​ou consulte um profissional qualificado.

Fique atento a golpes

Aplicativos e sites fraudulentos podem se passar pelo ChatGPT ou alegar falsamente uma conexão oficial com a OpenAI. Essas plataformas fraudulentas podem enganar os usuários para que paguem por um serviço de qualidade inferior, roubar credenciais de login ou informações pessoais por meio de phishing, ou ainda instalar malware nos dispositivos.

A OpenAI publica o aplicativo oficial do ChatGPT. Aplicativos de outros desenvolvedores podem utilizar a tecnologia da OpenAI, mas não são o aplicativo oficial do ChatGPT, a menos que tenham sido publicados pela OpenAI.

Para evitar golpes, verifique o desenvolvedor do aplicativo e faça o download apenas a partir de fontes confiáveis, como o site da OpenAI, a Apple App Store ou o Google Play.

Supervisione as crianças

Para jovens de 13 a 18 anos, pais ou responsáveis ​​devem estabelecer limites claros sobre quais informações não devem ser compartilhadas com o ChatGPT. Incentive os usuários mais jovens a questionar e verificar as respostas do ChatGPT, em vez de aceitá-las sem questionamentos. Monitore as interações para ajudar a garantir que as respostas sejam adequadas à faixa etária.

Tenha cuidado com conteúdo externo

O ChatGPT pode fornecer links para sites externos. Assim como ocorre com qualquer link, verifique se o destino é legítimo antes de abri-lo ou de inserir informações pessoais.

Para avaliar um link, passe o cursor sobre ele em um computador ou mantenha-o pressionado em um dispositivo móvel para visualizar o URL de destino. Verifique se o domínio corresponde à fonte esperada. Por exemplo, um link da Wikipedia deve levar a uma página do wikipedia.org, e não a um domínio semelhante com palavras extras, erros de ortografia ou caracteres incomuns.

Evite clicar em pop-ups ou anúncios suspeitos e não baixe arquivos nem insira informações pessoais em sites desconhecidos.

Considere usar o ExpressAI

O ExpressAI é uma plataforma de IA focada em privacidade que oferece acesso a vários modelos de IA, incluindo o modelo de pesos abertos gpt-oss-120b da OpenAI.

O ExpressAI é baseado em computação confidencial. Prompts e arquivos são criptografados e processados ​​em um enclave privado, de modo que nem a ExpressVPN nem os provedores de modelos conseguem acessar ou visualizar as conversas. As entradas dos usuários não são utilizadas para treinar modelos.

Ele também passou por uma auditoria de segurança independente realizada pela Cure53. O relatório publicado abrange testes do cliente, do back-end, da criptografia, do gerenciamento de chaves e da infraestrutura.

Esses recursos foram projetados para reduzir o risco de acesso não autorizado, exposição de dados e uso de prompts pessoais para o treinamento de modelos. O ExpressAI está incluído nos planos ExpressVPN Pro.

Perguntas frequentes: dúvidas comuns sobre segurança e privacidade do ChatGPT