A inteligência artificial (IA) está cada vez mais presente na rotina. Ela ajuda a escrever textos, editar imagens, criar vídeos, responder perguntas e até transformar fotografias pessoais em personagens de outras épocas, desenhos ou versões fictícias.
Mas, enquanto milhões de pessoas utilizam essas ferramentas por curiosidade ou diversão, especialistas discutem uma questão mais ampla: até que ponto a sociedade conhece os riscos envolvidos no avanço e no uso da inteligência artificial?
O debate está bombando nas redes após declarações de Evan Hubinger, ex-pesquisador de segurança da Anthropic, empresa responsável pelo desenvolvimento da IA Claude. Em uma publicação no X, Hubinger afirmou acreditar que existe uma probabilidade superior a 10% de que sistemas de inteligência artificial possam representar uma ameaça extrema à humanidade nos próximos dez anos, causando nosso extermínio.
A declaração chamou atenção pelo tom, mas o próprio pesquisador fez uma distinção importante: segundo ele, os modelos de IA disponíveis atualmente representam um risco baixo. A preocupação está relacionada ao ritmo de desenvolvimento da tecnologia e à possibilidade de sistemas futuros se tornarem progressivamente mais capazes e autônomos.
O medo é que a IA fique mais difícil de controlar
Hubinger trabalha com segurança e alinhamento de inteligência artificial, uma área dedicada a estudar formas de garantir que sistemas tecnológicos continuem seguindo objetivos e princípios definidos pelos seres humanos. Em termos simples, a preocupação é evitar que uma inteligência artificial extremamente avançada passe a tomar decisões ou realizar tarefas de maneiras que seus criadores não consigam prever ou controlar.
O pesquisador afirmou que ainda não existe uma solução clara para o chamado problema do alinhamento de sistemas de IA mais avançados. Essa preocupação foi respaldada nas redes por outros profissionais da área, que também estão se manifestando.
Jacob Coxon, pesquisador que deixou recentemente a Anthropic e também trabalhou na OpenAI, criticou empresas do setor e afirmou que os sistemas de inteligência artificial estão avançando rapidamente. A preocupação levantada por pesquisadores é que tecnologias cada vez mais poderosas possam realizar atividades de forma autônoma, incluindo tarefas complexas relacionadas à programação, pesquisa e segurança digital.
A principal crítica de Coxon não se limita aos possíveis riscos da tecnologia. Para ele, há também uma preocupação com o fato de decisões capazes de afetar milhões de pessoas estarem concentradas em um grupo reduzido de empresas e executivos envolvidos em uma disputa para liderar o setor.
Segundo o pesquisador, ele é frequentemente questionado sobre o motivo de essas empresas continuarem avançando, mesmo diante dos riscos que seus próprios profissionais apontam. Na visão de Coxon, há diferenças entre a postura das duas companhias. Ele afirma que, na OpenAI, parte das pessoas talvez não compreenda plenamente a dimensão das consequências que o desenvolvimento da IA pode trazer. Já na Anthropic, segundo ele, existe maior consciência sobre o que está em jogo, mas a empresa também estaria inserida em uma corrida para chegar à frente das concorrentes.
Nos últimos anos, empresas como OpenAI, Anthropic e Meta também passaram a divulgar incidentes e pesquisas envolvendo o uso de sistemas de IA em ataques cibernéticos e outras atividades potencialmente perigosas, mas seguem não compartilhando como (ou se) investem em combater os riscos desses avanços.
Afinal, a inteligência artificial pode exterminar a humanidade?
Apesar da declaração dos especialistas sobre o que pode acontecer no futuro se não tomarmos cuidado, não temos evidência de que as ferramentas utilizadas pela população estejam próximas de desenvolver consciência ou de assumir o controle da sociedade neste momento.
A preocupação está relacionada, principalmente, a sistemas futuros muito mais avançados e autônomos. Ao mesmo tempo, outros especialistas defendem que o debate sobre IA não deve ficar restrito a cenários de filmes de ficção científica, algo mais próximo e também problemático já acontece agora.
Enquanto pesquisadores discutem o futuro da superinteligência artificial, milhões de pessoas compartilham diariamente informações pessoais com plataformas digitais sem saber exatamente o que acontece com esses dados.
O risco que já está no celular dos usuários
Nos últimos meses, ferramentas capazes de transformar fotografias em ilustrações, personagens, versões envelhecidas ou imagens criadas artificialmente se popularizaram nas redes sociais. As chamadas trends de inteligência artificial costumam funcionar de maneira simples: o usuário envia uma ou várias fotos e escreve um comando descrevendo a imagem que deseja receber.
O resultado pode parecer inofensivo. Afinal, muitas pessoas querem apenas descobrir como ficariam nos anos 1980, como personagens de filmes ou em versões criadas por inteligência artificial. Mas existe uma questão que nem sempre recebe atenção: o envio de uma foto significa compartilhar dados com uma plataforma, e uma imagem pode conter muito mais informações do que parece.
Por que uma foto é um dado sensível?
O rosto é uma característica biométrica. Assim como impressões digitais e outros elementos físicos, características faciais podem ser utilizadas para identificar uma pessoa. Por isso, o usuário precisa entender para qual serviço está enviando suas imagens e quais regras a empresa estabelece para o armazenamento e o tratamento desses dados.
E é aí que entra outro problema: muitas pessoas aceitam termos de uso e políticas de privacidade sem realizar a leitura completa. O usuário pode não saber por quanto tempo uma imagem será armazenada, se ela poderá ser utilizada para aprimorar serviços ou quais são as regras adotadas pela plataforma para o tratamento daquele conteúdo.
As políticas variam de acordo com cada empresa e ferramenta. Por isso, não é possível afirmar que todas as inteligências artificiais utilizam fotografias enviadas pelos usuários da mesma maneira. O ponto principal é que não existe uma regra única válida para todas as plataformas.
Antes de participar de uma trend, é importante verificar qual ferramenta está sendo utilizada e consultar as informações disponibilizadas pela empresa responsável pelo serviço.
O que acontece depois que uma foto é enviada?
Quando uma fotografia é enviada para uma plataforma, o arquivo deixa o dispositivo do usuário e passa a ser processado nos sistemas do serviço utilizado. Dependendo da ferramenta e de suas configurações, podem existir regras diferentes sobre armazenamento, retenção e utilização dos dados.
Por isso, especialistas em segurança digital costumam recomendar atenção especial às permissões concedidas a aplicativos e plataformas. O usuário deve verificar, por exemplo, se está utilizando uma ferramenta conhecida, quem é a empresa responsável pelo serviço e quais informações são solicitadas.
Também é importante evitar o compartilhamento desnecessário de dados pessoais. Uma fotografia aparentemente simples pode revelar detalhes que vão além do rosto. Dependendo da imagem, podem aparecer a residência da pessoa, o local de trabalho, documentos, placas de veículos, crianças, familiares e outros elementos da vida privada.
Fotos podem ser usadas para golpes?
O avanço da inteligência artificial também ampliou a capacidade de criar conteúdos falsos extremamente realistas. Imagens, vídeos e áudios podem ser manipulados para fazer parecer que uma pessoa disse ou fez algo que nunca aconteceu.
Esse tipo de conteúdo é conhecido como deepfake. Com o desenvolvimento das ferramentas de IA generativa, a criação de imagens e vídeos falsos ficou mais acessível. Isso pode abrir espaço para diferentes tipos de abuso, como golpes, desinformação, falsificação de identidade e danos à reputação.
Uma fotografia isolada não significa, automaticamente, que uma pessoa será vítima de um golpe. O risco depende de diversos fatores.
No entanto, quanto maior a quantidade de informações pessoais disponíveis publicamente ou compartilhadas em diferentes serviços, maior pode ser a exposição digital do usuário. É por isso que especialistas recomendam cautela ao publicar ou enviar conteúdos pessoais.
Como usar inteligência artificial com mais segurança?
A recomendação não é abandonar completamente a inteligência artificial, já que ferramentas podem ser utilizadas para estudar, trabalhar, criar conteúdos e facilitar diferentes atividades do dia a dia. O principal é desenvolver uma relação mais consciente com a tecnologia.
Antes de enviar uma fotografia ou informação pessoal para uma plataforma de IA, o usuário pode adotar alguns cuidados:
Verifique qual empresa desenvolveu a ferramenta: dê preferência a plataformas conhecidas e pesquise quem é responsável pelo serviço.
Leia as informações sobre privacidade: não é necessário dominar termos técnicos, mas vale procurar informações sobre o tratamento e o armazenamento dos dados.
Evite compartilhar informações desnecessárias: documentos, senhas, dados bancários e outras informações sensíveis não devem ser enviados a chats de inteligência artificial.
Observe o que aparece nas fotos: antes de fazer o upload, verifique se a imagem mostra documentos, endereços, crianças, placas de veículos ou outros dados privados.
Desconfie de aplicativos desconhecidos: uma trend viral pode ser utilizada por sites falsos ou aplicativos criados apenas para coletar informações.
Não acredite em tudo o que vê: imagens, vídeos e áudios podem ser produzidos ou manipulados por inteligência artificial.