Editorial: A Perigosa Convergência entre ChatGPT e Deepfakes

Especialistas das mais diversas áreas já se preocupam com o poder da IA generativa, especialmente quando combinada com deepfakes, levando-nos a questionar os limites dessa inovação.

A questão reside em como utilizamos e contextualizamos as perguntas feitas ao ChatGPT, visando obter respostas mais precisas e refinadas em tempo real. Contudo, a explosão de dados disponíveis nas últimas décadas também suscita riscos à democracia, agravados pela crise da informação e polarização social nas bolhas digitais.

A IA generativa imita o cérebro humano, incluindo seus vieses e desvalores, o que resulta em informações muitas vezes falsas ou deturpadas. Soma-se a isso a falta de fontes e referências nas respostas, dificultando a verificação da veracidade das informações fornecidas pelo ChatGPT.

Ademais, a convergência entre ChatGPT e deepfakes adiciona um elemento ainda mais perturbador. Deepfakes já representam uma ameaça na criação de vídeos falsos, mas a possibilidade de utilizá-los para gerar texto, imagem ou som, de maneira sintaticamente correta e semanticamente consistente, aumenta o caos informacional e a desconfiança na imprensa.

O ChatGPT é um instrumento poderoso e criativo, mas é necessário regulamentar e auditar constantemente seu uso, a fim de evitar falhas éticas e combater a propagação de informações distorcidas e extremistas. O futuro da inteligência artificial depende de como enfrentamos os desafios éticos e tecnológicos que surgem com essas inovações.

*Texto com base no artigo de Magaly Prado, pesquisadora na Cátedra Oscar Sala, do Instituto de Estudos Avançados (IEA) da USP, publicado no Jornal da Usp.