Editorial: A Perigosa Convergência entre ChatGPT e Deepfakes
A revolucionária tecnologia de inteligência artificial ChatGPT, lançada pela OpenAI em novembro de 2022, trouxe consigo um debate acalorado sobre seus possíveis danos. Especialistas das mais diversas áreas já se preocupam com o poder da IA generativa, especialmente quando combinada com deepfakes, levando-nos a questionar os limites dessa inovação.
Por Bia Ludymila (MTB 0081969/SP) – A revolucionária tecnologia de inteligência artificial ChatGPT, lançada pela OpenAI em novembro de 2022, trouxe consigo um debate acalorado sobre seus possíveis danos.
Especialistas das mais diversas áreas já se preocupam com o poder da IA generativa, especialmente quando combinada com deepfakes, levando-nos a questionar os limites dessa inovação.
A questão reside em como utilizamos e contextualizamos as perguntas feitas ao ChatGPT, visando obter respostas mais precisas e refinadas em tempo real. Contudo, a explosão de dados disponíveis nas últimas décadas também suscita riscos à democracia, agravados pela crise da informação e polarização social nas bolhas digitais.
A IA generativa imita o cérebro humano, incluindo seus vieses e desvalores, o que resulta em informações muitas vezes falsas ou deturpadas. Soma-se a isso a falta de fontes e referências nas respostas, dificultando a verificação da veracidade das informações fornecidas pelo ChatGPT.
Ademais, a convergência entre ChatGPT e deepfakes adiciona um elemento ainda mais perturbador. Deepfakes já representam uma ameaça na criação de vídeos falsos, mas a possibilidade de utilizá-los para gerar texto, imagem ou som, de maneira sintaticamente correta e semanticamente consistente, aumenta o caos informacional e a desconfiança na imprensa.
O ChatGPT é um instrumento poderoso e criativo, mas é necessário regulamentar e auditar constantemente seu uso, a fim de evitar falhas éticas e combater a propagação de informações distorcidas e extremistas. O futuro da inteligência artificial depende de como enfrentamos os desafios éticos e tecnológicos que surgem com essas inovações.
*Texto com base no artigo de Magaly Prado, pesquisadora na Cátedra Oscar Sala, do Instituto de Estudos Avançados (IEA) da USP, publicado no Jornal da Usp.
Leia mais em Opinião
Últimas novidades
