Inteligência Artificial: o fim da realidade como a conhecemos
José Roberto de Toledo falou sobre uma brincadeira que fez com Thais Bilenky no podcast A Hora: enviou um áudio criado por inteligência artificial para testar se ele conseguiria distinguir entre sua voz real e a sintética. O episódio já está disponível nas principais plataformas. Ouça aqui.
"Você me mandou um áudio bastante traiçoeiro, só que eu te conheço de outros carnavais, né? Eu sei quando é você e quando é a máquina", respondeu Bilenky, revelando que não se deixou enganar facilmente.
Mas Toledo alertou que os avanços recentes da IA o levam a crer que estamos próximos do fim da realidade como a conhecemos. Para ele, está se tornando meio inexorável o processo de que tudo que a gente vê através de uma tela ou de uma interface de áudio vai gerar dúvidas se aquilo é real ou não.
O primeiro caso citado pelo colunista envolveu a empresa Anthropic, concorrente do ChatGPT financiada por Google e Amazon. Em um teste controverso com seu modelo Claude 4, a empresa criou uma situação limite alimentando a IA com e-mails falsos e dizendo que seria desligada e substituída por um modelo mais avançado.
"O resultado foi que em mais de 80% das simulações, o Claude 4 chantageou o engenheiro para que não o desligasse, ameaçando divulgar que ele tinha um caso extraconjugal", relatou Toledo. A Anthropic justificou que testa os modelos "nas situações mais limites possíveis para saber se eles são uma ameaça à humanidade".
O segundo caso foi o lançamento pelo Google da terceira versão de um software que produz vídeos ultrarrealistas. Toledo mostrou exemplos de apresentadores de televisão completamente criados por computador, indistinguíveis da realidade. "A cena inteira, os apresentadores de televisão, tudo ali foi criado pelo computador."
Mas o uso político já virou realidade. Na eleição municipal de Buenos Aires, um deepfake do ex-presidente Mauricio Macri foi usado recomendando voto no candidato do presidente Milei, e não na candidata de seu próprio partido. "Pela primeira vez em três décadas, o partido do Macri perdeu a eleição em Buenos Aires para o partido candidato do Milei. Ou seja, o uso de deepfake já está decidindo eleições."
Toledo antecipou-se ao futuro criando seu próprio avatar, o "Toledo Sintético", e desafiou os ouvintes a distinguir entre sua voz real e a artificial. "A inteligência artificial está ficando cada vez mais assustadoramente parecida com a realidade", disse em uma demonstração que deixou dúvidas sobre qual versão estava falando.
"O meu modelo de voz, um mês atrás, eu não tinha coragem de mostrar para ninguém de tão ridículo que ele era. Era, obviamente, claro que não se tratava de mim. Agora, vocês vão decidir se está enganando ou não está enganando alguém."
A questão central, segundo Toledo, é quem vai dizer o que é real e o que não é real - um problema que envolve governança global. A Europa aprovou lei regulamentando IA em 2024, os Estados Unidos seguem sem regras claras e a China exige aprovação governamental prévia para modelos de IA, gerando censura.
"Vai precisar ter uma espécie de selo de garantia de que aquilo é real. O problema é que não tem consenso de como fazer isso", observou o colunista.
Conversando com o próprio ChatGPT sobre o futuro, Toledo recebeu previsões preocupantes: vídeos jornalísticos inteiros narrados por pessoas sintéticas, entrevistas com avatares de fontes indisponíveis criados a partir de acervos anteriores e a possibilidade de cada pessoa ter uma versão sintética treinada para dar entrevistas e palestras.
"Haverá um mercado que ele chama de veracidade certificada com selos, criptografia, marca d'água para conteúdos verificados como conteúdos humanos. A gente vai ter que provar o contrário. O ônus da prova está invertido."
A conclusão de Toledo é categórica: "A realidade como a gente a conhece já não existe mais. Porque tudo que a gente vê através de uma interface digital, hoje, não dá para ter certeza de que aquilo foi produzido por uma inteligência artificial ou por um ser humano."
"O desafio não é mais tecnológico. O desafio é ético e político. Porque, sem regulamentação, vai virar uma selva", alertou, enquanto Bilenky completou: "E filosófico, né? Haja filosofia para entender a humanidade."
Podcast A Hora, com José Roberto de Toledo e Thais Bilenky
A Hora é o podcast de notícias do UOL com os jornalistas Thais Bilenky e José Roberto de Toledo. O programa vai ao ar todas as sextas-feiras pela manhã nas plataformas de podcast e, à tarde, no YouTube. Na TV, é exibido às 16h. O Canal UOL está disponível na Claro (canal nº 549), Vivo TV (canal nº 613), Sky (canal nº 88), Oi TV (canal nº 140), TVRO Embratel (canal nº 546), Zapping (canal nº 64), Samsung TV Plus (canal nº 2074) e no UOL Play.
Escute a íntegra nos principais players de podcast, como o Spotify e o Apple Podcasts já na sexta-feira pela manhã. À tarde, a íntegra do programa também estará disponível no formato videocast no YouTube. O conteúdo dará origem também a uma newsletter, enviada aos sábados.
Reportagem
Texto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis.
Deixe seu comentário
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.