O renomado ex-cientista do Google, conhecido como o padrinho da IA, Geoffrey Hinton, alertou sobre os perigos da tecnologia. Hinton, vencedor do Prêmio Turing, antes entusiasta da IA, expressou em entrevista ao The New York Times sua profunda preocupação com a rápida expansão da IA, afirmando que “é difícil ver como impedir que os maus agentes a usem para coisas ruins”.
Hinton foi contratado pelo Google há mais de uma década para desenvolver sistemas de aprendizado profundo de última geração que poderiam ajudar os computadores a interpretar imagens, texto e fala da mesma maneira que os humanos.
Em sua entrevista, Hinton delineou as cinco principais conclusões pelas quais a IA poderia tirar a humanidade dos trilhos, segundo sua visão como especialista no assunto.
Aumento da concorrência está resultando em menos abordagem cautelosa
Embora empresas como Microsoft, Google e OpenAI frequentemente afirmem que estão adotando uma abordagem lenta e cautelosa para o desenvolvimento de IA e implantação de chatbot, o Dr. Hinton disse ao The New York Times que está preocupado com o fato de que o aumento da concorrência está resultando em menos abordagem cautelosa.
Perda da verdade
O Dr. Hinton se preocupa com a proliferação da IA, levando a uma enxurrada de conteúdo online falso. Já que as pessoas agora são regularmente enganadas por músicas de IA que falsificam os dons vocais dos mestres, imagens de notícias de IA sendo tratadas como imagens reais e generativas ganhando competições de fotografia. Com o poder e a difusão dos deep fakes, poucos vídeos que assistimos hoje podem ser interpretados como verdadeiros. Ainda assim, o Dr. Hinton pode estar certo de que este é apenas o começo.
Mudanças na força de trabalho
O Dr. Hinton alertou o The Times que a IA está preparada para assumir mais do que apenas tarefas que não queremos fazer. Muitos de nós já utilizamos ChatBots como Bard e ChatGPT para escrever apresentações, propostas e até mesmo programar. Atualmente, existem dezenas de romances gerados por IA à venda na Amazon, e o sindicato dos roteiristas (Writers Guild of America) nos EUA expressou preocupação. E embora não tenha havido demissões generalizadas ligadas diretamente à IA, o crescimento dessas ferramentas poderosas está levando alguns a repensar suas forças de trabalho.
Comportamento inesperado e indesejado
Uma das características das redes neurais e da IA de aprendizado profundo é que ela pode usar vastas faixas de dados para aprender a si mesma. Uma das consequências não intencionais desse poder semelhante ao do cérebro humano é que a IA pode aprender lições que você nunca antecipou. Dr. Hinton disse que uma IA que pode não apenas programar, mas também executar sua própria programação é especialmente preocupante, quando se refere a resultados não intencionais.
A IA será mais inteligente do que nós
A IA atual geralmente parece mais inteligente que os humanos, mas com sua propensão a alucinações e fatos fabricados, está longe de se igualar às nossas maiores mentes. O Dr. Hinton acredita que o dia em que a IA nos superará está se aproximando rapidamente, e certamente mais rápido do que ele previu originalmente.
Em sua conta no Twitter, Hinton negou que deixou a companhia para poder criticá-la. “O Google tem agido de maneira muito responsável“, afirmou.
O que você pensa sobre tudo isso?
English 
Portuguese