AI ‘padrinho’ Geoffrey Hinton abandona aviso do Google sobre os perigos da tecnologia

Ai “Godfather” Geoffrey Hinton, deixou seu cargo no Google na semana passada para levantar preocupações sobre os potenciais “perigos” associados à tecnologia de IA, que incluem problemas de desinformação que ele pode ter contribuído para o desenvolvimento

A pesquisa inovadora de Geoffrey Hinton sobre redes neurais desempenhou um papel significativo na formação dos sistemas de inteligência artificial que sustentam vários produtos contemporâneos.

Por dez anos, ele trabalhou meio período no Google, contribuindo para os empreendimentos de desenvolvimento de IA da empresa. No entanto, ele agora tem reservas sobre a tecnologia e seu envolvimento em seu avanço.

Aos 75 anos, Hinton revelou que deixou seu cargo no Google para falar abertamente sobre os perigos da IA ​​e, em parte, porque lamenta seu papel no avanço do campo.

O Google recrutou Hinton para auxiliar no desenvolvimento de sua tecnologia de IA, e sua abordagem inovadora abriu caminho para sistemas contemporâneos como o ChatGPT.

Em entrevista ao New York Times, Hinton afirmou acreditar que o Google era um superintendente responsável da tecnologia até o ano passado, mas isso mudou quando a Microsoft integrou um chatbot em seu mecanismo de busca Bing, levando o Google a se preocupar com o impacto no seu negócio de busca.

Durante uma entrevista à BBC, Hinton revelou que alguns dos riscos associados aos chatbots de IA eram “bastante assustadores”. Ele alertou que eles poderiam superar a inteligência humana e serem suscetíveis à manipulação por “maus atores”.

Em um tweet na segunda-feira, Hinton disse que deixou o Google para poder falar livremente sobre os riscos da IA, e não devido ao desejo de criticar o Google especificamente.

“Saí para poder falar sobre os perigos da IA ​​sem considerar como isso afeta o Google”, disse Hinton em um tweet. “O Google agiu com muita responsabilidade.”

Hinton também disse em um discurso de formatura em 2021 no Indian Institute of Technology Bombay em Mumbai. Ele observou como a IA aumentará a assistência médica e, ao mesmo tempo, criará oportunidades para armas autônomas letais.

“Acho essa perspectiva muito mais imediata e muito mais aterrorizante do que a perspectiva de robôs assumirem o controle, o que acho que está muito distante”.

Departamento de Ciência de Dados e IA, Faculdade de Tecnologia da Informação da Monash University O professor Geoff Webb diz que as ações baseadas em princípios de Hinton são um alerta oportuno.

“A IA está se desenvolvendo em um ritmo acelerado e a pesquisa está concentrada nas mãos de algumas corporações com sede em outros países como os EUA e a China”, diz o professor Webb

“Os sistemas de IA que estão sendo criados têm muitos recursos imprevistos anteriormente, como a capacidade de escrever programas de computador. Mesmo as empresas que constroem esses sistemas não conhecem todas as suas capacidades”,

“É extremamente perigoso para a compreensão da Austrália sobre essas capacidades ficar muito atrás das mãos que as controlam”, disse.

“Devemos construir uma base forte de expertise australiana imparcial que possa desenvolver sistemas e políticas transparentes de IA”,

“A menos que nosso entendimento acompanhe o dos mestres da tecnologia, estaremos à mercê deles em como eles escolhem implantá-los e podemos ser pegos de surpresa por usos que promovem os interesses corporativos em vez dos do público australiano”. ele disse

Como um número crescente de legisladores, grupos de defesa e especialistas do setor expressaram preocupação com o potencial dos chatbots com inteligência artificial para disseminar desinformação e eliminar empregos, a decisão de Hinton de deixar o Google e expressar publicamente suas apreensões sobre a tecnologia é significativa.

O recente aumento de interesse no ChatGPT reacendeu uma competição entre empresas de tecnologia para criar e implementar soluções comparáveis ​​baseadas em IA em seus produtos.

Enquanto OpenAI, Microsoft e Google estão liderando o caminho neste campo, IBM, Amazon, Baidu e Tencent também estão buscando tecnologias semelhantes.

Em março, vários indivíduos notáveis ​​da indústria de tecnologia endossaram uma carta pedindo aos laboratórios de IA que parassem de treinar os sistemas de IA mais potentes por um período mínimo de seis meses , citando os “riscos significativos para a sociedade e a humanidade” que essa tecnologia representa.

A preocupação imediata de Hinton é que a Internet agora está inundada com fotos, vídeos e textos gerados por IA, tornando cada vez mais difícil para os indivíduos distinguir a realidade da fabricação.

As últimas melhorias em geradores de imagens, como o Midjourney, permitem que as pessoas criem imagens fotorrealistas, uma das quais, uma imagem viral do Papa Francisco vestindo um casaco Balenciaga, é um excelente exemplo.

Hinton também apreende que a IA poderia eventualmente substituir profissões como paralegais, assistentes pessoais e outras tarefas monótonas, e potencialmente muitas outras no futuro.

Jeff Dean, cientista-chefe do Google, reconheceu e expressou gratidão pelas contribuições de Hinton à empresa nos últimos dez anos em um comunicado.

Hinton não é o único funcionário do Google a levantar preocupações sobre IA. Em julho, a empresa demitiu um engenheiro que alegou que um sistema de IA não lançado havia se tornado autoconsciente, citando violações de políticas de segurança de dados e emprego.