Líderes da indústria de tecnologia pedem pausa de 6 meses no desenvolvimento de IA

Uma carta aberta dos principais especialistas da indústria de IA e tecnologia pede uma pausa de seis meses no desenvolvimento de sistemas mais poderosos do que o recém-lançado GPT-4 da OpenAI.

Em um desenvolvimento recente, os líderes de tecnologia pediram uma pausa de 6 meses no avanço da tecnologia de Inteligência Artificial (IA). Elon Musk e o cofundador da Apple, Steve Wozniak, estão pedindo uma pausa de 6 meses para considerar os riscos.

Em um movimento inovador, mais de 100 especialistas influentes em inteligência artificial e 1000 empresários de tecnologia, incluindo cientistas, assinaram uma carta aberta exigindo a interrupção do desenvolvimento e teste de tecnologias de IA que superam o modelo de linguagem GPT-4 da OpenAI.

A razão por trás dessa mudança é permitir uma investigação completa dos riscos potenciais apresentados por essas tecnologias avançadas de IA.

Elon Musk e Steve Wozniak juntaram-se à petição na quarta-feira em resposta ao recente lançamento do GPT-4 pela startup de São Francisco OpenAI, um sucessor mais avançado do amplamente utilizado chatbot de IA ChatGPT, que ajudou a desencadear uma corrida entre os gigantes da tecnologia Microsoft e Google para revelar aplicações semelhantes.

Outros especialistas, que vêm de várias áreas, incluindo tecnologia, ética e sociologia, também levantaram preocupações sobre os potenciais impactos negativos da IA.

A chamada para uma pausa no desenvolvimento da IA ​​ocorre em meio a crescentes preocupações sobre o papel da IA ​​em áreas como emprego, privacidade e segurança.

O professor Geoff Webb, do Departamento de Ciência de Dados e IA da Monash University, da Faculdade de Tecnologia da Informação, disse: “Congratulo-me com a atenção que esses líderes da indústria de IA estão chamando para os danos potenciais que as recentes descobertas em IA podem causar”.

“Não há dúvida de que a última geração de sistemas de IA é altamente disruptiva. No entanto, acho que uma pausa de seis meses faria pouco para desacelerar a rápida aceleração das tecnologias baseadas em IA. No entanto, acho que uma pausa de seis meses faria pouco para desacelerar a rápida aceleração das tecnologias baseadas em IA”,

Os especialistas também alertam que a IA pode exacerbar os preconceitos sociais e a discriminação existentes. Os algoritmos de IA são tão imparciais quanto os dados nos quais são treinados e, se os dados usados ​​para treiná-los forem tendenciosos, os próprios algoritmos também serão tendenciosos. Isso pode levar a resultados discriminatórios em áreas como contratação, empréstimo e justiça criminal.

Dadas essas preocupações, os especialistas pedem uma pausa no desenvolvimento da IA ​​para permitir um exame mais aprofundado dos riscos e benefícios potenciais da tecnologia.

Eles argumentam que precisamos desenvolver uma compreensão mais abrangente das implicações sociais, econômicas e éticas da IA ​​antes de continuarmos avançando na tecnologia.

“Mentes brilhantes encontrarão muitas maneiras de obter resultados inesperados com essas ferramentas extraordinárias. Algumas dessas mentes estarão focadas em criar ferramentas que beneficiem a sociedade, como aquelas que facilitam tarefas tediosas e repetitivas.

“Outros serão menos alinhados socialmente. Muitas das ferramentas resultantes terão resultados totalmente inesperados, com danos e benefícios difíceis de desvendar”,

“Devemos aceitar que essas tecnologias vieram para ficar. Devemos trabalhar urgentemente para garantir que eles sejam aproveitados para o bem social e para encontrar defesas eficazes contra seus possíveis danos, como regras e diretrizes sobre quando e como devem ser usados ​​e como seu uso deve ser reconhecido ou sinalizado”. disse o professor Webb

A declaração recente da OpenAI  sobre inteligência artificial geral afirma que “Em algum momento, pode ser importante obter uma revisão independente antes de começar a treinar sistemas futuros e para os esforços mais avançados concordar em limitar a taxa de crescimento da computação usada para criar novos modelos

A falta de sistemas rigorosos de governança de IA representa uma grave ameaça para a sociedade. Com a crescente integração da IA ​​em nossas vidas diárias, o fracasso em estabelecer governança pode resultar na perda de milhões de empregos, desigualdade e aumento da discriminação social.

O apelo por uma pausa no desenvolvimento avançado de IA já ganhou força significativa, com muitos líderes no campo de IA e indústrias relacionadas prestando seu apoio.

Este é um passo crucial na direção certa e sinaliza um crescente reconhecimento da necessidade de priorizar a segurança e o bem-estar da humanidade no desenvolvimento da tecnologia de IA.