28 de November de 2023

Todos com o sobrenome “Festa”! A China pede que novos regulamentos exijam que a IA generativa tenha “valores centrais socialistas”

Cinco meses depois que o ChatGPT lançou a mania do chatbot, o governo chinês agiu rapidamente para anunciar novos regulamentos em uma demonstração de determinação regulatória. Os novos regulamentos exigem que todas as empresas de desenvolvimento de software de inteligência artificial (IA) generativa cumpram os regulamentos de censura. Não importa o site ou software de IA generativa, não é permitido caluniar os líderes chineses ou tocar em tabus históricos, e o conteúdo deve refletir “valores centrais socialistas.” Não deve conter a mensagem de “subversão do poder do estado” ou “minar a unidade nacional”, e todo o conjunto de algoritmos deve ser entregue.

Continua após a publicidade

Arquivos ChatGPT - Café Brasil

O New York Times informou que o Escritório de Informações da Internet do Estado da China anunciou no início do mês o esboço das medidas de gerenciamento para serviços de inteligência artificial generativa. Embora as medidas ainda não tenham sido finalizadas, os reguladores podem continuar revisando-as. Empresas de conteúdo e desenvolvimento desenhe linhas vermelhas.

As empresas devem cumprir as regras de censura do governo, e sites e aplicativos devem abster-se de postar conteúdo que desacredite os líderes da China ou toque em áreas historicamente proibidas. O conteúdo gerado pela inteligência artificial precisa incorporar “valores centrais socialistas” e “não deve conter subversão do poder do Estado” ou “minar a unidade nacional”. Ao mesmo tempo, a empresa também deve garantir que os textos e imagens gerados pelo chatbot sejam verdadeiros e respeitem os direitos de propriedade intelectual. A empresa precisa arquivar o algoritmo (ou seja, o software por trás do chatbot) com a agência reguladora conforme necessário .

Preocupado com os riscos do conteúdo generativo de IA, ocupado desenhando linhas vermelhas

As ações da China mostram a determinação do governo de regular de forma ativa e rigorosa as tecnologias que definem a era.

Leia Mais:  Reguladores antitruste da UE questionam rivais da Microsoft sobre solicitação de dados de clientes

O boom generativo da IA ​​foi desencadeado pela empresa americana OpenAI. A Microsoft investiu cerca de 13 bilhões de dólares americanos na OpenAI e se tornou um importante acionista. Esse boom levou as empresas de tecnologia do Vale do Silício a usar a tecnologia por trás dela em novos campos, como videogames e publicidade Investidores e empreendedores também conseguiram alcançá-los, incluindo Alibaba, SenseTime e Baidu. Pelo menos duas startups que desenvolvem versões chinesas da tecnologia OpenAI levantaram milhões de dólares em financiamento.

Kendra Schaefer, diretora de política de tecnologia da consultoria Trivium China, com sede em Pequim, disse que as regras mostram que a China está “agindo rápido, quebrando primeiro e construindo depois”. Kaina disse que, como o ChatGPT não está disponível na China, mas cada vez mais alternativas locais estão surgindo, o governo chinês anunciou rapidamente a linha vermelha da inteligência artificial antes de outros países que ainda estão considerando como regular os chatbots.

Especialistas questionam a dificuldade da tecnologia chinesa em tornar os robôs “patrióticos”

Embora aparentemente as regulamentações chinesas exijam controle técnico dos chatbots, pode ser difícil para as empresas de tecnologia chinesas fazê-lo, porque até a Microsoft ainda está ajustando os chatbots para evitar que os chatbots digam “respostas prejudiciais”, sem mencionar a censura abrangente da China. envolvem uma ampla gama de conteúdos e continuarão a mudar, assim como o incidente da Praça da Paz Celestial em 4 de junho de 1989.

Why create a free chatbot tool? Our explanations

Matt Sheehan, especialista em inteligência artificial da China e pesquisador do Carnegie Endowment for International Peace, acredita que a onda de inteligência artificial criou novos riscos para a busca de estabilidade do PCCh, porque a imprevisibilidade dos chatbots os torna absurdos ou errados (Pesquisadores chamá-lo de “ilusão”) declarações, que vão contra a insistência do PCCh em regular o discurso online. Matt Sheehan acrescentou: “A IA generativa cria tensão entre os dois principais objetivos da China: controle da informação e liderança global em IA”.

Leia Mais:  Os jogos de IA "desumanizar" são populares em todo o mundo: você consegue dizer se é uma IA ou um humano atrás da tela?

O relatório também mencionou que Xu Liang, um engenheiro e empresário chinês de IA, publicou o aplicativo “Yuanyu Smart” em fevereiro. A rota era obviamente inconsistente e o governo pediu para desligá-la alguns dias depois. Xu Liang disse uma vez que ele continuaria a modificá-lo para criar um robô mais “patriótico”, mas até agora a página do aplicativo ainda mostra “atualização e manutenção do sistema”.