ChatGPT pode ter que ser temporariamente suspenso? GPT-4 acusado de fraude de viés

O desenvolvedor do programa de inteligência artificial (IA) OpenAI foi acusado de representar um perigo público, e a implantação no mercado do popular chatbot ChatGPT e outros sistemas de IA podem ser temporariamente interrompidos.

Continua após a publicidade

CNBC, Engadget e outras fontes estrangeiras relataram que a organização sem fins lucrativos de ética em tecnologia Center for AI and Digital Policy (CAIDP) apresentou uma reclamação à Federal Trade Commission (FTC) no dia 30, pedindo à FTC que investigasse a OpenAI e suspendesse o desenvolvimento comercial de modelos de linguagem grande (LLMs), incluindo a versão mais recente do popular chatbot ChatGPT “GPT-4”.

O CAIDP apontou que a OpenAI violou a Seção 5 do Federal Trade Commission Act (FTC Act) para impedir práticas comerciais injustas e enganosas e não cumpriu as diretrizes de produtos de IA da FTC. O GPT-4 tem “tendências, problemas de fraude e apresenta riscos à privacidade e à segurança pública” e não atendeu aos requisitos da FTC para produtos de IA, ou seja, “transparente, explicável, justo, verificável e responsável”.

O CAIDP espera que a FTC exija que a OpenAI estabeleça um método de avaliação independente antes de lançar produtos GPT no futuro. Além disso, a FTC deve implantar o Sistema de Notificação de Incidentes Públicos GPT-4 e estabelecer regulamentos formais para produtos generativos de IA.

O presidente do CAIDP, Marc Rotenberg, assinou recentemente uma carta aberta com Elon Musk, pedindo aos pesquisadores de IA, como a OpenAI, que suspendessem seu trabalho por seis meses, período durante o qual discutiriam a ética da tecnologia. Musk, que cofundou a OpenAI em 2015, deixou o conselho em 2018, cortando relações com a startup.

Os críticos de grandes modelos de linguagem, como ChatGPT e Google Bard, alertam que há problemas com o conteúdo gerado pelos produtos de IA, que pode ser deturpado, discurso de ódio e tendencioso, e os usuários não podem reproduzir os mesmos resultados. Embora as versões mais recentes, como o GPT-4, sejam mais confiáveis, os especialistas ainda se preocupam com o fato de as pessoas confiarem demais na IA e não verificarem novamente o conteúdo.