3 grandes problemas de IA generativa ainda a serem resolvidos

A adoção da IA generativa na tecnologia é potencialmente mais significativa do que quando a internet foi introduzida. Ele está atrapalhando a maioria dos esforços criativos e não é tão capaz quanto será no final da década.

Continua após a publicidade

A Gen AI nos forçará a repensar como nos comunicamos, como colaboramos, como criamos, como resolvemos problemas, como governamos e até como e se viajamos – e isso está longe de ser uma lista exaustiva. Espero que quando essa tecnologia atingir a maturidade, a lista de coisas que não mudaram será muito menor do que a lista de coisas que mudaram.

Nesta semana, gostaria de focar em três coisas que devemos começar a discutir e que representam alguns dos maiores riscos da IA generativa. Não sou contra a tecnologia, nem sou tolo o suficiente para sugerir que ela seja pausada porque pausar seria impossível agora.

O que sugiro é que comecemos a considerar a mitigação desses problemas antes que causem danos substanciais. Os três problemas são carregamento do data center, segurança e danos ao relacionamento.

Encerraremos com o meu Produto da Semana, que pode ser o melhor SUV elétrico do mercado. De repente, estou no mercado para um novo carro elétrico, mas mais sobre isso depois.

Carregamento do Centro de Dados

Apesar de todo o hype, poucas pessoas ainda estão usando IA generativa, muito menos usando-a em todo o seu potencial. A tecnologia é intensiva em processamento e dados, embora seja muito focada pessoalmente, portanto, residir apenas na nuvem não será viável, principalmente porque o tamanho, o custo e a latência resultante seriam insustentáveis.

Assim como fizemos com outros aplicativos focados em dados e desempenho, a melhor abordagem provavelmente será um híbrido em que o poder de processamento é mantido próximo ao usuário. Ainda assim, os dados massivos, que precisarão de atualização agressiva, precisarão ser carregados e acessados de forma mais centralizada para proteger as capacidades limitadas de armazenamento dos dispositivos clientes, smartphones e PCs.

Mas, porque estamos falando de um sistema cada vez mais inteligente que, às vezes – como quando é usado para jogos, tradução ou conversas – requer latência muito baixa. Como a carga é dividida sem prejudicar o desempenho provavelmente determinará se uma implementação específica será bem-sucedida.

Atingir baixa latência não será fácil porque, embora a tecnologia sem fio tenha melhorado, ela ainda pode não ser confiável devido ao clima, posicionamento das torres ou usuário, interrupções de manutenção, desastres naturais ou causados pelo homem e cobertura global menos do que completa. A IA deve funcionar tanto online quanto offline, limitando o tráfego de dados e evitando interrupções catastróficas.

Mesmo que pudéssemos centralizar tudo isso, o custo seria excessivo, embora tenhamos um desempenho subutilizado em nossos dispositivos pessoais que poderia mitigar grande parte dessa despesa. A Qualcomm é uma das primeiras empresas a sinalizar isso como um problema e está se esforçando muito para corrigi-lo. Ainda assim, espere que seja muito pouco e muito tarde, dada a rapidez com que a IA generativa está avançando e o quão lentamente uma tecnologia como essa é desenvolvida e lançada no mercado.

Segurança

Eu era um auditor interno especializado em segurança e um analista competitivo treinado em formas legais de penetrar na segurança. Aprendi que, se alguém conseguir obter dados suficientes, poderá estimar com mais precisão os dados aos quais não tem acesso.

Por exemplo, se você souber o número médio de carros no estacionamento de uma empresa, poderá, com razoável precisão, estimar o número de funcionários de uma empresa. Em geral, você pode examinar as mídias sociais e descobrir os interesses dos principais funcionários da empresa e observar as vagas de emprego para determinar os tipos de produtos futuros que a empresa provavelmente está desenvolvendo.

Esses grandes modelos de linguagem coletam grandes quantidades de dados e espero que muitas das coisas que esses LLMs digitalizam sejam ou devam ser confidenciais. Além disso, se informações suficientes forem coletadas, as lacunas resultantes do que não foi digitalizado serão cada vez mais dedutíveis.

Este cenário não se aplica apenas a informações corporativas. Com o tipo de informação pessoal prontamente disponível, também poderemos determinar muito mais sobre a vida privada dos usuários.

Os empregadores poderão localizar denunciantes, funcionários insatisfeitos ou desleais, mau comportamento dos funcionários e funcionários que estão se aproveitando da empresa ilicitamente com maior precisão. A proteção contra uma entidade hostil que obtém informações confidenciais sobre você, sua empresa ou até mesmo seu governo está se tornando mais viável com muito mais precisão do que eu desfrutava como auditor ou analista competitivo.

A melhor defesa provavelmente criará desinformação suficiente para que as ferramentas não saibam o que é real e o que não é. No entanto, esse caminho também tornará os sistemas de IA conectados muito menos confiáveis em geral, o que seria bom se apenas o concorrente usasse esses sistemas. No entanto, é provável que comprometa os sistemas da empresa que deseja proteção, resultando em um número crescente de más decisões.

Relações interpessoais

Empresas como Mindverse com seu MindOS e Suki com seus avatares complementares de funcionários estão apresentando o futuro uso pessoal da IA generativa como uma ferramenta que pode se apresentar como se fosse você. À medida que usamos ferramentas como essa progressivamente, nossa capacidade de determinar o que é real e o que é digital será reduzida significativamente, e nossas opiniões sobre as pessoas que usam essas ferramentas refletirão mais na ferramenta do que na pessoa.

Imagine que seu gêmeo digital faça uma entrevista virtual, seja o rosto de sua presença em um aplicativo de namoro ou assuma grande parte de suas interações virtuais diárias. A ferramenta tentará responder à pessoa que interage com ela, nunca ficará cansada ou mal-humorada e será treinada para apresentá-lo da melhor maneira possível. No entanto, à medida que avança por esse caminho, será cada vez menos parecido com quem você realmente é – e provavelmente se tornará muito mais interessante, atraente e mais equilibrado do que você jamais poderia ser.

Isso causará problemas porque, assim como os atores que namoram alguém que se apaixonou por um personagem que o ator já interpretou, a realidade criará separações subsequentes e perda de confiança.

A solução mais fácil seria aprender a se comportar como seu avatar ou usá-lo para interagir com amigos e colegas de trabalho. Duvido que o façamos, mas essas são as duas abordagens mais viáveis para mitigar esse problema que está por vir.

Empacotando

A IA generativa é incrível e melhorará significativamente o desempenho à medida que entra no mercado e os usuários atingem massa crítica. No entanto, há problemas significativos que precisam ser resolvidos, incluindo carregamento excessivo do data center, que deve impulsionar soluções híbridas no futuro, a incapacidade de impedir a derivação de segredos desses enormes modelos de linguagem e uma redução considerável na confiança interpessoal.

Entender esses riscos futuros deve ajudar a evitá-los. No entanto, as correções não são boas, sugerindo que provavelmente lamentaremos algumas das consequências não intencionais do uso dessa tecnologia.

O Oceano Fisker

Meu Jaguar I-Pace morreu no mês passado devido a um acidente de reboque que danificou sua bateria. O resultado foi uma estimativa de $ 100.000 para consertar o carro, que agora vale mais de $ 40.000. Estou esperando que a USAA, minha seguradora, complete o carro. Então, tenho procurado carros elétricos substitutos e, em geral, a disponibilidade é péssima.

É provável que consiga outro Jaguar I-Pace principalmente porque não quero esperar meses ou anos pelo meu próprio carro novamente. Atualmente, estou compartilhando o Volve XC-60 da minha esposa e enfrentando muitos problemas de agendamento em que ambos precisamos do carro ao mesmo tempo. Fui comprar um novo SUV elétrico e o melhor que encontrei foi o Fisker Ocean .

Como acontece com a maioria dos elétricos, a espera por um novo é de meses e não posso esperar. Dos carros elétricos disponíveis este ano, o Fisker Ocean atingiu todas as caixas. Suas características incluem:

Alcance de 350 milhas (a barra é de 300 milhas)
O seu smartphone pode ser a chave do seu veículo
Carregamento reverso, para que seu carro possa abastecer sua casa durante uma queda de energia
Um impressionante tempo de 0-60 de cerca de 3,6 segundos (eu gosto de desempenho)
Um telhado de painel solar para aumentar o alcance e fornecer energia de emergência
Um modo conversível (que realmente abre o carro)
Um dos designs mais limpos do mercado.

O Fisker Ocean é um carro impressionante. Se eu pudesse esperar até o final do ano para comprar um, encomendaria em um momento. Infelizmente, esse não é o caso. No entanto, o Fisker Ocean ainda é meu Produto da Semana.