Limitações da IA: por que sempre maior ainda não significa mais inteligente

Os modelos de inteligência artificial nos impressionam com seus avanços, mas sua capacidade de "raciocinar" pode em breve atingir um limite. Vamos explicar porquê, e é um pouco mais complicado do que simplesmente fornecer mais dados a eles.

Você já viu os feitos do ChatGPT e similares, capazes de escrever poemas, gerar código ou manter uma conversa quase humana? Impressionante, não é? Durante muito tempo, acreditou-se que, para tornar as inteligências artificiais (IAs) mais inteligentes, bastava alimentá-las com cada vez mais dados e aumentar o tamanho de seus "cérebros" (seus parâmetros, para usar o termo técnico). Uma espécie de superalimentação intelectual. Mas eis que um estudo recente vem lançar uma pequena bomba nessa corrida desmedida: e se, para o raciocínio complexo, essa estratégia estiver chegando ao seu limite?

IA, essa aluna que aprende (muito) rápido?

Nos últimos anos, o mundo da IA vive uma verdadeira revolução graças aos grandes modelos de linguagem (LLM). Pense neles como cérebros digitais gigantescos, treinados com quantidades astronômicas de textos e dados coletados na internet. Quanto maior seu tamanho (o número de "parâmetros", que são como as conexões entre neurônios no nosso cérebro) e mais dados recebem, melhor se tornam em diversas tarefas. São as chamadas "leis de escala" (scaling laws): quanto maior, melhor. Simples assim.

Mas será que esses modelos são bons em lógica? Talvez não, segundo uma análise detalhada da Epoch AI, um instituto de pesquisa especializado. Se as IAs se destacam em reconhecer padrões ou gerar textos plausíveis, o raciocínio verdadeiro, que exige seguir vários passos lógicos para resolver problemas complexos, é outra história - e aqui encontramos uma das limitações da IA.

O iPhone de 2027: A Maçã está preparando sua revolução entre vidro total e tela dobrável?

Raciocínio, um desafio até para as IAs

Para avaliar essa capacidade de "pensar" em vez de apenas "repetir", os pesquisadores usam testes específicos. Um deles, bastante temido, é o benchmark MATH. Imagine uma série de problemas matemáticos difíceis, de nível de concurso. Pois é, até nossas IAs mais avançadas ainda têm dificuldade em se sair bem.

O estudo da Epoch AI, ao analisar o desempenho nesses testes, sugere que as melhorias impressionantes em raciocínio obtidas até agora, graças ao aumento do tamanho dos modelos e dos dados, podem estar desacelerando. Em outras palavras, continuar a "aumentar" as IAs pode não ser suficiente para torná-las significativamente melhores em resolver problemas que exigem bom senso.

Mais dados, IA melhor? Nem tanto...

Então, por que essa possível desaceleração? A explicação da Epoch AI é sutil. O problema não é tanto a quantidade bruta de dados, mas sua qualidade e relevância para ensinar raciocínio. É como se você quisesse treinar um detetive: fazê-lo ler a lista telefônica mundial (muitos dados!) seria menos eficaz do que estudar investigações complexas bem selecionadas (dados de qualidade e direcionados).

Os pesquisadores falam em "dados eficazes". Parece que, para tarefas de raciocínio, os modelos atuais já absorveram boa parte das informações realmente úteis presentes nos imensos conjuntos de dados textuais gerais. Continuar a fornecer mais do mesmo traria apenas ganhos marginais. Como um estudante que já leu todos os manuais essenciais e agora só recebe artigos de segunda linha.

Capgemini, SAP e Mistral AI: a nova aliança para uma IA generativa sob alta supervisão

O muro do "1000 vezes mais"

O número impressionante apresentado pela Epoch AI é que, para alcançar um nível de raciocínio verdadeiramente elevado (por exemplo, uma pontuação de 90% no famoso benchmark MATH), seriam necessários potencialmente 100 a 1000 vezes mais recursos (cálculo e dados) do que o que é investido atualmente. Um esforço colossal, que levanta dúvidas sobre a sustentabilidade e eficácia da abordagem atual baseada apenas em escalonamento.

Isso não significa que as IAs vão estagnar em todas as áreas, longe disso! Mas para o Santo Graal do raciocínio complexo, o caminho parece mais árduo e caro do que o previsto se mantivermos os métodos atuais. Como destaca Tamay Besiroglu da Epoch AI, citado em um artigo da TechCrunch sobre o estudo, podemos já ter ultrapassado o "ponto ideal" em que adicionar mais dados em relação ao tamanho do modelo era mais benéfico para o raciocínio.

IA tendenciosa, justiça violada: como nossos algoritmos aprendem a discriminação

Longe de ser o fim da inteligência artificial, essa análise da Epoch AI nos convida a ser mais astutos e refinados. Em vez de apostar apenas em modelos cada vez mais gigantescos e uma avalanche de dados indiferenciados, a chave para IAs verdadeiramente "raciocinadoras" pode estar em outro lugar: em arquiteturas de modelos mais engenhosas, dados de treinamento de qualidade muito superior e especificamente projetados para raciocínio, ou talvez abordagens radicalmente novas.

Enfim, se nossas IAs já são ótimas tagarelas, transformá-las em verdadeiros Sherlock Holmes digitais provavelmente exigirá mais do que uma simples indigestão de dados. O desafio está lançado, e isso é bastante empolgante, não acha?

Fontes: