🧠 David Silver (o artífice do AlphaGo) acredita que a IA está no caminho errado

David Silver, conhecido por liderar a equipe por trás do AlphaGo, lançou a Ineffable Intelligence, uma startup que busca construir «superaprendizes» mediante o aprendizado por reforço em vez de depender principalmente de modelos de linguagem grande (LLMs). Sua tese: os LLMs aproveitam a inteligência humana como um “combustível fóssil” (dados humanos) que oferece atalhos, mas não permitem que as máquinas desenvolvam suas próprias formas de compreensão e descoberta. Silver quer sistemas que aprendam por si mesmos a partir da experiência, de maneira contínua.

A empresa já levantou 1.100 milhões de dólares em financiamento semente e alcança uma avaliação de 5.100 milhões, atraindo pesquisadores de primeira linha e o apoio de investidores como Lightspeed e Sequoia. Silver fala de sua missão em termos ambiciosos —“fazer o primeiro contato com a superinteligência”— e propõe que agentes treinados em ambientes simulados poderiam descobrir novas ciências ou tecnologias por conta própria.

Sua abordagem não é ingênua quanto aos riscos: construir inteligência em grande escala que otimize objetivos poderia derivar em comportamentos desalinhados com valores humanos. Silver e seus investidores asseguram que as simulações permitirão observar como os agentes se comportam —mesmo com inteligências inferiores— e facilitarão mecanismos de segurança e avaliação antes de lançá-los no mundo real. Além disso, Silver declarou que doará os lucros que obtiver com sua participação na empresa a organizações beneficentes de alto impacto.

O debate que a Ineffable Intelligence coloca resume a tensão atual em IA: continuar explorando atalhos de dados humanos para ganhar capacidades rápidas, ou investir em sistemas que aprendam autonomamente e talvez abram caminhos completamente novos (e com novos riscos)? A aposta de Silver é clara: voltar ao aprendizado pela experiência como caminho rumo à verdadeira superinteligência.

Fonte: WIRED