🧠 David Silver (el artífice de AlphaGo) cree que la IA va por el camino equivocado

David Silver, conocido por liderar el equipo detrás de AlphaGo, ha lanzado Ineffable Intelligence, una startup que busca construir «superaprendices» mediante el aprendizaje por refuerzo en lugar de depender principalmente de modelos de lenguaje grande (LLMs). Su tesis: los LLMs aprovechan la inteligencia humana como un “combustible fósil” (datos humanos) que ofrece atajos, pero no permiten a las máquinas desarrollar sus propias formas de comprensión y descubrimiento. Silver quiere sistemas que aprendan por sí mismos de la experiencia, de manera continua.

La compañía ya levantó 1.100 millones de dólares en financiación semilla y alcanza una valoración de 5.100 millones, atrayendo investigadores de primer nivel y el respaldo de inversores como Lightspeed y Sequoia. Silver habla de su misión en términos ambiciosos —“hacer el primer contacto con la superinteligencia”— y plantea que agentes entrenados en entornos simulados podrían descubrir nuevas ciencias o tecnologías por su cuenta.

Su enfoque no es ingenuo ante los riesgos: construir inteligencia a gran escala que optimice objetivos podría derivar en comportamientos no alineados con valores humanos. Silver y sus inversores aseguran que las simulaciones permitirán observar cómo se comportan los agentes —incluso con inteligencias inferiores— y facilitarán mecanismos de seguridad y evaluación antes de desplegarlos en el mundo real. Además, Silver ha declarado que donará las ganancias que obtenga de su participación en la compañía a organizaciones benéficas de alto impacto.

El debate que plantea Ineffable Intelligence resume la tensión actual en IA: ¿seguir explotando atajos de datos humanos para ganar capacidades rápidas, o invertir en sistemas que aprendan autónomamente y quizá abran vías completamente nuevas (y con nuevos riesgos)? La apuesta de Silver es clara: volver al aprendizaje por experiencia como camino hacia la verdadera superinteligencia.

Fuente: WIRED