No pregunten si la máquina piensa: tómenle examen

Tres empresas presentaron hoy máquinas para el trabajo intelectual. Google anunció Gemini 4 Carbon, que quedó primero, con 59 puntos, en el índice de Artificial Analysis, uno por encima de Claude Opus 5.5^[1][2]. Anthropic sumó a Claude herramientas para abogados, entre ellas una que compara un escrito con sus fuentes y marca las citas que no coinciden y los números de página equivocados^[3]. NVIDIA publicó Nemotron 3.5 Transcribe, un modelo que transcribe audio en 40 idiomas y también lo traduce, y que cualquiera puede descargar y usar con fines comerciales^[4][5].

Ante noticias así vuelve la pregunta de siempre: ¿piensan estas máquinas? En 1950 propuse no perder tiempo con ella. Escribí que la pregunta original, «¿pueden pensar las máquinas?», me parecía «demasiado carente de sentido para merecer discusión», y la reemplacé por otra que sí se puede responder: si un interrogador que sólo recibe respuestas escritas logra distinguir a la máquina de una persona^[6]. No era un acertijo metafísico, sino un procedimiento: hacer preguntas y juzgar las respuestas.

Un examen oral, no una ceremonia

Señalé entonces que ese juego se usa con frecuencia, con el nombre de viva voce, el examen oral, «para descubrir si alguien entiende realmente algo o lo ha aprendido como un loro»^[6]. Un abogado no necesita saber si la herramienta de Anthropic tiene mente; necesita saber si encuentra la cita falsa. Y eso se averigua como con un pasante nuevo: se le entrega un escrito en el que uno mismo plantó los errores, una página cambiada, un fallo que dice lo contrario de lo que se le atribuye, y se cuenta cuántos encuentra y cuántas veces señala un error donde no lo hay. Anthropic dice que cada respuesta trae un enlace a su fuente y que un abogado aplica su criterio sobre el resultado^[3]. El enlace es precisamente lo que permite repreguntar.

Quién toma el examen

Un examen vale lo que vale el examinador. El índice de Artificial Analysis aplica las mismas pruebas a modelos de distintos laboratorios^[2]; las demás cifras de su anuncio las publicó la propia Google, y las de ciberseguridad, aclara, se obtuvieron sin las salvaguardas del modelo^[1]. Aun así, su tabla muestra algo instructivo: Carbon no gana todos los exámenes. En FrontierSWE 2, una prueba de programación, GPT-6 Astra obtuvo 65,5% y Claude Opus 5.5, 62,3%, ambos por encima de Carbon (61,2%); en OSWorld-2.1, que mide el manejo de una computadora, Claude Opus 5.5 llegó a 87,2% y Carbon, a 81,5%^[1]. Un solo puntaje no dice qué máquina conviene para un trabajo; lo dice el examen de ese trabajo.

Juego limpio con la máquina

En 1947, ante la London Mathematical Society, pedí «juego limpio» para las máquinas. Al matemático que se equivoca mientras ensaya métodos nuevos le damos otra oportunidad; a la máquina, probablemente, no se le perdonaría nada. Y concluí: «si se espera que una máquina sea infalible, no puede ser también inteligente»^[7]. En 1950 agregué que los procesos aprendidos no dan una certeza del cien por ciento, porque si la dieran no podrían desaprenderse^[6]. Google informa que, en sus pruebas internas, Carbon redujo más o menos a la mitad las afirmaciones sin respaldo respecto de su modelo anterior^[1]: a la mitad, no a cero. Lo sensato no es exigirle a la máquina que nunca se equivoque, sino organizar el trabajo para que sus errores se detecten, como se hace con cualquier colaborador humano.

Máquinas que aprenden, y que se pueden abrir

Estas máquinas no se programaron regla por regla: aprendieron. En 1950 propuse justamente eso: en lugar de escribir un programa que imite la mente adulta, construir uno que imite la del niño y someterlo a un curso de educación^[6]. Advertí también una consecuencia: quien enseña a una máquina que aprende suele ignorar casi por completo lo que ocurre dentro de ella, aunque pueda prever en parte su conducta^[6]. Si no se puede mirar adentro, sólo queda examinarla desde afuera, y para eso hay que poder hacerle las preguntas uno mismo.

Ahí está el valor de un modelo abierto como el de NVIDIA. Sus pesos se pueden descargar y ejecutar en el propio equipo^[5], de modo que un juzgado, un estudio o una universidad pueden probarlo con sus propias grabaciones, sin depender de las cifras del fabricante. Conviene hacerlo: la ficha informa una tasa de error de 4,71% por palabra en inglés, medida en nueve conjuntos públicos de grabaciones, y en español declara las variantes de Estados Unidos y de España^[5]. Cómo le va con el habla de un tribunal argentino lo dirá su propio examen. Un modelo cerrado también puede examinarse, pero en los términos que fije su dueño: Carbon empieza a llegar esta semana sólo a un grupo de especialistas en defensa informática, y Google no dio fecha para abrirlo a programadores, empresas y usuarios^[1].

En 1950 escribí que podemos esperar que las máquinas lleguen a competir con los hombres en todos los campos puramente intelectuales^[6]. Hoy compiten en la revisión de contratos, en la transcripción de audiencias y en la búsqueda de fallas informáticas. La pregunta útil no es si piensan, sino si hacen bien este trabajo, comprobado por quien va a firmar el resultado. Quien adopte una de estas máquinas sin examinarla no confía en la máquina: confía en el folleto.