La Association for Human Mathematics (AHM) instó a los matemáticos a dejar de colaborar con OpenAI después de que la empresa publicara el 6 de octubre una amplia colección de matemáticas generadas por IA. En su declaración del 7 de octubre, la objeción central del grupo es usar un modelo privado para abordar problemas abiertos avanzados y publicar de una vez cientos de artículos resultantes. Cuestiona la afirmación de OpenAI de que este modelo de publicación impulsa las matemáticas, aunque los archivos públicos permitan examinar afirmaciones individuales.

Esa es la postura del grupo de trabajo de comunicaciones de AHM. No es una votación de la comunidad matemática ni una conclusión de que todos los manuscritos estén equivocados. Terence Tao republicó el texto como declaración invitada de AHM, identificando su autoría en vez de presentarlo como una declaración propia.

El gran cambio

  • Qué cambió:La discusión sobre el repositorio de OpenAI ya va más allá de la validez de resultados individuales. AHM cuestiona el papel de la empresa al elegir problemas de investigación y fijar las condiciones en que los matemáticos reciben los resultados.
  • Por qué importa:La disputa trata de quién puede examinar la herramienta generadora y quién asume el trabajo de comprobar y explicar una publicación masiva. Esas preguntas persisten aunque se repare o formalice una prueba concreta.
  • Qué observar:OpenAI afirma que añadirá formalizaciones. La evaluación independiente de las afirmaciones revisadas y cualquier otra corrección versionada aclararán qué resultados concretos pueden verificar y entender los matemáticos.

Qué objeta AHM

AHM dice que los matemáticos no solicitaron este trabajo. Califica la publicación de más de 700 archivos como una demostración de poder, no como investigación académica, e invita a dudar de su valor para el campo. La declaración también cita al grupo asesor independiente sobre matemáticas e inteligencia artificial (AGMAI): afirma que OpenAI ignoró su petición inicial de dejar de probar matemáticas avanzadas con modelos internos.

Esa referencia tiene una base clara. Las directrices de AGMAI del 29 de septiembre dicen que los laboratorios de frontera deberían dejar de probar problemas avanzados con modelos propietarios. El mismo documento ofrece recomendaciones condicionales para publicar resultados si los laboratorios ya los han producido: redacción matemática clara, repositorios adecuados, divulgación de cómo se generó el trabajo, formalización cuando sea posible y apoyo a la comprensión humana. Dice que sus recomendaciones se basaron en más de 600 respuestas a una encuesta y contaron con el apoyo de una pluralidad de participantes. Eso no convierte la posterior llamada de AHM a dejar de colaborar con OpenAI en una directriz de AGMAI ni en una decisión de todo el campo.

En su respuesta del 6 de octubre a la publicación, AGMAI dijo explícitamente que su función asesora no respaldaba el proceso de OpenAI ni juzgaba el impacto de los resultados. Describió la publicación como el inicio de la evaluación humana y afirmó que solo la comunidad matemática puede determinar hasta qué punto se siguieron sus recomendaciones. OpenAI había descrito al grupo como independiente y dijo que asesoraría sobre revisión y comunicación, sin controlar el ritmo de la investigación interna de la empresa. Aquí importa distinguir consejo de autoridad: la crítica de AHM cuestiona las decisiones de OpenAI; no demuestra que una junta externa las aprobara o vetara.

Un registro cambiante sigue siendo un registro que hay que comprobar

El repositorio de OpenAI dice que la colección contiene trabajos en distintas etapas de verificación. Su catálogo actual enumera 719 manuscritos en 372 familias. Una familia puede incluir varios artículos. El repositorio dice que algunos manuscritos carecen de formalizaciones en Lean y que algunos resultados no formalizados podrían tener problemas; informa que alrededor del 42 % de los resultados principales están formalizados. Una formalización es un argumento especificado y comprobable por máquina para una afirmación concreta, no una confirmación general de todas las afirmaciones del artículo; y el estado de un repositorio no sustituye una revisión matemática independiente. Nuestro anterior recorrido por los archivos y las configuraciones de las pruebas explica cómo seguir ese alcance.

La cifra cambió porque se retiraron tres manuscritos. La entrada histórica del 7 de octubre de OpenAI atribuye las retiradas a un error de signo en una prueba que también afectó a dos artículos dependientes. La entrada registra revisiones de otros 14 manuscritos, actualizaciones de referencias en otros 13 y seis formalizaciones adicionales. Nuestro informe sobre los tres avisos de retirada explica la conclusión más acotada: los argumentos señalados ya no sustentan las afirmaciones de esos artículos; los avisos no refutan las proposiciones matemáticas. Una prueba retirada, un manuscrito reparado y un resultado formalizado son estados distintos.

Las revisiones ilustran el trabajo de evaluación que puede exigir una colección grande y formalizada de manera desigual. Ese es nuestro análisis del registro del repositorio, no una afirmación de la declaración de AHM. AHM se opone a la decisión de generar y publicar la colección mediante un modelo propietario. OpenAI, por su parte, ha ofrecido material versionado que los investigadores pueden examinar, corregir y debatir. Nuestro análisis previo de la capacidad de revisión abordó el trabajo necesario para convertir un gran conjunto de resultados propuestos en matemáticas comprendidas. La disputa actual añade una pregunta más precisa: si producir tal volumen de trabajo de esta manera sirve a quienes deben evaluarlo.

Fuentes y lecturas adicionales