Imaginemos por un momento un futuro no tan lejano, más bien cercano… Observas laboratorios automatizados. Estos operan continuamente, generando nuevas hipótesis en base a su propio trabajo, con Varela y Maturana diríamos autopoiéticamente… diseñando experimentos para probarlas y publicando resultados que otras máquinas lógicas leen instantáneamente. Dado este escenario, se podrían entonces ver descubrimientos dignos del Premio Nobel de manera regular. ¡Esto suena extraordinario! ¿En qué se convierte la ciencia, y el trabajo científico en este escenario?
Pensamos la ciencia como un método, casi como una receta que seguimos para extraer verdades de la naturaleza. Formulamos hipótesis, diseñamos experimentos, recopilamos datos, y llegamos a conclusiones. Parece simple y mecánico cuando lo describimos así. Pero hay algo que una manera de ver la producción de conocimiento así omite por completo. La producción de conocimiento no es solo un procedimiento para generar afirmaciones verdaderas sobre el mundo. Es también, y quizás principalmente, una práctica muy humana. Cuando un investigador hace un descubrimiento, ese descubrimiento no se convierte automáticamente en conocimiento solo porque sea verdadero. Tiene que pasar por un proceso complejo de validación, revisión, debate y, finalmente, aceptación por parte de la comunidad epistémica involucrada (¡es decir, sus colegas que revisan dicho trabajo!) En la ciencia, esta coordinación ocurre a través de publicaciones, citas, replicaciones y debates continuos.
Aquí está el punto crucial que muchos expertos en la automatización de la producción del conocimiento pasan por alto, esto es, la revisión por pares. Esta es la necesidad de replicar experimentos, el sistema de citas, los debates en conferencias, todo esto no son simplemente ineficiencias del sistema que deberíamos optimizar o eliminar. Estos son los mecanismos fundamentales mediante los cuales la comunidad científica decide colectivamente qué cuenta como conocimiento certificado y qué no.
Cuando hablamos de usar IA en ciencia, solemos enfocarnos en su capacidad para acelerar el descubrimiento. La IA puede procesar cantidades masivas de datos, identificar patrones que serían invisibles para los humanos, y probar miles de hipótesis en el tiempo que nos tomaría probar solo unas pocas. Pero aquí surge una distinción crítica que a menudo pasamos por alto.
Cuando intentamos llevar a la realidad una máquina que va a producir conocimiento, como son los algoritmos, programas y robots de un sistema que automatiza esta producción, son los diseñadores los que definen el mundo en donde dicha máquina operará. Allí entonces dichos diseñadores realizarán preguntas de carácter normativo, preguntas sobre valores, preguntas que requieren las estructuras sociales y normativas que el sistema de producción de conocimiento debe .
Entonces, cuando pensamos en laboratorios robotizados produciendo descubrimientos automáticamente, tenemos que preguntarnos: ¿Quién está certificando ese conocimiento? ¿Cómo sabemos qué descubrimientos realmente importan? La producción de verdades y la certificación de conocimiento son dos cosas muy diferentes; y la IA puede ser extraordinaria en la primera mientras nos deja completamente desamparados en la segunda.
Esta distinción nos lleva a una pregunta aún más profunda sobre el papel de la IA en la ciencia. Cuando un sistema de IA genera hipótesis de manera automática, diseña sus propios experimentos, interpreta resultados y propone nuevas direcciones de investigación: ¿Qué es exactamente? ¿Es una herramienta sofisticada que los científicos humanos están usando, o se ha convertido en algo más, en un participante legítimo en el proceso científico?
La pregunta tiene implicaciones muy concretas. Históricamente, la producción de conocimiento, y en particular la ciencia dentro de ella ha funcionado porque hay un sistema de reconocimiento mutuo entre sus participantes. Para que tus afirmaciones sean consideradas seriamente, necesitas cierta posición o estatus dentro de la comunidad. Tradicionalmente, esto significaba obtener un doctorado, publicar en revistas revisadas por pares, ser citado por otros científicos. Básicamente, ganarte el reconocimiento de que eres un participante válido cuyas ideas merecen consideración.
Las herramientas de las que se ha valido la ciencia han sido props que han ayudado a los científicos y tecnólogos a ir más allá. El telescopio, el microscopio, la computadora, la integración de ellos, etc. Lo que ahora vemos es la construcción de un agenciamiento totalmente distinto. Si la IA permanece como herramienta, entonces tenemos que preguntarnos constantemente: ¿Herramienta de quién? ¿Sirviendo a los intereses de quién? ¿Amplificando los sesgos de quién? Pero si la IA se convierte en un agente por sí mismo, entonces toda la estructura de gobernanza de la producción científica necesitará cambiar fundamentalmente. Sobre este punto, no hemos tenido seriedad.
Ahora bien, la IA podría ser una solución aparentemente obvia al problema de la fuerza bruta para ascelerar la producción de conocimiento. Esto es acelerar la generación de hipótesis, automatizar experimentos, procesar cantidades masivas de datos, leer y sintetizar toda la literatura existente. Sin embargo, es en este mismo punto que surge un problema. La efectividad de esta solución depende enteramente de qué está causando realmente el estancamiento, entonces la pregunta que debemos hacer: ¿Es la fuerza bruta de la automatización la que explica el problema de la producción del conocimiento? ¿Qué pasa si el problema es más profundo?
¿Y si el verdadero problema es que estamos haciendo las preguntas incorrectas? O tal como lo comentaba en mi nota anterior, el estancamiento viene de incentivos perversos en el sistema académico? La presión de «publicar o perecer», la tendencia a favorecer apuestas seguras sobre proyectos arriesgados y ambiciosos, el hecho de que las carreras académicas recompensan la producción incremental constante sobre los grandes saltos conceptuales. Si este es el problema, entonces la IA podría no solo fallar en resolverlo, sino activamente empeorarlo. Una IA optimizando para producción incremental dentro de paradigmas existentes podría ser extraordinariamente eficiente haciendo exactamente lo que no necesitamos más. O aún más, ¿Y si el problema es la esclerosis institucional? Sistemas de tenure que recompensan conformidad sobre creatividad, estructuras de financiamiento que favorecen a laboratorios establecidos sobre investigadores novatos con ideas radicales, la gerontrocracia que domina muchos campos científicos. Si estos son los verdaderos problemas, entonces toda esta conversación sobre IA está ocurriendo en la capa completamente equivocada. Tal vez debemos pensar la organización de la producción del conocimiento como un aspecto central para la solución del advenimiento de la tecnología y la disrupción que esta conlleva en el trabajo de las y los investigadores, y el sistema como un todo.
Ahora bien, podemos pensar otras formas de organizar el mundo de esta relevante producción. Una donde los científicos humanos no son reemplazados sino liberados para enfocarse en lo que permanece irreductiblemente humano. Para ello, requerimos proporcionar el contexto normativo y los valores que guían toda la empresa que busca generar conocimiento. Si logramos preservar los mecanismos de certificación, las estructuras sociales que nos permiten decidir colectivamente qué cuenta como conocimiento, mientras simultáneamente expandimos dramáticamente la capacidad productiva a través de la IA, entonces la combinación podría ser genuinamente más poderosa que cualquiera de las dos por separado. Sería una simbiosis real, no una simple automatización.
El llamado es entonces a tomarse en serio los estudios de la organización de la producción del conocimiento. En particular, la mediación de la tecnología en el trabajo científico y quienes producen conocimiento más en general. Ahora podemos realizar la pregunta, ¿Será la IA el catalizador que necesitamos para revitalizar la organización de la producción del conocimiento y llevar esta a nuevas alturas, o simplemente automatizará y acelerará los problemas estructurales que ya tenemos?
Este es nuestro imperativo como comunidad que se reúne en la organización de la producción del conocimiento científico. La respuesta dependerá de las elecciones que hagamos ahora, juntos, como comunidad de personas que se preocupan por el futuro del conocimiento humano.
