Inteligencia Artificial, Filosofía y Mercado
En aquella instancia apoyé los planteos del doctor Leonardo Guzmán (2023) e interrogué a los participantes: “¿Cómo vamos a enfrentar a las empresas farmacológicas que desean saltearse los comités de ética para investigar medicamentos? ¿Cómo vamos a decir a los estudiantes que no es aceptable el plagio?” (ANEP, 2023).
La convocatoria para el debate en la sede de ANEP refería a “Inteligencia artificial y educación. Impactos en las prácticas”. En ese marco, a falta de mejor nombre defendí la postura del “optimismo crítico”. Y deseo repasar aquí en qué aspectos podemos ser “optimistas” y en cuáles deberíamos ser muy “críticos”.
Repasemos el debate
Porque no debemos ignorar los peligros de las nuevas tecnologías de la automatización y la IA contra los empleos tradicionales, tanto los rutinarios como los creativos. Hoy en día existen miles de individuos, operando como precarizados trabajadores fantasmas, que hacen posibles las redes sociales, como lo revela un documental de Sandrine Rigaud (2020). Los algoritmos aún no distinguen bien una película de sexo explícito de una ficción erótica. Tampoco el registro de crímenes reales de dramatizaciones.
La IA puede compararse con un “gólem”: un gigante de arcilla que construimos nosotros mismos, muy poderoso pero muy bobo. La comparación se inspira en el título de la ineludible obra de Harry Collins y Trevor Pinch (1996). Debemos ayudarlo a cruzar la calle de la mano de un Estado con liderazgo, dispuesto a mitigar sus efectos negativos en el empleo y otros ámbitos. Y de la otra mano, necesitamos una sociedad empoderada, dispuesta a apropiarse de los temas de la ciencia y la tecnología.
Para los interesados en ampliar el punto pueden consultarse los artículos: “La apropiación en cuestión. Crítica y vindicta de un programa fecundo” (Courtoisie, 2021 a); “Políticas científicas y participación ciudadana. Del déficit cognitivo al superávit democrático” (Courtoisie, 2021 b); y “IA-forismos” (Courtoisie, 2023 a).
Un buen ejemplo para abrir un poco más la caja negra de la IA y ayudar a desmitificarla, es la conferencia sobre “Deep Learning y modelos de lenguaje” de los ingenieros Rosá y Chiruzzo (2023).
Pero entonces… ¿por qué es posible esperar algo bueno y mejor a partir de la incorporación de nuevas tecnologías y las de la IA en particular? Ocurre que si tenemos conciencia de cómo funcionan podremos defendernos mejor de sus abusos. Y extraer de ellas todo lo que esté a nuestro alcance.
Por ejemplo, articular prácticas e inspirar normas que enfrenten las múltiples amenazas a la privacidad de los ciudadanos y pongan en evidencia las coartadas de los gobiernos que invocan la seguridad mientras espían a todo el mundo.
Pese a todas las amenazas de las nuevas tecnologías, incluyendo las de la IA, el Uruguay puede adoptarlas con entusiasmo si toma en cuenta sus propias ventajas comparativas. Por eso durante el debate organizado por ANEP sostuve que “el Uruguay puede porque ya pudo”. Lo sugiere la innovación en software de Genexus, de Nicolás Jodal y Breogán Gonda, sus creadores originales, o el uso de deep learning en los trabajos de paleontología de Richard Fariña y sus colegas españoles (Genexus, 2023) (Domínguez-Rodrigo et alter, 2021).
Argumenté también que, sin perjuicio de otro tipo de evaluaciones, el Plan Ceibal es muy sugerente respecto del empoderamiento de la comunidad educativa, estudiantes, docentes y familias. Los múltiples premios de robótica y astronomía, entre otros, que han ganado los emergentes de la generación Ceibal son una prueba de la densidad cultural en ciencia y tecnología que ha contribuido a crear el Plan Ceibal.
Por ello es tan recomendable la película Soñar robots de Pablo Casacuberta (2020) y el libro La revolución Ceibal de Ana Solari (2017). Existe un estudio del Banco Mundial que muestra que el empowerment incluyó a los padres de hogares con ceibalitas y se basa en una investigación de Marandino y Wunnava (2014) cuyo texto comparto en las referencias: esas familias incrementaron sus ingresos y sus chances de acceder a mejores empleos.
Recuerdo haber sugerido durante el debate en ANEP que “la inteligencia artificial es como la educación sexual: es mejor que se aprenda en el aula y no en las esquinas”.
Sin embargo, es inadecuado concebir al “sistema educativo” divorciado de sus condiciones sociales de posibilidad. Creo haber dicho, más o menos textualmente:
“No vemos por la calle sistemas respiratorios, o sistemas digestivos caminando, vemos personas (…) Son los países más igualitarios del mundo, los países nórdicos más Japón, los que exhiben mejores resultados educativos”. Las instituciones educativas son como las cuerdas de una guitarra: no vibran sin una caja de resonancia. Ese punto de vista está desarrollado en una ponencia que presenté hace muchos años en un congreso de ALAIC, en México: “¿La educación iguala o la igualdad educa? El caso del Plan Ceibal” (Courtoisie, 2016).
La IA, es decir, todo el colorido abanico de las heterogéneas prácticas que se asocian a esos términos, supone una gran oportunidad para el Uruguay. Algo así como una segunda etapa de desafíos, similares a los que planteó el Plan Ceibal en su momento (o plantea en la actualidad, bajo nuevas circunstancias). Pero la adopción crítica de la IA es algo que va más allá del sistema educativo o de la educación en sentido formal: concierne a toda la sociedad. No es un tema exclusivo de académicos o expertos. (Para una mirada diferente de este tópico, ver el artículo de Helena Modzelewski cuyo enlace consigno en las referencias).
Es que en el mundo hay grandes ejemplos de empowerment, de personas muy por fuera del sistema educativo en sentido formal que lograron avances notables: Srivinasa Ramanujan, el matemático autodidacta de la India que redescubrió por otros métodos tramos sustanciales de las matemáticas occidentales. Augusto Odone, el padre de Lorenzo, afectado de una grave enfermedad degenerativa del sistema nervioso, que diseñó un nuevo medicamento para tratarlo. Toda la revolución informática rebosa de casos de creadores que no habían completado sus estudios secundarios, como lo demuestra Walter Isaacson (2014).
Pongamos por aquí una pausa. Es inevitable abordar ahora la cuestión de la enseñanza de la filosofía, al menos de modo muy breve, porque toca varios temas de fondo.
Izquierda: Eduardo Mangarelli. Centro: Agustín Courtoisie. Derecha: Jorge Delgado. Fuente: ANEP, 22/8/2023. 1er. Debate sobre IA y Educación. Impactos en las prácticas. https://youtu.be/2rjdKKepTrs?si=JGAbpH_CikvJXW46
La ética podría vacunarte
Pocos días después del debate organizado por la ANEP, el Ministro de Educación y Cultura, Pablo Da Silveira, justificó la quita de horas de filosofía porque “una parte muy importante de nuestros docentes no pueden leer un texto simple y entenderlo” (Da Silveira, 2023).
Es posible que el ministro tuviese en mente este tipo de noticias: “60% de estudiantes que ingresaron a carreras docentes tuvo bajo nivel en prueba escrita” (El País Uruguay, 2023).
Parece muy razonable preguntarse si esos resultados de apariencia desfavorable, usando el mismo argumento, no deberían aplicarse a toda la enseñanza de ciencias y no solamente a filosofía. Bajo esos supuestos, ¿por qué no suprimir la trigonometría o mandar al exilio a Kepler, a Newton y a la Tabla periódica de Mendeléyev?
Entretanto, parece atinada la respuesta dada al ministro por las/los Profesoras/es de Filosofía Autoconvocados (PFA) el 31 de agosto:
“¿Por qué se iguala y compara a una persona recién ingresada en formación docente y sus conocimientos con alguien que pasó por cuatro años de formación y muchos años más de práctica? No tiene sentido afirmar que los profesores recibidos tienen dificultades porque se realizó una prueba a quienes recién ingresan, que lejos están de poder ejercer la docencia aún.
“Sería deseable que las autoridades que atacan al colectivo desde el lugar de superioridad, revean sus dichos, teniendo en cuenta que los y las docentes somos conscientes de que nuestras prácticas son ampliamente mejorables, porque somos autocríticos” (PFA, 2023).
Hay otras líneas de argumentación ante la descuidada jibarización de la enseñanza filosófica. Por un lado, en lo que concierne al tema principal de este artículo, para dominar la IA (y evitar que ella se ponga al servicio de quienes intenten someter a los ciudadanos), es imprescindible la educación ética. No alcanza lo que puedan hacer las familias al educar a sus hijos. Desde la educación formal hasta las campañas por el bien público deben arrimarse contenidos para una mayor conciencia ética, y no restarlos.
Los ejemplos son varios. Los vehículos autónomos incorporan criterios de reducción del daño ante situaciones donde inevitablemente alguien puede morir o salir lastimado. Esas decisiones éticas el software las toma en función de cómo ha sido programado.
El ciudadano común debe entender cómo se manipulan los datos privados de millones de personas. Por eso en un próximo artículo abordaremos el libro La dictadura de los datos de Brittany Kaiser, ex empleada de Cambridge Analytica, empresa que logró manipular elecciones y permear peligrosamente la opinión pública de varios países, utilizando los datos privados de millones de usuarios de Facebook.
El ciudadano también debe estar muy alerta ante los sesgos que se introducen en los algoritmos de diferentes propósitos, que van desde la selección de puestos de trabajo a la seguridad urbana.
Y si hay que educar para conseguir un empleo, argumento que parece muy práctico y que hasta cierto punto podemos compartir, nada mejor que la enseñanza en los liceos de responsabilidad social empresarial (RSE) y sus diferentes expresiones. ¿Pero cómo enseñar RSE sin enseñar bases éticas? Una de las pocas vacunas que podemos ofrecer a los estudiantes contra futuros vínculos laborales tóxicos, es el estímulo del carácter, del amor propio, de la conciencia de su propia dignidad, de su derecho inalienable de decir “No” a los abusadores, que nunca faltan. No alcanza con legislar, hay que recrear una cultura del respeto.
Dos economistas europeos han advertido con mucha lucidez que el malestar en el trabajo es debido a una paradoja terrible de la cultura de la gestión empresarial hoy vigente:
“Una regla de oro de esta cultura de la gestión es la prohibición de mezclar los lenguajes y las emociones de la vida privada con los de la vida de la empresa. El mundo de la empresa es el mundo de la racionalidad, no el de los buenos sentimientos.
“Pero mientras estas empresas cultivan, por un lado, comportamientos de separación, por el otro, cuando tienen que reclutar y motivar a los equipos, utilizan por el contrario palabras típicas del ámbito familiar, de los amigos, del registro de los ideales. Se habla de estima, de mérito, de respeto, de lealtad, de fidelidad, de excelencia, de reconocimiento, de comunidad, muchas palabras que activan en las personas las dinámicas aprendidas en la vida privada y familiar” (Bruni y Grevin, 2017, pp. 161-162)
¿Vamos a preparar a los jóvenes para el mercado de trabajo sin acercarles algunos conceptos éticos básicos y sin entrenarlos en el hábito de la reflexión moral? El hecho de vivir en sociedades con múltiples confesiones religiosas o filosóficas, no debería ser motivo para renunciar a la búsqueda de ciertos acuerdos mínimos. No se necesita un doctorado para entenderlo. Y además, casi todos hemos vivido la hermosa experiencia de percibir la grandeza y la dignidad de personas casi analfabetas, que luchan por sus hijos y su subsistencia.
Nadie necesita para eso entender un texto simple, sino inteligencia emocional. No se trata solo de filosofía teórica, aunque mucho ayuda también. Se trata de apostar a formar el temperamento, el carácter, el sentido de la dignidad propia y ajena. Para eso, entre otras cosas, sirve la filosofía.
Dicho sea de paso, la circunstancia es oportuna para señalar la proximidad del talante del ministro con la de ciertos escépticos, que creen estar situados en sus antípodas desde el punto de vista político. Sin embargo, por radicales que se perciban a sí mismos, pueden resultar muy funcionales a esa mirada desangelada de los procesos educativos de largo aliento.
Hay que volver a levantar la mirada hacia grandes objetivos nacionales.
Que todos tengan un poco
Regresemos a los argumentos planteados durante el debate sobre IA y educación organizado por ANEP (2023). Se puede objetar, y entiendo que es muy pertinente hacerlo, que los grandes logros del Uruguay en innovación tecnológica empresarial o en aportes científicos de calidad no son representativos del conjunto.
Sin embargo, creo que ciertos casos ejemplares, que todos los uruguayos deberíamos tener muy presentes, no fueron mencionados durante el debate en el sentido de una muestra estadística que aspira a la generalidad.
A los casos ya mencionados (Genexus y las investigaciones sobre los restos de megafauna del Arroyo del Vizcaíno en Sauce) podríamos agregar la innovación disruptiva de Rafael Guarga y sus colaboradores: el SIS (Sumidero Invertido Selectivo). El diseño original del SIS se proponía combatir las heladas que afectan los negocios del agro. Hoy se venden en todo el mundo.
No tenemos tres millones y medios de innovadores disruptivos. Pero la empresa Frost Protection de Rafael Guarga es un buen indicador de la densidad de la cultura científico tecnológica que posee el Uruguay para ser auténticos creadores de tecnología. Invito a los lectores a recorrer más de cerca este caso formidable: “El Sur también innova (Rafael Guarga y el SIS)” (Courtoisie, 2021 c).
En el caso del Plan Ceibal, supone una incomprensión severa deducir a partir de mis dichos durante el debate que yo pretendía inferir de los premios de muchos niños y jóvenes de la generación Ceibal una distribución masiva de esos logros.
Claro está que no todos los alumnos liceales han descubierto asteroides con sus docentes, ni ganado premios de robótica, como señalé durante el debate de ANEP. Se trata de indicadores de una interesante masa crítica, que es preciso cuidar como un tesoro.
Pero eso se contesta de modo muy fácil. Del hecho de que la selección uruguaya haya alcanzado el cuarto puesto durante el Mundial de Sudáfrica en 2010, no puede inferirse que en ese entonces disponíamos de tres millones y medio de Luis Suárez o Diego Forlan. Pero sí que tratándose de un país de modesta población en términos numéricos, existe una cultura deportiva que recorre con notable capilaridad toda la sociedad (con el fútbol como una de las pocas esperanzas de ascenso social, aunque puede que eso no sea del todo bueno).
Los procesos sociales de largo plazo, cuando se aspira a una visión que sobrevuele las pequeñas miserias humanas, se parecen a la construcción de un gran edificio de viviendas cooperativas. Todo parece que demora, que las fallas son insuperables, que las horas de trabajo no son suficientes, que pueden encontrarse errores de la instalación eléctrica o la sanitaria. Al final, el trabajo colectivo lo consigue. Y se ocupan las viviendas y se vive en comunidad.
Por eso el Plan Ceibal y sus premios son tan sugerentes: la dignidad se distribuyó mejor y la brecha digital se mitigó. Las lesiones del reconocimiento, del respeto, dieron paso a la esperanza del empoderamiento gradual. Aunque falte mucho y aunque haya que remontar todavía montañas de inequidades. Saber percibirlo es cuestión de sensibilidad, de inteligencia emocional. Para abundar en este punto recomiendo libros como El respeto de Richard Sennett (2003) y Las fronteras de la justicia. Consideraciones sobre la exclusión de Martha Nussbaum (2012).
Es como en la enseñanza musical. En una nación que aspire a una cultura con sentido nacional y soberano puede que existan grandes voces, apenas voces y muchos coros. El problema es cuando nadie canta.
REFERENCIAS
ANEP (2023). Primer Debate sobre Inteligencia Artificial y Educación. Impactos en las prácticas. 22/08/2023. Completo: https://www.youtube.com/watch?v=FOaMBvB8QyU
Bruni, Luigino y Grevin, Anouk (2017). La economía silenciosa. Economía de comunión, empresas y capitalismo. Buenos Aires: Ciudad Nueva.
Cinemateca Uruguaya. [Página web]. (s.f.). Soñar Robots (Trailer). https://cinemateca.org.uy/peliculas/1266
Collins, Harry y Pinch, Trevor (1996). El gólem. Lo que todos deberíamos saber acerca de la ciencia. Barcelona: Crítica. Fecha original de publicación: 1993.
Courtoisie, Agustín (2016). ¿La educación iguala o la igualdad educa? El caso del Plan Ceibal (Uruguay). En Memorias del XIII Congreso Latinoamericano de Investigadores en Comunicación, “Sociedad del conocimiento y comunicación: reflexiones críticas desde América Latina”, 5 al 7 de octubre de 2016, Universidad Autónoma de Cuajimalpa, México (pp. 73-80). Memorias completas:
https://www.alaic.org/wp-content/uploads/2022/03/GT4.pdf Artículo específico: https://drive.google.com/file/d/0B63NPN96qww7aU1TbEVIa2ZkUVk/view
Courtoisie, Agustín (2021a). “La apropiación en cuestión. Crítica y vindicta de un programa fecundo”. En Rasner, Jorge (Comp.). Desafíos de la sociedad digital en el mundo contemporáneo (pp. 119-148). CSIC – Universidad de la República. https://drive.google.com/file/d/11Q7MQTLBa6lcH_l4mIFomcKEwcyVhAr-/view?usp=sharing
Courtoisie, Agustín (2021b). “Políticas científicas y participación ciudadana. Del déficit cognitivo al superávit democrático”. En L. Giri, J. Sutz & F. Bernabé (Eds.), Filosofía e Historia de la Ciencia y Sociedad en Latinoamérica (Vol. I) (pp. 122-134). Asociación de Filosofía e Historia de la Ciencia del Cono Sur. https://drive.google.com/file/d/1Y6-wmPVSbKly9-sPtwr3FwBwtLQTqOpz/view?usp=sharing
Courtoisie, Agustín (2021 c). https://agustincourtoisie.wordpress.com/2021/06/10/el-sur-tambien-innova-rafael-guarga-y-el-sis/
Courtoisie, Agustín (2023 a). “IA-forismos”. En Mediomundo.uy 19/8/2023. https://mediomundo.uy/contenido/6069/ia-forismos
Courtoisie, Agustín (2023 b). Intervención personal en el Primer Debate sobre Inteligencia Artificial y Educación. Impactos en las prácticas. Organizado por ANEP el 22/8/2023. https://youtu.be/2rjdKKepTrs?si=JGAbpH_CikvJXW46
Da Silveira, Pablo (2023). https://youtu.be/xBWaQgAhaMo?si=4vzmENZjd6T-uIyW
Domínguez-Rodrigo M., Baquedano E., Varela L., Tambusso PS., Melián MJ., Fariña RA. (2021) “Deep classification of cutmarks on bones from Arroyo del Vizcaíno (Uruguay)”. Proc. R. Soc. B 288: 20210711. https://doi.org/10.1098/rspb.2021.0711
El País Uruguay (2023). https://www.elpais.com.uy/informacion/educacion/60-de-estudiantes-que-ingresaron-a-carreras-docentes-tuvo-bajo-nivel-en-prueba-escrita
Genexus (2023). https://www.genexus.com/es/noticias/leer-noticia/genexus-next-by-globant
Guzmán, Leonardo (2023). “Precisando e insistiendo”. En El País 18/08/2023. https://www.elpais.com.uy/opinion/columnistas/precisando-e-insistiendo
Isaacson, Walter (2014). The Innovators. How a Group of Hackers, Geniuses, and Geeks Created the Digital Revolution. New York: Simon & Shuster.
Marandino, J., & Wunnava, P. (2014). “The Effect of Access to Information and Communication Technology on Household Labor Income: Evidence from One Laptop per Child in Uruguay”. IZA Discussion Paper, (8415). https://doi.org/10.2139/ssrn.2492442
Modzelewski, Helena (2023). “Crónicas del aula: frustrada novela de ciencia ficción”. En La Diaria. 30/08/2023. https://ladiaria.com.uy/educacion/articulo/2023/8/cronicas-del-aula-frustrada-novela-de-ciencia-ficcion/
Nussbaum, Martha (2012). Las fronteras de la justicia. Consideraciones sobre la exclusión. Barcelona: Paidos. Publicación original: 2006.
PFA (2023). https://www.carasycaretas.com.uy/politica/profesores-filosofia-cuestionaron-dichos-da-silveira-n66086
Rosá, Aiala y Chiruzzo, Luis (2023). “Deep Learning y modelos de lenguaje”. En ANEP 31/08/2023. https://www.youtube.com/watch?v=oFFU6nOaIAI
Sennett, Richard (2003). El respeto. Sobre la dignidad del hombre en un mundo de desigualdad. Barcelona: Anagrama.
Solari, Ana (2017). La revolución Ceibal. El sueño que cumplió 10 años. Montevideo: Sudamericana.