Máquinas éticas

El encuentro binacional de equipos de investigación, con invitados extranjeros como Lola Almendros, Javier Echeverría, Virginia y Gregory Chaitin, continuó los días 9 y 10 de diciembre de 2024 en Buenos Aires, en la sede de la Sociedad Argentina de Análisis Filosófico (SADAF), quien junto al GESCyT y el Grupo Filosofía de la Ciencia y Sistemas Complejos organizaron además el V Coloquio de Historia y Filosofía de la Ciencia del Río de la Plata.

El texto que sigue es el resultado de una transcripción del audio de mi exposición en el VIII Seminario Bertrand Russell mediante software (Zamzar, 2024) y la adición de un  posfacio donde procuro brindar mejores respuestas a las preguntas que me plantearon. Se eliminaron las muletillas propias de las oralidad y se insertaron algunas palabras entre paréntesis rectos en aras de la claridad expresiva.

Casos y caminos teóricos

El título de mi ponencia refiere al diálogo entre casos y caminos teóricos. En el fondo de mis intenciones está la propuesta de pensar en “máquinas éticas”  y en “micro empoderamientos”. Debo simplificar dada la hora, porque [después] me gustaría intercambiar algo. A mí me gusta mucho mirar a la gente que viene a trabajar a casa. Me suelo pelear con los pintores cuando no usan la cinta de papel. Por orgullo me dicen: “¿usted piensa que no tengo pulso?”. Y no, es que queda más prolijo. Entonces, necesitamos simplificar. Las cintas de papel son para usarlas y después se tiran.

Todo el tiempo los profesores de filosofía y otras asignaturas hacemos algo similar. Cuando enseñamos que la inducción consiste en partir de enunciados particulares para intentar llegar a un enunciado general; o cuando simulamos enojo [contra la inducción] como Sir Karl Popper en La lógica de la investigación científica, luego damos paso [a la idea de] que no existen los hechos. Los hechos surgen dentro de marcos teóricos.

Entonces, la inducción explicada así es de novicios, una inducción primeriza. Y después pasamos a la idea del marco teórico, sin el cual los hechos no van a poder ser vistos.

[Lo peor es que] nos sentimos constreñidos o constreñimos a nuestros estudiantes a elegir “un” marco teórico u otro. Pero yo creo que la descripción del abordaje de cualquier pasión intelectual es muy diferente. Los que estamos en filosofía, en filosofía de la ciencia, o en filosofía de la técnica, más bien solemos jugar cambiando los supuestos. Primero quisiera partir de eso.

Y cuando [a continuación] yo hable resumidamente de máquinas éticas, debo aclarar que el concepto no refiere  a máquinas en sentido literal. A nadie se le ocurre que cuando se habla del “motor de búsqueda” de Google, haya que pensar en el motorcito de una  Mehari o de un Hyundai. Es metafórico. ¿Pero por qué elijo la palabra “máquina” y no “dispositivo”?

Porque las máquinas me encantan. Las máquinas tienen una materialidad, una sensualidad. El chorro de agua que sale de una hidrolavadora. El sonido perfecto del centrifugado de un lavarropa, solo superado por la belleza de las turbinas de un avión. Yo diría que la noción de máquina es bien fuerte. Imagino también, por ejemplo, cuando uno usa la bordeadora y piensa cómo algo tan débil como un hilo de plástico, al girar muy rápido corta el pasto. La máquina me sugiere todas esas cosas. Y prefiero “máquina” a “dispositivo” que me resulta gris y abstracto.

Entonces, ¿por qué las máquinas éticas? Las máquinas éticas pueden ser algo similar al motor de Google: algoritmos o fragmentos de algoritmos o programas completos.

Podemos soñar también, si queremos antropomorfizar, en un robot que cumpla las tres leyes de Asimov, las tres leyes de los robots.

Pero una máquina ética puede expresarse también mediante una norma jurídica. ¿Alcanza una norma jurídica?

En la época en que me ocupaba del caso de la empresa UPM en Uruguay, conversamos largamente con el ambientalista e investigador Eduardo Gudynas. [En ese entonces] yo argumenté sobre la importancia de que las constituciones de varios países de América Latina hubieran incorporado artículos referidos a la protección del medio ambiente. Y recordé la reforma constitucional de 1996 del Uruguay, que incorporó cláusulas de protección de la Naturaleza y del medio ambiente. Y Eduardo Gudynas me dijo una cosa muy sabia, aunque no recuerdo las palabras exactas. Me dijo [algo parecido a]: “Si, las normas son muy importantes. No nos neguemos a aprobar normas que nos puedan ayudar, pero las normas no alcanzan”. Y él siguió hablando, [y mencionó a] la gente en la calle para apoyar las normas.

Entonces, no se trata de optar por la norma “sí” o por la norma “no”, y ponerse en abogado creyendo que la letra mandata la realidad, o bien ponerse en activista y decir no, porque es la gente en la calle la que transforma la historia. Creo que hay un camino prudente que es incluir lo uno y lo otro, las dos cosas.

Una máquina ética puede ser un dron que enfrente los drones bélicos que están programados para matar civiles o para matar selectivamente. Una máquina ética puede ser una organización no gubernamental que genera software de big data  o [que hace uso de] inteligencias artificiales en una lógica muy diferente de los ejemplos que nos suelen asustar. ¿Existen las máquinas éticas? Todo esto que vengo diciendo, ¿es apenas una recomendación? ¿Es algo aspiracional? Yo digo: veamos si algo como eso existe.

De la OCDE y la UE al maltrato infantil

En un libro colectivo titulado Ok, Pandora de la colección de El Gato y la Caja, Carolina Aguerre describe fenómenos que vienen en favor de los conceptos que estoy señalando.

Por ejemplo, ella hace un análisis de la Ley europea de IA [diciembre de 2023] que por supuesto que al regular y no mandatar, como ha señalado Javier Echeverría, no resuelve el problema, o no lo puede resolver todo. Sin embargo, el análisis de Carolina Aguerre revela distinciones relevantes de la norma europea, por ejemplo, cuando distingue niveles de riesgo de la IA inaceptables, de alto riesgo, de riesgo limitado y de riesgo mínimo (Aguerre, pp. 146 a  149) (European Commission, 2024).

 Claro que no alcanza la norma por sí sola. Pero todo ese enorme esfuerzo que ha hecho la Unión Europea para legislar en esta temática me parece que contribuye a construir máquinas éticas.

El Uruguay adhirió a las recomendaciones de la OCDE –muy vinculadas a la defensa de los derechos humanos– y lo acaba de aprobar a través de AGESIC [Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento] (2024). No hay que confundir las recomendaciones de la OCDE (2024) con la denominada Ley europea de IA (European Commission, 2024) –cuyas disposiciones no deben considerarse aisladas de su contexto–. En cualquier caso, esos dos conjuntos de normas constituyen también máquinas éticas.

[Hablar] de las máquinas éticas, refiere a la existencia de organizaciones, grupos de programadores, asociaciones civiles.  Nos lo cuenta a Carolina Aguerre que analiza la ley europea en ese capítulo titulado “Inteligencia artificial y esferas públicas” (Aguerre, 2024).

Voy a citar un solo caso [de ese capítulo] porque quiero leer un par de párrafos y luego nos vamos tranquilos a tomar un café por ahí: Timnit  Gebru es una desarrolladora de inteligencia artificial. Antes trabajó en Google. Es una mujer africana y creó una organización para hacer investigación aplicada, que se llama DAIR [Distributed IA Research Institute], después les cuento de qué va la cosa (Aguerre, pp.143). Según Carolina Aguerre:

“La filosofía de este instituto es la de desarrollar  IA que sean relevantes para el progreso de comunidades en un sentido mucho más holístico, contemplando valores culturales e identitarios (...) De esta manera se proponen nuevas formas en las que la IA pueda servir a las personas por fuera de la lógica de las elites tecnológicas” (Aguerre, p. 142).

Sigo con el “teorema de existencia” [mostrar que las máquinas éticas son algo existente y no algo meramente aspiracional] al referirme a Armas de destrucción matemática de Cathy O’Neil (2017).

Cathy O’Neil es una matemática de profesión. Es la autora de uno de los libros más elocuentes –junto con el Atlas de Inteligencia Artificial de Kate Crawford (2022)–, respecto de mostrar los sesgos de selección de personal, los sesgos cometidos para detener personas supuestamente peligrosas en los aeropuertos o en las afueras de los estadios, o los sesgos en el otorgamiento de créditos.

Armas de destrucción matemática es uno de los libros más elocuentes para mostrar  todo el daño que hace el manejo de big data. Yo sé que allí hay algo diferente de la inteligencia artificial. Los algoritmos de big data son una cosa  y la inteligencia artificial tal como la manejamos hoy, sobre todo las IA generativas, es un poco otra cosa, pero hay muchos vasos comunicantes entre los algoritmos de un lado y del otro.

 Y una cosa notable que logra Cathy O’Neil al final del libro, es identificar asociaciones civiles e instituciones de naturaleza estatal que están ayudando a la gente.

Por ejemplo, ella participó en un programa para que en algún lugar de Estados Unidos se hiciera un seguimiento de las familias que terminaban siempre en refugios o en albergues. Entonces hicieron toda una grilla de elementos por los cuales [se intentaba averiguar] por qué la gente iba a los albergues, si eso correlacionaba con el número de hijos, con la edad, o si las familias llevaban los abuelos a los albergues. Y una cosa que constataron es que, de pronto, había familias enteras, numerosas, que desaparecían definitivamente de los albergues. Hicieron un seguimiento y no era por violencia, que [también] se podría haber temido. O porque se fueron al exterior o se disolvieron como grupo familiar, sino que en ese momento había apoyos estatales para la adquisición de viviendas. 

Cuando identificaron eso,  la agencia estatal que financiaba la investigación en la cual participaba a Cathy O’Neil, decidió terminarla. El alcalde de la zona donde se investigaba, prefirió cortar los subsidios bajo la lógica de que si las personas estaban muchos años recibiendo eso, esperando así obtener su vivienda, no iban a tener estímulo, no iban a tener incentivos, para adquirir [trabajando] su vivienda. [Según este criterio] es mejor que los pobres trabajen más, aunque tengan ocho hijos, lleven [a vivir con ellos] a la abuela y al papá enfermo. Hay otros casos más interesantes. Ése es un poco frustrante. Pero se sabe que se puede investigar de esa manera [usando algoritmos big data].

No voy a leer [más casos] porque no tenemos tiempo. Pero [mencionemos que] Cathy O’Neil señala asociaciones no gubernamentales e instituciones que han utilizado la inteligencia artificial sobre grandes bases de datos para identificar probabilidad del maltrato infantil, especificar todos los factores, cuáles el detonante, por qué el potencial de violencia de pronto estalla. O lo que tiene que ver con los sesgos en las contrataciones laborales. O lo que tiene que ver con todo lo que sufren los pobres, en un mundo donde los algoritmos de big data están más bien hechos para radiarlos, para discriminarlos. Y menciona una cantidad de organizaciones, así que yo recomiendo calurosamente, el libro de Cathy O’Neil. Pero sobre todo el último capítulo  donde nos muestra que las máquinas éticas no son algo aspiracional, sino que es algo que vive y lucha.

Teorías ausentes en los debates

Ahora, yo les decía que tenemos que simplificar, ¿verdad? Entonces, uno a veces se acuerda las clases que ha dado y piensa ¡cómo simplifique este tema! Pero es como una cintita del papel del pintor, empiezo con eso, dejamos el tema parejito, después la retiramos [la cinta de papel]. Yo creo que hay marcos teóricos con los cuales tenemos que jugar alternativamente y no pelearnos por uno, o a elegir uno solo. Yo diría que deben jugar incluso a veces de modo contradictorio [esos marcos alternativos].

Yo, por ejemplo, adhiero a casi todo lo que dijo Santiago [López Delacruz] y al mismo tiempo que creo eso,  creo otras cosas.  Por ejemplo, hay marcos teóricos que yo no veo que aparezcan  en las discusiones sobre inteligencia artificial. Y yo creo que  serían tremendamente útiles para identificar, por ejemplo, las máquinas éticas, en el sentido de que ellas pueden ser algoritmos, pueden ser normas legales, pueden ser organizaciones no gubernamentales y pueden ser también determinadas maneras de interactuar con la inteligencia artificial.

 Me quiero referir muy brevemente por lo menos a tres grandes marcos teóricos. Uno, a las teorías del decrecimiento. Dos, al gran manifiesto aceleracionista de Alex Williams y Nick Srnicek (2013). Tres, a la denominada “filosofía del cuidado” (Groys, 2022) junto a la filosofía del tiempo libre (Hester y Srnicek, 2024).

El “Manifiesto por una politica aceleracionista” (Williams y Srnicek, 2013) recupera una tradición olvidada de la izquierda que es el proyecto ilustrado. Y con citas de Lenin y de Marx explica que no hay que abandonar ni la ciencia ni la tecnología –sin incurrir en el “solucionismo tecnológico” –. Es decir, [no se trata] de darle para adelante a todas las agencias de ciencia de tecnología y a la educación en materia de ciencia de tecnología, y creer que eso va a resolver por sí sólo todos los problemas. No. Pero son herramientas que necesitamos para cambiar el mundo. Y la idea de Willliams y Srnicek  es que, como en el judo, como en las artes marciales, hay que usar la violencia y la fuerza del otro para hacerlo caer, usando su propio impulso.

Entonces, en vez de oponerse como luditas a las máquinas y rechazar los desarrollos de la inteligencia artificial,  lo que deberíamos hacer es ponerlos a jugar en nuestro favor. Pero el propio Nick Srnicek, junto con Helen Hester, tiene un preciosísimo libro y se llama Después del trabajo,  que con muchísima audacia, piensa el mundo con una paradoja. ¿Cómo es esto? Las nuevas tecnologías han sustituido una parte inquietante de los trabajos rutinarios tradicionales y ahora también amenazan sustituir  los trabajos creativos.  ¿Cómo es que no tenemos tiempo? No tenemos tiempo para la familia, la vida doméstica, los amigos. ¿Cómo resolvemos esta paradoja?

Y la respuesta de Nick Srnicek es notable. Es un derecho humano, el derecho al ocio.

Pensemos un mundo donde la dignidad de la persona ya no esté ligada a la idea del trabajo.

Esto lo vinculo también con Boris Groys, Filosofía del cuidado (2022).  Yo no veo aparecer los temas de la filosofía del cuidado en las discusiones sobre la inteligencia artificial. La inteligencia artificial carece de todo lo que dijo Santiago López Delacruz que no tenía. Y no tengo duda que tampoco es empática. Pero sin embargo, la IA usada de determinadas maneras puede ayudar mucho a nuestra propia empatía.

De nuevo, consideremos este mundo donde no se contabilizan las horas de trabajo de las madres y las abuelas. O de esas personas que siempre en la familia  –por qué será  que suelen ser mujeres– terminan cuidando del padre enfermo, o de la madre que padece de una enfermedad terminal. Entonces, el libro de Boris Groys ilumina todo un espacio que yo quisiera ver relacionado con la inteligencia artificial. Pero el marco teórico de la filosofía del cuidado está ausente. El marco del mundo del post trabajo y del tiempo libre también están ausentes. Deberíamos imaginar con un poco más de audacia.

Del manifiesto aceleracionista ya hablé y me detengo un momento en las teorías del decrecimiento que por supuesto son cosas muy contradictorias.

 El aceleracionismo es un proyecto ilustrado,  pensando, por ejemplo, soluciones globales para los medios de comunicación. Incluso  en el manifiesto aceleracionista, [sus autores] sostienen que hay que callarse las estrategias para no ayudar al enemigo. A veces hay que cambiar de estrategias, no siempre la misma va a dar resultados. Y hacen una defensa insólita, por ejemplo, y la necesidad del secretismo.

Por eso tengo la sensación de que la [aparente] vaguedad de algunas de las propuestas del manifiesto aceleracionista se debe a que esconde sus cartas  junto al pecho [para no mostrarlas]. Les propongo que lean el manifiesto aceleracionista y van a ver que es otra máquina ética posible.

Marcos contradictorios pero fecundos

Terminemos con las teorías del decrecimiento. El decrecimiento ya posee otra lógica.

El decrecimiento se plantea una pregunta muy simple también. El mundo tiene recursos limitados. ¿Cómo vamos a seguir creciendo indefinidamente y midiendo la prosperidad y la frondosidad  de las economías por el PBI?

Y tratan de responder de esta manera con el decrecimiento. Ya el truco no es crecer,

sino reducirse, practicar otras formas de vida. Y, bueno, sus exponentes dedican muchas páginas en contra del PBI [como indicador económico engañoso]  y permítanme que comparta con ustedes este párrafo de Carlos Taibo, tomado de su libro Decrecimiento. Una propuesta razonada (2021):

“Tiran del PBI hacia arriba las ganancias, de claro carácter especulativo, de muchos bancos, que es sabido que están en el origen de muchos problemas muy graves. Lo hacen los embotellamientos de tráfico que, al exigir un mayor consumo de gasolina, acrecientan también el PBI. Los accidentes de automóvil levantan este último, toda vez que reclaman el concurso de reparaciones y abogados, al mismo tiempo que a menudo se traducen en la adquisición de vehículos nuevos. Hay quien ha sugerido que, conforme a la lógica del PBI, deberíamos entregarnos a la quema obsesiva de coches, una operación que cabe suponer generará puestos de trabajo de forma masiva y contribuirá poderosamente a resolver el problema del desempleo”  (Taibo, 2021, p. 35).

 Yo no sé si estoy acuerdo con propuestas como las de Carlos Taibo. Hay otros libros muy valiosos sobre decrecimiento (ver D’Alisa et alter, 2017). No sé si estoy acuerdo con propuestas de achicar la escala. Eso es algo muy diferente de lo sugerido por los autores del manifiesto aceleracionista, que explican que para alimentar a millones de personas no alcanzará con multiplicar las huertas orgánicas.  Estamos en una economía de enorme escala. Tampoco sé si estoy acuerdo con algunas soluciones particulares donde, de nuevo, se insiste en el ser y no en el tener.

Pero yo quiero jugar con el decrecimiento en una mano  y no enamorarme del PBI.

Yo quiero jugar con la filosofía del cuidado. Yo quiero jugar con la filosofía del mundo del post trabajo.

Yo quisiera tener una nómina completa de todas las asociaciones civiles que encontré  en el libro de Cathy O’Neil, que están ayudando a muchísimas personas en el mundo mediante la inteligencia artificial de un sentido riguroso o mediante algoritmos de big data.  Por ejemplo, para seguir la ruta de trabajo infantil o el trabajo esclavo.

Hay programas en Estados Unidos que hacen seguimiento de las empresas y cuando se sospecha  que los insumos que vienen de otra parte del mundo pueden provenir de trabajo infantil, empiezan por hacer sugerencias a la empresa. [Como diciendo:] si ustedes no nos dan información, vamos a mostrar esto al público. ¿Están dispuestos a cambiar? ¿Nos pueden dar informaciones confiables  acerca de si estos productos se hacen con trabajo infantil o no?

Entonces, yo entiendo las preocupaciones distópicas y temerosas de un Eric Sadin, un Yuval Noah Harari, de un Stephen Hawkins. Entiendo también las pulsiones de lucro de un Elon Musk,  de un Sam Altman, de un Bill Gates.

Pero me parece que la cosa va por la línea del “talweg” ¿no? Es una cosa que va, viene, zigzaguea, según los casos. En todos los abordajes de la inteligencia artificial me gustaría jugar con varios marcos teóricos [los mencionados u otros] que no están apareciendo en las discusiones y en las polémicas actuales.

Quedo a disposición para responder preguntas.

POSFACIO

Mi colega Mauricio Cheguhem creyó reconocer en mis elogios de las máquinas ciertos rasgos del futurismo italiano. No lo había pensado, pero tiene buenos motivos para sostenerlo. Excluyo de las similitudes la deriva fascista de Marinetti. Me preguntó también si la noción de “máquinas éticas” era mía. Respondí que utilizar IA o algoritmos de big data en favor del bien común es como patentar el peine. Ya se ha hecho o sugerido muchas veces. Pero sí creo que me pertenece el énfasis en mostrar los diversos avatares que pueden asumir las “máquinas éticas” (normas legales, robots, programas de propósito social, etcétera) y los componentes humanos y no humanos que lucen esos ensambles (de modo análogo a la pizarra de vínculos humanos y no humanos que configuran la teoría del actor red).

Por su parte, Hernán Miguel observó que discurrir sobre máquinas éticas conlleva el riesgo de atribuir propiedades a los dispositivos involucrados en las diferentes formas de la IA (conciencia, sensibilidad, etcétera). También tiene razón. En un pasaje célebre de una de sus obras, Descartes consideraba que al mirar la calle desde una altura durante un día de lluvia, no poseemos certeza alguna de que sean personas quienes sostienen en los paraguas y no autómatas. Desde un balcón solamente vemos la hilera de telas redondas en movimiento y no podemos afirmar mucho más. Debo aclarar que no atribuyo ninguna característica antropomórfica a las “máquinas éticas”. No es necesario para los componentes no humanos de esos ensambles.

Por último, Jorge Rasner formuló varias objeciones de peso, que no logré contestar como el colega merecía.  ¿Quiénes apoyan las iniciativas sobre ética de la IA? ¿Qué instituciones estatales o privadas, nacionales o supranacionales? En suma, ¿esos recursos financieros no condicionan las decisiones y generan un círculo que impide salir del sistema?

En el caso de Agesic se trata de una agencia que depende de la Presidencia de la República. Por su parte, la OCDE es financiada por sus países miembros. La Unión Europea se financia, entre otras fuentes, con “una proporción de cada país de la UE ingreso nacional bruto, basado en su riqueza; derechos de aduana sobre las importaciones procedentes de fuera de la UE; una pequeña parte de la IVA recogido por cada país de la UE” [Ver https://european-union.europa.eu/institutions-law-budget/budget/how-eu-budget-financed_en]

De modo que la objeción es de recibo. Las fuentes de financiamiento pueden contaminar o incluso echar por tierra las mejoras intenciones. Pero yo prefiero abordar por otro lado el tema.

Por eso esbocé una respuesta relatando dos innovaciones disruptivas protagonizadas por uruguayos, es decir, dos historias de éxito: la del software Genexus de Nicolás Jodal y Breogan Gonda, y la del sumidero invertido selectivo (SIS) para combatir las heladas, de Rafael Guarga y sus colaboradores. Asumí que el público entendía que la capacidad de crear innovaciones disruptivas supone empoderamientos, es decir, procesos de señorío, de autodominio, que son una condición necesaria aunque no suficiente de toda postura ética.

En la misma línea, mencioné también que ciertas formas de interactuar con una IA desencadenan virtuosos procesos de empoderamiento o al menos de micro empoderamientos. En mi caso, gracias a Chatgpt, logré enfrentar la diseminación de un malware que alteró la arquitectura de permisos del sistema operativo, con la aparición  de una “cuenta desconocida” que suele ser muy difícil de erradicar. Otro ejemplo. La aparición de xilófagos en el mobiliario de mi hogar y peor aún, el molesto remanente de ácaros que los parasitan, encontró también en Chatgpt un auxiliar extraordinariamente preciso para combatirlos.

 Un primer requisito, pues, para comenzar a componer los ensambles que constituyen las máquinas éticas, es la actitud de dominio, de empoderamiento por parte de los integrantes humanos del combo, ilustrado en los ejemplos mencionados.

Un segundo requisito, consiste en adoptar la noción de “cambio incremental recíproco” (la expresión es de Macpherson) de cara a la magnitud de los problemas que enfrentamos. Intento responder a la aguda objeción de Jorge Rasner: es muy difícil concebir una solución total sin apoyar un pie en algún área del sistema capitalista global para superar gradualmente las dificultades. Nadie situado por completo fuera del sistema va a poder cambiarlo, al estilo de una invasión extraterrestre. Por el contrario, lo que ocurre es que se da un paso humano dentro del sistema, el sistema o parte del sistema reacciona y castiga, o deglute el intento de cambio. Los agentes del cambio aprenden y dan otro paso. Y así sucesivamente.

Un ejemplo de ello es el movimiento de la banca ética en el mundo. Reitero aquí algunos conceptos surgidos de entrevistas con expertos en el tema:

“La banca ética no es una mera expresión de deseos, sino que ya existen 55 bancos en el mundo en esa movida, con 60 millones de clientes y casi 200.000 millones de dólares de activos. La banca ética no es aspiracional, es casi 4% del mercado bancario mundial. En Uruguay el concepto está en un nivel de prefactibilidad. Porque en la banca no todo puede ser frío análisis de riesgo, sin medir otro tipo de consecuencias. El núcleo de la banca ética, igual que en otras partes, reside en financiar empresas que generan impacto positivo, por ejemplo en áreas como el desarrollo social, el medioambiente, la educación y la cultura” (Courtoisie, 2019).

Para terminar, creo que puede ser muy útil nombrar ciertas autoridades políticas y agregar algunos detalles de los colectivos de la sociedad civil que han puesto los algoritmos al servicio de la gente, según las experiencias de Cathy O’Neill.

El estudio sobre vivienda asequible para familias usuarias de los albergues se realizó en el ayuntamiento de Nueva York y el alcalde que limitó los subsidios era Michael Bloomberg (O’Neil, 2017, p. 264-266). El escaneo de grandes cadenas de suministros para investigar la esclavitud en sociedades actuales, lo programó Mira Bernstein, doctorada en matemáticas por Harvard. La organización sin ánimo de lucro beneficiaria de ese software es Made in a Free World (p. 267). El modelo de la prevención del maltrato infantil fue desarrollado por la ONG Eckerd y se lanzó en 2013 en el condado de Hillsborough, Florida, EE.UU. con gran impacto luego de los dos primeros años de aplicación. Por último, “ya están en marcha algunos movimientos para auditar algoritmos”. Los robots de software “se disfrazan en Internet como si fueran personas de todo tipo (...) y así pueden detectar los sesgos existentes en los sistemas automáticos” (p. 260). A pesar del rechazo de Google de ser auditada en forma externa, a la iniciativa que comenzó en Princeton se han unido las universidades como Carnegie Mellon y el MIT.

Nadie me preguntó durante el Seminario cuáles eran los fundamentos de la ética subyacente a las “máquinas éticas”. ¿Por qué elegir esa ética y no otra? Perdieron la oportunidad y no tengo espacio aquí para responderlo. 

Por ahora, recordemos apenas las tres leyes de los robots establecidas por Isaac Asimov en su relato “Círculo vicioso” (1942):

 “Un robot no puede hacer daño a un ser humano, o, por medio de la inacción, permitir que un ser humano sea lesionado. Dos, un robot debe obedecer las órdenes recibidas por los seres humanos excepto si éstas órdenes entrasen en conflicto con la Primera Ley. Tres, un robot debe proteger su propia existencia en la medida en que esta protección no sea incompatible con la Primera o la Segunda Ley”.

REFERENCIAS

AGESIC  (2024).  “Uruguay adhiere a la Recomendación sobre Inteligencia Artificial de la OCDE” (17/10/2024). https://www.gub.uy/agencia-gobierno-electronico-sociedad-informacion-conocimiento/comunicacion/noticias/uruguay-adhiere-recomendacion-sobre-inteligencia-artificial-ocde

AGESIC (24/11/2024). “Se aprobó la Estrategia Nacional de Inteligencia Artificial 2024 – 2030”. https://www.gub.uy/agencia-gobierno-electronico-sociedad-informacion-conocimiento/comunicacion/noticias/se-aprobo-estrategia-nacional-inteligencia-artificial-2024-2030

Aguerre, Carolina (2024). “IA y esfera pública”. En López et alt. 2024, pp. 136-157.

Ámbito (2024). “La IA disparó el consumo de energía mundial”. https://www.ambito.com/informacion-general/la-inteligencia-artificial-disparo-el-consumo-energia-mundial-n6088172

Asimov, Isaac (1942). “Círculo vicioso” (Runaround). Escrito en 1941 y publicado originalmente en la revista Science Fiction Quarterly, 1942, EE.UU. Versión en español: Yo robot, Buenos Aires: Editorial Sudamericana, 2022.

Avanesian, Armen y Reis, Mauro (2019). Aceleracionismo. Estrategias para una transición hacia el postcapitalismo. Buenos Aires: Caja Negra.

Courtoisie, Agustín (2019). “La ética te banca”. En La Diaria (23/12/2019). https://ladiaria.com.uy/trabajo/articulo/2019/12/la-etica-te-banca/

Crawford, Kate (2022). Atlas de Inteligencia Artificial. Poder, política y costos planetarios. Buenos Aires: Fondo de Cultura Económica.

D’Alisa, Giacomo; Svampa, Maristella; Kallis, Giorgos (comp.) (2017). Decrecimiento. Vocabulario para una nueva era. Buenos Aires: ILDES, Biblioteca Permacultura, Icaria Editorial.

European Commission (2024). “Shaping Europe’s digital future. AI Act”. https://digital-strategy.ec.europa.eu/es/policies/regulatory-framework-ai

Groys, Boris (2022). La filosofía del cuidado. Buenos Aires: Caja Negra.

Hester, Helen y Srnicek, Nick (2024). Después del trabajo. Una historia del hogar y la lucha por el tiempo libre. Buenos Aires: Caja Negra.

López, Consuelo et alter (2024). Ok, Pandora. Seis ensayos sobre inteligencia artificial. Buenos Aires: El gato y la caja. Disponible completo:
https://elgatoylacaja.com/ok-pandora/indice

OECD (2024). https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449

O’Neil, Cathy (2017). Armas de destrucción matemática. Cómo el Big Data aumenta la desigualdad y amenaza la democracia. Madrid: Capitán Swing.

Taibo, Carlos (2021). Decrecimiento. Una propuesta razonada. Madrid: Alianza Editorial.

Williams,  Alex y Srnicek, Nick (2013). “Manifiesto por una política aceleracionista”. En Avanessian y Reis, 2019, pp. 33-48.   

UNESCO (2021). Recomendación sobre la ética de la inteligencia artificial. https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa.locale=es

Zamzar TM Online File Conversion [software] (2024). https://www.zamzar.com/tools/audio-to-text/