Ni tan artificial, ni tan inteligente
#68 | Siempre Cyborg Nunca Diosa
Hola ¿Cómo estás? Hace bastante que no andaba por aquí, pero no creas que me olvidé de mi cartas virtuales, de a poco voy a ir retomando mi ritmo… ¿habitual? En estas semanas que estuve un poco ausente, pasaron un montón de cosas: se estrenó una nueva temporada de Black Mirror, Meta lanzó su propio Twitter, Twitter ahora se llama X, Barbie -la muñeca que siempre soñé tener y nunca tuve- llegó al cine y es un éxito rotundo en todo el mundo.
La inteligencia artificial, por su parte, sigue creciendo y avanzando a pasos agigantados, provocando todo tipo de emociones: fanatismo, admiración, miedo, recelo… ¿Qué nos pasa con la IA?
Un poema
Me informan que en el futuro
los poetas serán reemplazados
por robots que escriben en algoritmos
lo que nosotros atribuíamos
a la inspiración
sin embargo
siguen peleando por lo mismo.
- Diego Espíritu en «Poemas panks para Community Managers»
El boom de la Inteligencia Artificial de los últimos meses, sobre todo desde que se lanzaron herramientas como Chat GPT y DALL-E 2, ha causado una gran ola de entusiasmo que no queda otra que surfear. Sí, es cierto que afecta -y va a afectar- de manera significativa nuestra vida cotidiana, pero todos los discursos que la colocan en el lugar de la salvación no son más que un espejismo, como dice el periodista Evan Salinger: “Para poder sacar el mayor provecho de estos desarrollos tecnológicos, debemos tener muy clara la manera en que su uso va a impactar en la sociedad. Exagerar sus bondades va en detrimento de esa meta”.
En esta misma línea, Andrew McDiarmid, crítico de tecnología, en un artículo que publicó en mayo, toma como referencia la película animada WALL-E y analiza cómo -en la peli- los humanos son poco saludables, poco inteligentes, se han vuelto obesos e inmóviles y dependientes de la inteligencia artificial para que haga todo por ellos.
Andrew escribe una idea que me parece buena apuntar. En esta visión distópica del futuro, los humanos “no han sido conquistados por una Inteligencia Artificial hostil que haya superado a la inteligencia humana. Pero siguen siendo un pueblo vencido. Han entregado felizmente las riendas de sus vidas a la inteligencia artificial a favor de la comodidad, la conveniencia y la seguridad percibida que les brinda”.
En la vereda opuesta a les entusiastas de la inteligencia artificial, están quienes la perciben como una amenaza, una fuente de miedo y desconfianza. Una entidad que puede sustituirnos, dominarnos e incluso borrarnos del mapa. ¿Qué miedo, no? En esta mirada hay algo de la teoría del “valle inquietante o inexplicable” que me parece fascinante.
Este concepto fue creado por el robótico Masahiro Mori en un ensayo que publicó en 1970. Mori decía que los robots se vuelven más agradables a media que adquieren cualidades similares a las humanas (por ejemplo, nuestro amigo WALL-E), pero que cuando se vuelven demasiado humanos se tornan aterradores, ese es el momento en que estamos estamos transitando el “valle inquietante”. Luego, cuando se vuelven casi indistinguibles de los humanos, se nos tornan simpáticos otra vez.
Para evitar el valle inquietante, la idea de Mori fue práctica: no hay que construir robots con apariencia humana. Sin embargo, muches investigadores afirman que cualquier agente artificial, desde un robot hasta un chatbot, puede provocarnos el valle inquietante. Porque -dicen- que más allá del aspecto humano, lo que realmente nos inquieta es que pone en jaque nuestra idea de la singularidad de las capacidades humanas, como el razonamiento, la lógica y las emociones.
La inteligencia artificial es un herramienta, no la solución a todos nuestros problemas. Pero tampoco tiene que ser una enemiga. Allí es cuando entran en juego las cuestiones éticas, tanto en su desarrollo como en sus usos. Podemos ser más conscientes, por ejemplo, de que los sistemas de inteligencia artificial que hoy se expanden están controlados por unas pocas empresas tecnológicas, que siguen creciendo gracias a la extracción gratuita y no regulada de datos de las personas y de sus interacciones en las plataformas.
También, que esos mismos sistemas de inteligencia artificial se alimentan de datos estadísticos de la realidad, que es racista, sexista, ecocida, económica y políticamente injusta. Son máquinas que no tienen la capacidad de imaginar realidades diferentes y, por lo tanto, conservan y reafirman las injusticias y discriminaciones existentes.
Ni tan artificial ni tan inteligente
En marzo, Evgeny Morozov, escritor e investigador bielorruso que estudia las implicaciones políticas y sociales de la tecnología, en un artículo en The Guardian escribió:
“Lo que hoy llamamos ‘inteligencia artificial’ no es ni artificial ni inteligente. Los primeros sistemas de IA estaban fuertemente dominados por reglas y programas, por lo que al menos estaba justificado hablar de ‘artificialidad’. Pero los de hoy, incluido el favorito de todos, ChatGPT, obtienen su fuerza del trabajo de humanos reales: artistas, músicos, programadores y escritores cuya producción creativa y profesional ahora se apropia bajo la excusa de salvar la civilización. En el mejor de los casos, esto es ‘inteligencia no artificial’”.
La inteligencia -dice Morozov en el texto- no es unidimensional. No se trata solo de la coincidencia de patrones, también es importante la capacidad de hacer generalizaciones:
“Las máquinas no pueden tener un sentido (en lugar de un mero conocimiento) del pasado, el presente y el futuro; de la historia, de lo que hiere o de la nostalgia. Sin eso, no hay emoción (…) de este modo, las máquinas quedan atrapadas en la lógica formal singular. Así que ahí se va la parte de ‘inteligencia’”.
La IA no es más que una máquina estadística bien administrada pero predecible, dice el investigador. Además, el furor por herramientas como ChatGPT no nos deja ver que si puede hacer todo lo que hace y es también un poco creativa, es porque su entrenamiento fue producido por personas reales, con sus emociones, frustraciones, ansiedad y todo lo que sea que viene con ellas. Habrá que invertir más en la producción de arte, ficción e historia, y no solo en centros de datos y aprendizaje automático, sugiere Morozov.
Es importante mencionar que, en realidad, la inteligencia artificial y los algoritmos casi siempre dependen de mano de obra que, además de estar absolutamente invisibilizada, está mal pagada. Son personas que a lo largo y ancho del mundo se encargan de perfeccionar estas tecnologías. Florencia Goldsman publicó hace algunas semanas un reportaje demasiado bueno sobre este tema, se llama «Que sueñen los androides las pesadillas de quienes educan a los algoritmos».
También podés escuchar el episodio «Los trabajadores invisibles de la Inteligencia Artificial», forma parte del Podcast El Bestiario de Internet, que produce Fundación Vía Libre.
Ética y feminismo en la Inteligencia Artificial
En junio pasado, la organización chilena Derechos Digitales presentó la guía “Reflexiones feministas para el desarrollo de Inteligencia Artificial”, una iniciativa que desarrolló con apoyo de la red f<A+i>r.
Sobre la red f<A+i>r he escrito en varios de mis envíos. Es una coalición feminista global y multidisciplinaria, donde confluyen académicas, activistas y tecnólogas que investigan y desarrollan IA con enfoque feminista.
¿Es posible desarrollar IA que no reproduzca lógicas de opresión? La guía recoge una serie de charlas que se realizaron entre enero y febrero de 2023, entre mujeres latinoamericanas que se encuentran desarrollando sistemas de Inteligencia Artificial bajo el acompañamiento de la red f<A+i>r, junto a otras mujeres expertas en IA en la región.
El objetivo de estos encuentros fue incentivar la reflexión a partir de experiencias de desarrollo de proyectos concretos, posibilitar también el intercambio de experiencias, recomendaciones y metodologías que puedan aplicarse al diseño de los sistemas, con perspectivas feministas. En definitiva, “se trata de intentar comprender cómo las prácticas feministas pueden sentar las bases para el desarrollo de una IA inclusiva y con sentido de justicia social”, afirman en el documento.
Antes de despedirme, me gustaría recomedarte IAbuelas, un trabajo del artista y diseñador gráfico argentino Santiago Barros, quien se vale de la inteligencia artificial para proyectar cómo se verían hoy bebés que fueron apropiados durante la dictadura militar en Argentina.
“El hecho de que en mi familia tengamos un familiar desaparecido, un tema que me acompaña desde la infancia, motorizó la idea”, cuenta Santiago en una entrevista. El proyecto se apoya en el archivo fotográfico de Abuelas de Plaza de Mayo: a partir de las fotos de los padres en blanco y negro, Santiago obtuvo una proyección femenina y otra masculina de cada une, excepto en aquelles que se sabe por testimonios que la niña o niño fueron apropiados junto a sus padres.
El proyecto de Barros se difunde por estos días en las redes sociales con la intención de colaborar en la búsqueda de esos niños y niñas robadas. Si bien él aclara que no persigue una aspiración científica, le dio a muchas familias la posibilidad de recuperar en imágenes a un ser querido.
Tanto Santiago como Abuelas, dejan en claro que “hasta el momento, el único método infalible para vincular a un nieto o nieta con su familia de origen es a través del entrecruzamiento genético en el Banco Nacional de Datos Genéticos (BNDG)".
¡Muchas gracias por llegar hasta acá! Este fue el envío #68 de Siempre Cyborg Nunca Diosa. Si querés colaborar con el proyecto, compartilo con tus amigues o en tus redes sociales para que llegue a más personas. Si te llegó reenviado, podés sucribirte acá:
¡Hasta la próxima! Ivana
a mi me da un poco de miedito el tema de la inteligencia artificial, me da pensar de cuanta gente se podra declarar prescindible en un trabajo,por ej. El tema es interesante, nos sorprendera mucho en el futuro, cercano???