Jornada 1 – 303. Inteligencia artificial, internet y microchips

[Mara] Bueno, buenas tardes a todos y 
a todos. Queremos darles la bienvenida   a este tramo organizado por el Instituto 
Nacional de Formación Docente, junto a la   Fundación Sadosky. Para quienes no nos conocen 
todavía, nuestra organización es una institución   público/privada dedicada al desarrollo y a la 
investigación en temas de ciencia y tecnología,   y en particular en las nuevas tecnologías de 
la información y la comunicación. Hoy vamos a   estar iniciando este tramo que dura tres jornadas: 
hoy y los próximos dos lunes, también comenzando   a las 18 horas, con la idea de poder discutir y 
compartir con ustedes algunas ideas en relación   a la Inteligencia Artificial, la ciencia de 
datos, las computadoras e Internet. Durante   el verano quizás algunas y algunos escucharon 
oír por ahí, que apareció una nueva herramienta   Chat GPT, entre otras muchas que ya venían 
dando vueltas, que cambió un poco la discusión y   quizás las preocupaciones en relación a cuál es el 
escenario tecnológico actual y cómo afecta nuestra   vida cotidiana en general, nuestro trabajo, y 
en particular quizás la educación.

Entonces,   a lo largo de esta jornadas, queremos saber un 
poco más sobre de qué se trata, cuán real es que   este escenario vino para cambiar todo de una vez 
y por todas, y sobre todo preguntarnos qué podemos   nosotros y qué debemos, en todo caso como docentes 
y dentro de la escuela, abordar en relación a   este nuevo escenario, si podemos brindar algún 
conocimiento al respecto, si podemos debatir sobre   los dilemas que nos presenta o si tenemos que 
simplemente usarlo como una herramienta más para   enseñar los contenidos que ya veníamos trabajando 
a lo largo de estos años. En el día de hoy vamos   a tener a tres personas dialogando con 
nosotros sobre estos temas y entonces voy   a presentar a nuestro primer ponente que es 
Fernando Schapachnik. Es doctor en ciencias   de la computación por la Universidad de Buenos 
Aires, en particular la Facultad de Exactas,   donde también es docente, y desde hace más de 
un año dirige la Fundación Sadosky. Desde ya   queremos agradecer al Instituto Nacional por 
compartir con nosotros este espacio y poder   acercarles a ustedes a estos colegas que van a 
estar compartiendo hoy con nosotros este debate.

[Fernando] Bueno, buenas tardes a 
todos y a todas gracias por sumarse. Si me permite mi segundo voy a 
compartir con ustedes una presentación. Acá estamos. ¿Ahí se ve? ¿Alguien me confirma? ¿Se ve 
bien?. Perfecto, gracias. Como decía Mara,   en los últimos meses (ahora vamos 
a precisar un poquito más) salió a   la luz esta herramienta Chat GPT. Voy a 
dar por supuesto que todos la conocemos,   pero les voy a mostrar un diálogo particular 
que tuve con la herramienta. Esto que lo voy   a mostrar es de verdad un diálogo que tuve con 
ella, es tal cual.

Miren, voy a empezar por ahí. Yo le pedí y le dije: supongamos que estamos a 
cargo de tomar los pedidos de los clientes de una   empresa que comercializa repuestos de autos. Un 
cliente pidió un paragolpes para un Peugeot 206,   pero no especifica de qué año ni de cuántas 
puertas, y eso determina que pieza se trata.   Le pedí: armá un diálogo con el cliente para 
llegar a obtener los detalles que faltan,   incluidos los necesarios para el envío y forma de 
pago. Vamos a ver qué me respondió. Van a ver que   el formato cambia, hice solamente copie and paste 
para que entre en la pantalla, pero les prometo   que esto es literal. Esta fue la respuesta de 
la herramienta. El cliente dice: -quiero comprar   un paragolpes para un Peugeot 206 -Gracias por 
elegirnos, ¿podría proporcionarnos el año y número   de puertas? -Es del 2007, tiene cinco puertas 
-Gracias por la información ¿podría darme su   dirección, su número de teléfono bla bla bla bla 
para el envío? (Le da la dirección un teléfono).   -Gracias ¿puedo preguntarle como desea pagar? Y 
le dice la forma de pago.

-Pagaré con tarjeta de   crédito -Perfecto, le enviaremos la factura y le 
informaremos una que haya sido el envío ¿lo puedo   ayuda en algo más? -No, muchas gracias. -Gracias 
por elegirnos. Hasta acá uno podría decir: bueno,   la verdad que no siempre que he intentado comprar 
algo me han tratado tan bien, esa podría ser una   primera observación. Pero yo seguí adelante y 
le dije: bueno okay recibiste un pedido ahora   llévalo adelante. Escribí el mail que mandarías 
al sector de envío y el que mandarías al sector   de facturación para satisfacer el pedido que 
acabas de recibir.

Vamos a ver lo que hace   fíjense el mail al sector de envío: "Estimado, les 
escribo para informarles de un pedido reciente,   el detalle del pedido bla bla bla bla… Le 
pasa la dirección. Por favor asegúrese de que   se verifique y se empaque antes del envío. 
Les agradecería que me informen que haya   sido realizado y me den el número de seguimiento. 
Gracias por la colaboración bla bla bla bla… Y   ahora el mail para facturación. Se da cuenta que 
para facturación le tiene que decir el ítem la   forma de pago. Asegúrense que la factura incluya 
todos los detalles necesarios que se envíe al   cliente el correo electrónico bla bla bla…

Que 
me informe. Entonces uno diría "epa, completó la   tarea de principio a fin". Pero yo quise ir 
más allá y le pedí que haga lo que en ventas   se llama un "up selling", ¿se acuerdan el famoso 
"te agrando el combo por 50 centavos"? Es decir   esta idea de cuando alguien compra algo tratar de 
venderle algo más. Entonces le dije: "del sector   de envíos responden que esa pieza está disponible 
en tres colores: rojo verde y azul. ¿Cómo sería el   diálogo en el cliente para averiguar cuál necesita 
incluir? Preguntarle si desea adicionar una   ventana con un 50% de descuento. Sea insistente 
pero amable".

Está bien, entonces fíjense. Dice: -hola, espero que se encuentre bien. Quería 
informarle que el paragolpe para su 206 están en   los tres colores ¿podría indicarme cuál prefiere? 
-No tengo preferencia -¿Cuáles son los precios? Le   dice -Son los mismos, pero quería preguntarles 
estaría interesado en una ventana trasera con   un 50% descuento proporcional -No estoy seguro 
¿cuál es el precio normal de la ventana? -El   precio normal es de 200, pero con el descuento 
de hoy sería solo de 100 -No estoy seguro,   lo voy a pensar -Bueno, por supuesto, entiendo. 
Le doy un tiempo para reflexionarlo.

Sin embargo   quiero recordarle que el descuento es solo por 
hoy, así que si está interesado le recomendaría   tomar su decisión lo antes posible. Si tiene 
cualquier pregunta, no dude en preguntarme -Lo   pensaré y le avisaré. Muchas gracias bla bla… Y 
entonces uno diría "epa" porque esta tarea, esto   que en ventas se suele llamar "up selling" es una 
tarea que un tiempo atrás pensábamos que requería   de cierta capacidad de pensamiento. Pensábamos que 
era una una tarea creativa pero creativa no en el   sentido artístico sino en este sentido. Fíjense, 
vamos a hacer un paréntesis y vamos a fijarnos   cómo estaban las tecnologías, especialmente me 
voy a concentrar en Inteligencia Artificial,   antes del 2023. Esto que estamos viendo es una 
tecnología que se viene cocinando hace mucho   tiempo, que se presentó en sociedad en los últimos 
seis meses algo así, pero para simplificar nuestro   diálogo yo voy a poner el corte en el 2023. 
¿Está bien? Entonces hasta antes del 2023,   nosotros de alguna manera pensábamos que la 
Inteligencia Artificial era una tecnología que era   buena para darle grandes volúmenes de información 
y que nos dijeron es una respuesta corta.

Ejemplo:   le doy toda una radiografía y le pido que 
identifique si hay una neumonía. Sí o no. Para   los humanos es bastante compleja esa tarea y acá 
aparecía como amplificando la capacidad humana,   porque lo señalaba en la placa y después el médico 
o la médica miraba y decía "ah es verdad esto no   lo había visto". Había ahí una cosa potente. Por 
supuesto todos hemos pasado por las plataformas   que son bastante buenas en recomendarnos en base a 
nuestros gustos y ya todos tenemos la experiencia   de hablarle a nuestros teléfonos, a nuestras 
compus, les podemos pedir que nos lean una nota,   nos ponemos delante del teléfono y con nuestra 
cara se desbloquea, el reconocimiento facial anda   bastante bien, los brazos automatizados, 
los brazos robotizados industriales   tiene una precisión increíble, y por supuesto 
hay algo que podemos llamar "optimización",   pero para mí el mejor ejemplo es este: toda 
los programas donde yo le doy todo el mapa y   le digo mostrame el mejor camino de acá para 
allá.

Eso es encontrar un óptimo. Toda esa   tecnología consideramos madura. Ahora, ¿qué 
fue lo que cambió, qué fue lo que apareció? Antes de ir a lo que apareció, quiero 
ejemplificar a qué me refería con esto   de los brazos robotizados. Este 
es un video de hace diez años. Tengan un poquito de paciencia. Este es un video de hace 10 
años de una planta de Honda [Música]   Como se nota, no hay ningún trabajador 
humano en la planta. Ahí se nota la enorme   capacidad de los brazos robóticos 
que hacen las soldaduras. Fíjense. El ser humano pueden realizar la tarea completa… Pero digo esta nueva tecnología que ya 
estaba madura, en nuestro país por suerte   la situación no es así, todavía el empleo 
industrial sigue requiriendo labor humana,   no por una cuestión de atraso si no por 
una cuestión de que nuestro país tiene   una fuerte tradición de proteger el empleo.

Por 
suerte tenemos una fuerza sindical que ha sido   muy exitosa en proteger el empleo y hacer 
que todos nosotros que tengamos trabajo,   pero en otros países más débiles en ese 
sentido así se producen los autos. Entonces, ¿qué nos decía la bibliografía internacional 
sobre lo que pasaba en la industria? Nos decía:   "mirá esta es la industria tradicional donde 
en las líneas de producción aparecen varios   operarios y operarias que se complementan un poco 
con las máquinas". (Todos recordamos a Chaplin,   por supuesto ahora no es tan exagerado pero 
en algunos casos se le parece bastante). Y   lo que nos decía la bibliografía, tanto 
de los organismos multilaterales como de   investigadores e investigadoras de la región y 
de nuestro país, nos decían algo así como: "mirá,   estas máquinas hay que modernizarlas. 
No queda otra porque las máquinas más   modernas consumen menos energía, tienen menor 
impacto ecológico, generan productos mejores,   más terminados, lo hace más rápido.

Entonces 
no queda otra, vos vas a pasar a un escenario   así donde vas a tener menos empleados en 
la planta". Pero nos decía la bibliografía   "quédate tranquilo porque esta labor, este 
empleo que se pierde de tareas mecánicas (tareas repetitivas lo llamaban) se gana en tareas 
creativas. Creativas no quería decir "artísticas",   sino era solamente un antónimo de 
repetitivas. Entonces imaginaban,   y de hecho lo respaldaban con algunas 
estadísticas, que esta fábrica que se había   modernizado crecía en el sector de ventas 
y crecía en el sector de administración.   Pero yo les acabo de mostrar un chat con estas 
herramientas novedosas donde vemos que por ahí   las tareas de ventas también pueden ser 
automatizadas con la tecnología nueva.   Por eso decimos que el escenario a partir de 
esta tecnología nueva cambió: ya no estamos más   en el escenario que teníamos antes de 2020. 
Voy a pasar de alto esta pregunta. Entonces caractericemos brevemente de qué se trata esta 
nueva tecnología.

Brevemente. Luego Manuela y   Julián van a profundizar desde distintos 
ángulos, principalmente Manuela en algunas   de estas cosas. Pero toda la tecnología pasada 
que conocíamos antes era bastante específica,   había una tecnología para reconocer la voz, 
había otra tecnología relacionada con imágenes,   había por ahí otra para optimización. Ahora 
tenemos por primera vez tecnología a la que   uno le da poca información no sé si vieron 
mis oraciones las instrucciones que yo le   daba y nos devuelven un gran volumen de datos 
inverso de cómo funcionaba antes y además   son de carácter bastante general. Habrán visto 
ejemplos por todas partes de gente que le pide que   escriba cartas de amor, recetas médica, poemas, 
contratos, obra de teatro y, como yo les mostré,   tareas laborales.

Y fíjense que señalo esto: no 
solo realizan una tarea específica sino que pueden   generar prácticamente cualquier elemento digital 
en el que nos entiendan, y además entienden   muchísimo. Por supuesto que hay errores y todos 
nos hemos divertido; yo tengo mi propia colección   de veces en las que le dice pisar el palito, 
que se equivoque y por ahí lo probé a la semana   siguiente y ya no se equivocaba.

Yo enfatizo esta 
parte de acá: no hace falta ser un experto o una   experta para darle instrucciones, uno le dice cosa 
como le salen (me gusta esta expresión: uno le   da las instrucciones "a la que te criaste") y la 
herramienta lleva adelante la tarea. Entonces esta   idea, que de alguna manera se verificaba 
en los libros de historia, que era que   cada nueva generación de tecnología, cada nueva 
digamos Revolución Industrial, cada nuevo cambio   tecnológico profundo generaba un aumento en la 
productividad que a la larga terminaba generando   más puestos de trabajo que lo que instruía. 
Creo que es momento de ponerlo en duda.   Charlábamos con unos colegas la otra vez, me 
gustó mucho la frase: cuando salió el tren,   el conductor de carretas no se transformó en 
motorman, eso lo sabemos. O sea por supuesto   que ya era preocupante qué le pasó a esa persona 
que tenía un empleo donde la tecnología generó un   cambio y ese empleo quedó obsoleto.

Pero de alguna 
manera había como un discurso tranquilizante de   que, en términos generales, entre comillas 
"todo se acomodaba", porque se generaba más   puestos de trabajo que los que se destruían. 
Y eso yo ahora lo empiezo a poner en duda,   en particular porque, y el ejemplo que les mostré 
al principio lo construí especialmente para   mostrar esto, si a estos sistemas de chat uno los 
conectase a un sistema de una empresa, ya no tiene   más que deducir cuál es la verdad (que es parte de 
lo que hacen), alcanza con que entiendan.

Ejemplo:   si yo lo conecto al sistema de una aerolínea y 
yo le pregunto si hay un vuelo disponible de acá   a Córdoba, esa determinación ya no requiere 
Inteligencia Artificial para acertarle. Es   simplemente consultar un sistema existente, 
el precio, la disponibilidad, las reglas de   la empresa. Entonces si a eso le sumamos la 
capacidad de entender y dialogar, la verdad es   que ustedes se imaginarán todos estos puestos de 
call center o de atención al público que peligran,   y déjenme decirles interconectar esos sistemas es 
algo que yo estimo ya debe estar pasando, porque   una vez que existe el IA (el otro ya existía), esa 
interconexión es muy simple de hacer. De hecho,   esta es una noticia del 21 de febrero, tiene 
un par de semanas, donde OpenAI, OpenAI es una   organización que le pertenece a Microsoft y es la 
dueña de Chat GPT. Pues acá nos dice cómo hay se   está estableciendo una alianza con Coca-Cola para 
poner sus sistemas a funcionar ya en una empresa.   Para seguir adentrándonos en el grado 
de proximidad temporal que tiene esto,   esta es una noticia que también debe tener 
tres o cuatro semanas.

Una reconocida   marca de supermercados en nuestro país 
abrió en Pilar, Provincia de Buenos Aires,   no en Hong Kong, no en Taiwán, no en 
Singapur: en la Provincia de Buenos Aires,   un supermercado con cero empleados. Cero. Uno se 
registra con la tarjeta de crédito, entrás, hay   unas cámaras que van viendo lo que vos ponés en el 
changuito y salís. Ni siquiera lo tenés que pasar   por un escáner, nada.

Vos salís. Como vieron la 
cámara, entendieron qué productos vos agarrabas,   te lo cobran, te lo debitan automáticamente de la 
tarjeta que pusiste. Osea ya existen en nuestro   país supermercados 100% automatizados con cero 
empleados. Les voy a mostrar este video, es de   hace unas semanas también, en el Reino Unido. 
A ver si se llega a ver bien. Esto que ven acá,   este robotito blanco es un robot de delivery. No 
es un prototipo, esto ya circula por las calles   del Reino Unido. Osea el Rappi, el cadete con 
la moto, acá solo lo seguimos teniendo por una   serie circunstancias, entre ellas que le pagamos 
tampoco a esos pobres pibes, esas pobres pibas,   que sale más barato que la importación 
tecnológica. Pero incluso estos empleos que son   a veces empleos de entrada al mundo laboral, en 
otros lugares también están siendo automatizados. Esta es otra herramienta de Inteligencia 
Artificial. Este es un artista que,   usando herramientas Inteligencia Artificial, 
se autorretratan en distintos momentos de la   historia. Acá está con Picasso. Esta 
foto fue 100% creada artificialmente.   Se fotografió en las pirámides de 
Egipto, con el Caballo de Troya,   con Cristóbal Colón en el barco.

Síganlo, 
acá lo tienen. Síganlo en Twitter,   es muy divertido. Pero digo: cuando yo decía 
que se crean todo tipo de elementos digitales,   digo también imágenes y digo música. Está lleno. 
Este sitio se los "recomiendo" para que le peguen   un vistazo. Se llama mixo.io. Vamos a ver si 
lo podemos usar. A ver… Vamos a probarlo… Un segundito… Vamos a hacer una demo en vivo. En este 
momento compañeros deben estar temblando,   porque ya saben una vez conmigo todo 
va a fracasar…Vamos a intentarlo. Entonces acá la idea es que uno pone la idea de negocios y le genera 
todo eso. Acá le voy a pedir que me genere   cuál es tu idea para tus startup, cuál 
es tu idea de negocio. Yo lo voy a decir una veterinaria para perros y gatos veganos. Le 
voy a pedir que genere el sitio.

Fíjense, está generando el nombre, diseñando 
un logo, las imágenes, los testimonios,   generando el código. Vamos al resultado… 
Optimizando la experiencia en redes sociales. Un segundo, téngame paciencia. Fíjense le puso… 
Ay perdón tengo el navegador en inglés entonces   me quedó medio mezclado, pero fíjense que le 
puso V- Well Clinic, le puso un loguito y dice:   "cuidado con cariño para sus mascotas veganas". 
Dice acá: En V-Well Clinic proporcionamos cuidado   especializado para perros y gatos, promoviendo su 
salud y bienestar mediante un enfoque con mucha   cercanía. Fíjense acá pusieron Go Vegan. Acá 
puedo poner los comentarios, los testimonios.   Acá dice "cuidado veterinario experto. Nuestro 
equipo de veterinarios expertos…". Acá tengo   la barra del Zoom que no me deja leer, pero 
fíjense que habla de la nutrición vegana para   mascotas y bla bla bla…

Planes nutricionales… 
Otro testimonio, de esta Victoria Kelly dice:   "estoy muy agradecida de haber encontrado una 
veterinaria que verdaderamente entiende mi estilo   de vida vegano y mis valores", o sea una cliente 
satisfecha, la comunidad bla bla bla… O sea   fíjense que desarrolló el sitio completo. Dejé de 
contratar al experto o experta de marketing para   la marca, al diseñador gráfico que me hiciera el 
logo, a las personas que me hicieron el sitio web,   todo eso puf, un click. Entonces 
vamos a seguir con la presentación. Si nos preguntamos qué pasa en aquellas 
tareas que requieren más contacto físico,   este es una empresa más Boston Dynamics, creo que 
la compró Google. Miren este robot, esto es real.

[Música] [Música] Más adelante aparece junto a otros modelos. (…) El modelo este que parece 
un perro ya está disponible,   lo pueden comprar en Amazon. Sale caro pero lo 
pueden comprar. Singapur lo usó en la pandemia   para mantener dos metros de distancia. 
Iba por la calle con un alto parlante,   detectaba, le decía a la gente "mantenga los dos 
metros", existe y ya está haciendo comercializado. Algunos trabajos que la literatura 
previa a 2023 consideraban creativos,   de vuelta no en el sentido artístico sino en el 
sentido opuesto a repetitivo, la verdad que hoy   en día aparecen 100% automatizables, tanto los 
call centers los que reciben llamadas como los   que hacen llamadas para vender.

Cuando que yo le 
pedí que hiciera una venta lo encaró muy bien,   las creaciones digitales simples, música, diseño 
gráfico, texto, guiones, sitios web. Yo no creo   que él o la contadora de una empresa grande 
pueda ser reemplazado por una máquina, ahora   en una pyme que hace una presentación simple… 
El que a nosotros, los trabajadores y las   trabajadoras, nos hace la presentación de 
ganancia, una tarea bastante rutinaria,   en los nuevos términos la verdad que me lo imagino 
automatizable. De vuelta, los grandes abogados   que hacen los grandes convenios no, el que te hace 
el contratito de alquiler que siempre más o menos   igual, automatizable. O sea que del día a la noche 
le corrieron el telón, algo como veníamos diciendo   por supuesto vienen cocinando hace varios 
años, y nos cambió el panorama del empleo.   Entonces fíjense qué dicen los más optimistas. 
Este dato está sacado del Foro Económico Mundial.   Ellos dicen "bueno se van a perder 85 millones 
de empleos, pero no se preocupe" (la proyecciòn   es para 2025) "pero no se preocupen porque se van 
a crear 97".

Claro, resulta que cuando vemos los   que desaparecen, bueno son algunos de los que 
tienen mayor representatividad de nuestro país,   incluso por ejemplo fíjense acá dice empleados 
administrativos y secretarios o secretarias   ejecutivas. Sería un gran avance social para 
una enorme porción de la población de nuestro   país pudiese aspirar a estos trabajos y sin 
embargo van a desaparecer, y acá todos los   que dicen que van a aparecer: especialistas en 
Inteligencia Artificial y aprendizaje de máquina,   especialistas en Big Data… Bueno estamos 
hablando de toda gente que va a tener título   de grado o de posgrado.

Entonces es un panorama 
que, aún si estos optimistas tienen razón,   es un panorama complicado para los países del 
sur global, de América Latina y en particular   para (…). Entonces, sintetizando un poco la 
información disponible, antes Déjenme hacer un   pequeño recordatorio más que nada para unificar 
terminología. Voy a hablar de "demanda cognitiva".   Las tareas de baja demanda cognitiva son 
las que requieren recordar, reproducir,   seguir instrucciones. Hablamos de "demanda 
media" cuando hay que comprender fenómenos   con mayor profundidad o hay que planificar de 
manera estratégica o de manera táctica y de "alta   demanda cognitiva" cuando hay que transferir a 
otro contexto lo que uno aprendió, cuando hay   que resolver varios conceptos para llegar para 
resolver problemas o para llegar a postulados   más generales o, generalizando un poco (valga la 
redundancia) la capacidad de producir conocimiento   nuevo. Grosso modo, para que nos entendamos. 
Entonces, este era el panorama del empleo pre   2023.

Como verán en este gráfico, por un lado 
tenemos las tareas de demanda cognitiva baja,   media y alta, y separamos por un lado lo que es 
digital, por otro lado lo que es físico-analógico,   llámenlo como quieran, y a su vez en industria, 
comercio y servicios. Entonces nosotros lo que   veíamos era que en la industria (¿se acuerdan el 
video que les mostré al principio?), las tareas   más simples ya estaban automatizadas e incluso 
algunas medianas y, dependiendo del país, había   más que podían ser automatizadas. En el comercio y 
el servicio real cara a cara nos imaginábamos que   no, que estaba a salvo, y en el mundo digital, de 
vuelta, las cosas más sencilla, pero una vez que   subí a la demanda cognitiva pensábamos que eran 
tareas creativas:diseño gráfico, hacer un balance,   gestionar un sitio de e-commerce.

Creo yo 
que, si no intervenimos, corremos el fuerte   riesgo corremos de que el escenario, a partir 
de ahora, se vea de esta manera: donde tenemos   lo que está en marrón son empleos que 
podrían ser automatizados pero debido   a su propia pauperización están "a salvo". 
Recuerden el robotito que hacía Delivery,   pero que acá va a faltar mucho para que lo veamos 
porque la verdad que le pagamos tan poco a las   personas que trabajan de eso, que es más barato 
seguir pagándoles eso y que se maten en la bici   que importar los robotitos.

Y en lo que es la 
creación de bienes y de servicios digitales,   la verdad es que estas herramientas muestran 
el potencial de hacer muchas de las cosas que   nosotros considerábamos de complejidad media. 
Dependiendo de qué pensemos por complejidad   alta (como ustedes saben estas definiciones 
no son del todo rigurosas, no hay una frontera   estrictamente limitada) bueno por ahí también. 
Como les digo: si no intervenimos desde el llamado   a la responsabilidad a las empresas de tecnología, 
desde la política pública, poniendo y nosotros   como ciudadanos y ciudadanas exigiendo regulación 
que delimite qué pueden y no pueden hacer estos   sistemas, desde la educación preparando a 
ciudadanas y ciudadanas para enfrentarse   a este mundo en el que nos sumergimos de golpe, 
creo que se corre este riesgo. Una comparación que   siempre me resulta interesante es: a la industria 
farmacológica no le permitimos esto. La industria   farmacológica, ustedes por ahí habrán escuchado 
hablar de esto, los medicamentos que consumimos   hoy nacieron en el laboratorio hace 20 o 30 años, 
y pasan por una serie de etapas de evaluación   bastante rigurosas, y tiene que haber autoridades 
que los aprueben y recién ahí salen a la venta.   Cómo es que algo tan disruptivo como estas 
herramientas de Inteligencia Artificial, primero   lo largan y después el resto de nosotros que nos 
arreglemos, que veamos qué hacemos en la escuela,   que veamos qué hacemos en el empleo.

Me parece que 
es hora de exigir ese cambio, ese paradigma porque   el impacto es demasiado grande como para dejar a 
esta industria sin una regulación estricta como   tienen otras de alto impacto para la sociedad. 
Entonces, algunas medidas que se me ocurre a mí,   ahora les voy a contar otras más que se me 
ocurren a mí sino que aparecen como este posibles   amortiguadores de esta solución, como posibles 
reacciones de la sociedad ante este escenario.   Por un lado, aparece con mucha fuerza la semana 
laboral de cuatro días sin reducción salarial.   Probablemente todos y todas hayan visto el estudio 
que salió hace poco de una universidad si mal no   recuerdo del Reino Unido diciendo que había dado 
muy bien una prueba piloto, pero hay organismos   internacionales que trabajan en el impacto social 
de la Inteligencia Artificial, hay uno que es una   alianza internacional de 28 países que se llama 
La Alianza Internacional para la Inteligencia   Artificial (GPAI por sus siglas en inglés). 28 
países, la Argentina entre ellos, en un documento   reciente plantea esta idea. Les quiero decir: no 
es algo que se me ocurrió a mí, sino que hay una   alianza internacional que dice es hora empezar 
a considerarlo seriamente.

Otra idea es esto   del Ingreso Universal Básico, la compensación 
universal básica, la compensación salarial…   Tiene distintas formas. Pero de vuelta, también 
lo plantea el mismo documento del que sale antes.   Y la pregunta para la que nadie parece tener una 
respuesta clara es: ¿esto va a durar un tiempo?   ¿Es para siempre? ¿Aspiramos a un futuro en el que 
no haya trabajo para para todos y para todas? Mi   visión personal… hago un minuto de suspenso 
y ahora voy a mi visión personal. Otra idea,   que también se está gestando en otros círculos, 
es: no sé si saben pero en muchas ciudades ¿vieron   estas aplicaciones para alquilar cada uno por 
su cuenta, una que uno pone una habitación o una   casa y la pone a alquilar, AIRBnB? Bueno, estaba 
generando problemas porque todo el mundo ponía sus   departamentos en alquiler en esa plataforma y la 
gente común no podía alquilar de manera normal.   Entonces ciudades como San Francisco, Nueva York, 
Barcelona, París empezaron a probar legislación   que limitan la proporción de hogares que se pueden 
poner en alquiler por AIRBnB.

¿Por qué? Porque   dice: mirá, yo entiendo que para vos que superas
supongamos que es un 30%, pero este 30% que por   ahí te conviene más, sacás más plata si lo pones 
por AIRBnB, mirando la perspectiva global no es   beneficioso. Entonces tal vez es hora de empezar 
a exigirle a las grandes empresas, esas que tienen   balances multimillonarios una proporción mínima 
de trabajadores y trabajadoras humanas aún cuando   pudiesen, y en términos económicos les resultarse 
más conveniente, automatizar esas tareas. Les   decía esto que antes dábamos por hecho de alguna 
manera, que había trabajo para todos y para todas,   o al menos aspiramos a que fuera así, creo que 
esa aspiración la tenemos que transformar en una   agenda.

O sea tenemos que elevarla del nivel 
de aspiración y tiene que transformarse en   una agenda del trabajo. No podemos renunciar a la 
aspiración de que todos y todas tengamos trabajos   digno. Ojalá con menos tiempo, con más tiempo 
para nuestra vida recreativa, social, familiar.   El hecho de sentir que hay una sociedad donde 
algunos de nosotros y nosotras no tenemos lugar,   es un futuro al que le tenemos que dar batalla. No 
tenemos que permitir que ese sea el futuro que nos   espera, pero como les decía, eso lamentablemente 
no parece ser una realidad indefectible sino una   agenda por la que hay que luchar y por supuesto, 
dentro de esas medidas, hay que intervenir en   el sistema educativo de un montón de maneras 
para que todo esto no nos agarre por sorpresa,   para que nuestros alumnos y alumnas entiendan de 
qué se trata, para que nuestros alumnos y alumnas   puedan aspirar a esos puestos de trabajo, 
y bueno me encanta estar acá hablando con   colegas del ámbito educativo porque a ustedes 
les toca esta importante misión.

Así que bueno,   hasta acá llegó yo.
[Mara]   Hay algunos comentarios pero vamos a recoger 
las preguntas del chat pero las vamos a retomar   al final de la charla cuando ya Manuela y 
Julián también hayan hecho sus exposiciones,   porque quizás en el curso de las mismas algunas 
de las preguntas que ya aparecieron vayan a   responderse por sí mismas. Así que te pedimos que 
vuelvas en un rato para compartir con nosotros   ese momento. Entonces ahora presentar a Manuela 
Cerdeiro que es Doctora en Matemáticas por la   Facultad de Exactas de la Universidad de Buenos 
Aires. Es docente de la carrera de Ciencias de   la Computación y en la Licenciatura de Ciencia 
de Datos. También es miembro del Equipo de Datos   de Inteligencia Artificial de la Fundación 
Sadosky. La invitamos a Manuela acá para que   nos cuente un poco más cómo es que funciona esto 
de la Inteligencia Artificial que de hecho fue   una de las primeras preguntas que surgió en el 
chat.

Así que Manuela todo tuyo. [Manuela] Hola,   Muchas gracias por recibirme y por escucharme. 
Bueno sí, voy a ir un poco para atrás respecto   de todo lo que estuvo hablando Fernando y tratar 
de comentarles y compartirles un poco sobre cómo   funciona la Inteligencia Artificial y algunas 
de las aplicaciones que quizás quedaron ya,   como decía Fernando, en cosas que por ahí ya 
no son novedad, pero que me parece que igual   es pertinente traerlas acá hoy y comentar un 
poco para qué se usa la Inteligencia Artificial   y cómo funciona. Bueno voy a compartir 
pantalla entonces, una presentación. Estoy viendo si puedo ver el chat. 
No sé si voy a poder ver el chat,   cualquier cosa Mara me interrumpís si hay algo 
importante. (…) Bueno entonces ¿qué es la   Inteligencia Artificial? Una de las posibles 
definiciones es que es una disciplina que se   ocupa de construir sistemas que simulan, de alguna 
manera, la inteligencia humana a partir de tener   un comportamiento que tenga cierto grado de 
autonomía, son sistemas que tienen que andar   solos de alguna manera o en algunos contextos. 
Pero igualmente es importante tener en cuenta   que estos sistemas de Inteligencia Artificial 
son siempre sistemas que están diseñados,   pensados, construidos y utilizados por 
humanos.

Es decir que no podemos pensar   a la Inteligencia Artificial es una cosa externa 
que viene y usamos solamente, porque detrás de eso   siempre hubo personas humanas en el desarrollo, y 
de la misma manera las personas que lo desarrollan   siempre tienen que tener en cuenta a las personas 
humanas que van a acceder a a esos productos. Es una disciplina muy amplia. Esta disciplina 
que es la Inteligencia Artificial va desde   sistemas de razonamiento deductivo basados 
en reglas lógicas (que pueden tener autonomía   pero no a partir necesariamente de datos sino 
a partir de reglas lógicas justamente), y hasta   quizás lo que más se conoce hoy en día que es la 
Inteligencia Artificial que está basado en datos,   es decir que es lo que llamamos "aprendizaje 
automático", y es un poco lo que está ahora tan   novedoso con el Chat GPT y las cosas que estuvo 
comentando Fernando.

Y dentro de más de esta   subdisciplina está lo que se llama "aprendizaje 
profundo" que también está vinculado al Chat GPT.   Y que además tiene algo de de interesante porque 
justamente la Inteligencia Artificial en principio   como les decía simplemente la definición 
sería que los sistemas desarrollados para   la Inteligencia Artificial tienen cierta 
autonomía, pero algunos de estos sistemas   están diseñados a partir de lo que se llaman 
"redes neuronales artificiales", es decir que el   mismo diseño algorítmico que tienen detrás son 
imitaciones de lo que pasa en nuestro cerebro   con las neuronas justamente. Entonces está como 
vinculado también desde la parte del desarrollo. Algunas de las cosas que se hacen en Inteligencia 
Artificial por nombrar algunas solamente:   podemos hablar de procedimiento de imágenes, 
o de procesamiento de datos de audio,   o de reconocimiento de patrones (que es algo 
transversal a otras áreas), o de procesamiento   de lenguaje natural, o también de aprendizaje por 
refuerzo. Vamos a hablar de algunas de estas cosas   y tengamos en cuenta que, detrás de todo esto, 
hay fundamentos en básicamente estas áreas.

O   sea cuando hablamos de desarrollar sistemas de 
Inteligencia Artificial siempre hay por detrás   muchísima matemática, en particular estadística, 
muchísima computación porque para trabajar con   todo esto necesitamos mucho de las computadoras 
justamente, y mucho de experiencia de dominio.   Acá me refiero a que cuando se va a desarrollar 
un sistema de Inteligencia Artificial se tiene que   tener muy presente el territorio de aplicación, 
del territorio de desarrollo, del territorio de   aplicación de ese sistema porque básicamente, si 
no lo tenemos en cuenta, vamos a poder cometer   graves errores. Acá hay un pequeño meme donde 
básicamente se trata de que a veces las cosas   que se llaman "machine learning" o "aprendizaje 
automático" en castellano o inteligencia especial   son de fondo estadística, tienen muchísima 
estadística. Esta idea de que (ahora vamos   a ver un poco cómo funcionan) para poder 
predecir algo o para poder reconocer patrones,   hay siempre de fondo predominante una noción 
de qué es lo común, qué es lo no común,   qué es lo excepcional, cómo detectamos que algo 
es normal o algo es excepcional para poder ver   extraer, por ejemplo información importante a 
partir de un texto o de una imagen.

Como decía   Fernando, para detectar una neumonía en una 
radiografía de tórax, un sistema tiene que   saber qué es lo más probable que aparezca en un 
pulmón, de qué color debería aparecer un pulmón   o para detectar una radiografía. Entonces de 
fondo hay muchísima estadística. Algunas de las   cosas que nos preocupan y acá les propongo si les 
interesa que también lleven al chat sus propias   preocupaciones sobre la Inteligencia Artificial 
hoy en día.

Si quieren pueden comentarlas en el   chat y más hacia el final de la charla los 
podemos compartir un poco, intercambiar un   poco esas ideas. Algunas de las cosas que nos 
preocupan, como estuvo mencionando Fernando, es   la pérdida de puestos de trabajo. Otras cuestiones 
que tienen que ver con el aumento del control o la   vigilancia, la pérdida de privacidad (justamente 
por estar siempre expuestos y expuestas a que   tomen datos nuestros sin darnos cuenta) y también 
discriminación y vulnerabilidad de derechos   (cuando la toma de decisiones se basa en sistemas 
de Inteligencia Artificial). Vamos a profundizar   un poco en estas cosas. Para poder trabajar con 
este tipo de herramientas con la computadora,   vamos a tener que pensar cómo se almacenan 
y cómo se manipulan los datos. En realidad   hubo justamente un gran auge de esto que se 
llama "aprendizaje automático" a partir de   la digitalización de la información.

Empezamos a 
poder guardar en la máquina información que antes   no se podía, información que antes quizás era 
analógica se pasó a representaciones digitales,   como por ejemplo acá lo que puse es una sencilla 
una matriz donde en cada lugar de la grilla   tenemos un número y un color, y esos colores 
van dentro de una gama y la intensidad del color   representa el número que tiene esa grilla.

Y esta 
es la forma en la que se almacenan las imágenes,   obviamente esto tiene unos píxeles gigantes, 
pero la idea es que todas las imágenes que   vemos en la computadora, en las cámaras 
digitales de hoy en día, en el celular   se almacenan de esta forma: con píxeles, que 
serían lo que acá tenemos en esos puntos de la   grilla que tienen los tres colores. Acá tengo un 
solo color, que además no es de los de los básicos   pero es un color y donde cada píxel entonces 
va a tener un valor para el rojo un valor,   para el verde, y un valor para el azul y de 
esa manera se representan se generan digamos   las imágenes digitales.

Entonces a partir de que 
las imágenes son digitales podemos trabajarlas   y manipularlas con la computadora. De la misma 
manera acá puse también una sencilla imagen de lo   que sería una representación digital de un dato de 
audio, podríamos tener determinadas frecuencias,   qué altura que y qué amplitud tiene 
en un dato de audio concreto. bien Entonces, como ejemplo de lo más sencillo para 
entender un poco cómo funciona el aprendizaje   automático, imaginemos que queremos entrenar 
un modelo que a partir del procesar imágenes   determine si una imagen de una imagen que 
tenemos es de un perro o de un gato. Entonces,   por ejemplo, podemos imaginar que vamos a tener 
estas imágenes que están del lado izquierdo,   donde tenemos algunas imágenes de perros y gatos, 
y dice en cada imagen sabemos y anotamos que de   qué se trata. Entonces la idea es que un algoritmo 
de aprendizaje automático se entrenaría con este   tipo de imágenes (muchas) y podría aprender 
a identificar algunos patrones, algunas   características de esas imágenes que puedan ayudar 
luego a entender cuáles son las que definen si   es un perro o un gato.

Podríamos pensar en que 
analiza los colores, que analiza las texturas de   la imagen, el brillo, el tamaño quizás si se puede 
entender, la forma de los bigotes, la cantidad de   patas. Entonces algunas de esas características 
van a ser seleccionadas para entender de qué se   trata en cada imagen. Entonces esto sería como 
se entrena un modelo. Y ahora, también para   ejemplificar qué es lo que puede fallar, una 
imagina que vamos a tener muchas imágenes para   entrenar el modelo, y entonces después el modelo 
va a poder funcionar bien en nuevas imágenes (que   tengo acá a la derecha y va a poder determinar que 
el primero es un perro y el segundo es un gato).   Ahora, puede pasar que nosotros tengamos para 
entrenar ese modelo estas imágenes o más pero   de este tipo, donde justo nos aparecieron todos 
gatos blancos y todos perros marrones.

Entonces   si nosotros sin darnos cuenta entrenamos el modelo 
con un conjunto de datos que tenía este patrón,   que es un patrón que me define muy bien las 
clases (o sea claramente acá todos los marrones   son perros y todos los blancos son gatos), un 
sistema que es automático y que el objetivo que   tiene es predecir lo mejor posible, probablemente 
tome el color como una característica fundamental   para definir si es perro o gato.

Entonces cuando 
yo tome ese sistema y trate de identificar esta   imagen a la derecha (que es un gato marrón), se 
imaginarán que va a determinar que es un perro.   Esto lo saqué de un artículo reciente de Enzo 
Ferrante, está ahí abajo el título. Esta es la   idea de uno de los problemas que pueden tener los 
sistemas de Inteligencia Artificial que es cuando   tenemos sesgos en los datos. Sin darme cuenta 
yo entrené mi algoritmo con datos que estaban   sesgados porque, por casualidad, los datos que 
yo tenía eran de gatos blancos y perros marrones. Dentro de lo que se llama "procesamiento 
de imágenes" hay algo que se llama primero   "visión por computadora" que que trata de 
justamente parecido a lo de los perros y gatos,   pero más general de identificar digamos dentro 
de una imagen que es el contenido que tien.

Y   dentro de eso hay una subdisciplina que trata con 
el reconocimiento facial, donde se analizan datos   biométricos que tienen que ver con la forma usual 
de un rostro. Esto se usa un montón. Me imagino   que deben saber que se usa un montón, para por 
ejemplo usar la cara de une como una forma de   identificar de reconocimiento, de autenticación de 
identidad y para muchas otras cosas. Y relacionado   con esto, hay un caso… Ahora vamos a comentar 
un caso específico, pero la idea es que esto se   usa para un montón de cosas.

Tiene riesgos, por 
supuesto. Tiene riesgos a la privacidad y tiene   riesgos ante la posibilidad de que no funcione 
de la misma manera en una población que en otra,   y a veces con los avances de la tecnología, la 
tecnología se empieza a utilizar antes de que   haya una regulación de fondo de esa tecnología 
y hace que puedan violarse los derechos.   El caso que les quería comentar está relatado 
también en una en una película que se   llama "CODEDBIAS" ("Sesgo codificado"), que cuenta 
el caso de una investigadora, Joy Buolamwini,   que trabaja en Inteligencia Artificial y que un 
día decidió que quería crear un sistema que era   un espejo inspirador.

En la siguiente diapositiva 
está un poco el texto. La idea es que ella quería   crear un espejo automático, que la cámara le 
captara el rostro y el sistema le generara   sobre el rostro, imágenes inspiradoras. Ahora 
qué pasó ella instaló un software que ya había   de reconocimiento facial, pero a su cara no la 
detectaba. Y ella se dio cuenta que era porque   era negra su cara y cuando se puso una máscara 
Blanca el sistema la reconoció, pero se sacaba   la máscara y de reconocer. Entonces de fondo qué 
es lo que pasó: el sistema este de reconocimiento   facial había sido entrenado con los datos que 
había disponibles para el equipo que desarrolló   el sistema.

Ahora los datos que había disponibles 
para el equipo que desarrolló el sistema eran de   personas blancas o por lo menos en su gran mayoría 
y es por eso que ante una cara de una persona   negra el sistema falló. Y esto pasa un montón 
en todas las áreas. De vuelta, en el tema del   diagnóstico por imágenes, que es una otra de las 
grandes aplicaciones que tiene el procesamiento   de imágenes. poder asistir a médicos y médicas a 
tomar decisiones respecto del diagnóstico a partir   de detectar patrones en las imágenes. Muchas veces 
esos sistemas se entrenan con población nlanca,   más aún población blanca masculina de 20 a 
50 años.Entonces en todas las minorías y toda   la población que no está representada en ese 
espectro estos sistemas van a funcionar mal. Otra de las aplicaciones que tiene 
la Inteligencia Artificial tiene   que ver con la ecología.

Hay muchas imágenes 
satelitales que se utilizan de distintas formas,   distintas bandas, que se utilizan para detección 
de distintas cuestiones respecto del territorio.   Por ejemplo una de las aplicaciones 
que tiene es detectar humedales,   que es algo que hoy en día resulta importante. 
Está planificándose una ley de humedales y   en particular esa ley de humedales va a 
proteger humedales que estén tipificados,   los que estén inventariados de alguna manera. 
Hace poco el INTA presentó un mapa de humedales   que estuvo desarrollado con herramientas de 
aprendizaje automático de Inteligencia Artificial. Acá tengo algunas imágenes y el link, y bueno 
resulta que por cómo se entrenó este este esta   herramienta resulta que también tiene sesgos y 
hace que algunos humedales no estén identificados   y no estén en este mapa de humedales.

¿Por 
qué? Bueno porque el sistema está entrenado con   digamos humedales típicos o humedales famosos 
(seguramente conocen los Esteros del Iberá   o el Bañado La Estrella). Estos son humedales 
que están siempre con agua y hay humedales que   no tienen agua sobre la superficie todo el tiempo, 
que muchas veces tienen el suelo saturado pero no   tienen agua sobre la superficie. Eso los hace 
más difíciles de detectar y por ejemplo acá   tengo una imagen en la Cuenca Matanza-Riachuelo 
en General Las Heras, Provincia de Buenos Aires.

En el centro se ve una cubeta, lo que se llama una 
cubeta, que es como una pequeña lagunita y se ven   algunas otras y algunas causes que las conectan, 
pero en toda esta zona en realidad tenemos un   baneado y eso no está detectado por este mapa del 
INTA porque por cómo fue entrenado. Acá quizás no   hubo un sesgo ideológico, una buena intención, 
pero tenemos un sistema no contempla algunas   cuestiones por cómo fue entrenado. Bueno voy a 
ir un poquito más rápido porque veo que me queda   no tanto tiempo. Respecto del reconocimiento 
de patrones, esta es un área que en realidad   es transversal a muchas otras. Esto se utiliza 
para todo tipo de datos, de imágenes, de audio,   de series de tiempo, y trata de bueno reconocer 
patrones justamente: aprender de los datos,   patrones que puedan ser de utilidad, osea 
información que pueda ser relevante.

Algunas   aplicaciones: una que me parece muy interesante es 
el proyecto ARPHAI y que es un proyecto reciente   que trata de gestión epidemiológica basada 
Inteligencia Artificial. La idea es que hay   muchos lugares en los que la historia clínic, 
los datos de las consultas médicas están…   [se detiene el video] (…) El proyecto ARPHAI, como les decía, trabaja 
con historias clínicas digitalizadas, hay la   información de consultas médicas digitalizadas, 
a partir de las cuales se puede detectar brotes   de epidemia con gran rapidez, detectando por 
ejemplo los casos de covid (seguramente mucho   antes de saber que era el Covid y cuáles eran 
los síntomas específicos y de tener un nombre)   había en determinadas zonas donde surgieron 
los brotes, muchos casos con los síntomas   de Covid frecuentes. Entonces de esa forma 
se pueden detectar brotes de enfermedades. Un caso no tan bueno es el caso de cuando se 
quiso en Salta prevenir o predecir el embarazo   adolescente a partir de un sistema de Inteligencia 
Artificial. Básicamente fue lanzada la nota,   después fue muy criticado esto. Se trataba de, a 
partir de datos demográficos y socioculturales de   niñas y de si reportaban haber tenido o cursar 
un embarazo siendo adolescentes, de entrenar un   sistema que pudiera en otras líneas con los datos 
geográficos o socioculturales o socioeconómicos   detectar si era probable que esas niñas fueran a 
tener un embarazo en la adolescencia.

Tuvo muchos   problemas, fue muy criticado. Básicamente los 
datos también por supuesto iban a estar sesgados.   ¿Por qué? Porque en determinadas sectores de 
la población es mucho más accesible esconder   o incluso abortar un embarazo que en otros y no 
es algo que la gente en general cuente si tuvo un   embarazo o no, menos en la adolescencia. Entonces 
los casos de por sí van a estar sesgados. Después   además hubo errores en el desarrollo (que no voy a 
entrar en detalle) pero digamos que hay que tener   mucho cuidado cuando se trata sobre todo con 
datos sensibles y con herramientas automáticas. Y por último la última aplicación es la que 
nos trajo un poco el Chat GCT. Para empezar   desde lo más sencillo, es un proyector de texto. 
Vamos a hablar de "procesamiento de lenguaje" o   "procesamiento de lenguaje natural". ¿Qué es 
esto? Bueno, se trata de procesamiento de texto   básicamente y lo más sencillo por ahí es imaginar 
cómo funciona un predictor de texto o un traductor   de texto.

Bueno, ¿cómo funciona? Básicamente, 
si miramos muchos textos, una gran cantidad   de textos y detectamos por ejemplo después de la 
palabra "Hola" cuál es la más común que aparezca   ahí. Cuando digo más común ahí hay una 
probabilidad de fondo, por supuesto, una   estadística. Entonces podemos imaginarnos cuál es 
la mejor apuesta que podemos hacer a la siguiente   palabra y lo mismo con los traductores. Si tenemos 
un montón de textos escritos en dos idiomas,   o sea traducido ya por ejemplo del español al 
francés, podemos agarrar un nuevo texto y tratar   de Traducir básicamente usando qué es lo más 
frecuente que aparece cuando aparece este término   o esta frase en estos textos que están también 
en francés.

Bueno esto, pero mucho más complejo,   es el procesamiento de lenguaje natural. Respecto 
a esto hay algunas aplicaciones muy interesantes,   AymurAI es un proyecto bastante 
reciente llevado a cabo por Data Género,   que trata de recolectar y poner exposición 
datos sobre violencia de género a partir de   sentencias judiciales. Se analizan grandes 
textos que tienen que ver con la sentencias,   los dictámenes judiciales, para extraer 
información relevante sobre las cosas   que se han llevado a juicio respecto 
a violencia de género en particular.

Algunos sesgos que pueden aparecer (ahora no 
sé si lo han corregido, como decía Fernando a   veces las cosas se van corrigiendo a medida 
que la gente los encuentra). El traductor   de texto de Google cuando traduce cosas del 
español al inglés, hay cosas ahí, sustantivos   que pierden el género porque son neutros en 
inglés. Entonces por ejemplo podemos poner,   ahora no lo probé pero hace un tiempo lo probé, 
"la programadora llamó al niñero". Lo ingresamos   y le pedimos a Google que lo traduzca al inglés. 
Entonces lo traduce al inglés y en inglés esto es:   "the programar called the babysitter". Ambos 
sustantivos ("programadora" y "niñero") pasan   a no tener género. Y podemos pedirle que vuelva a 
traducir esta frase al español y qué hace Google:   bueno resulta que la programadora que llamó el 
niñero, teníamos a la programadora y teníamos al   niñero, y resulta que en el camino la programadora 
pasó a ser un programador y el niñero pasó a ser   una niñera.

¿Por qué? Porque es mucho más común 
en textos que dicen "programer" que aparezca en   español "programador" y no "programadora" y 
lo mismo con "niñero" y "niñera". Entonces   estos estereotipos, estos sesgos que están en los 
datos naturalmente porque están ya en la sociedad,   están trasladados indefectiblemente salvo 
que prestemos mucha atención a los datos   con los que se entrenaron y se entrenan 
los algoritmos de Inteligencia Artificial.   Entonces muchas veces terminamos profundizando 
estereotipos o sesgos al utilizar estos sistemas.   Respecto de los sesgos la Fundación Vía Libre está 
trabajando mucho también respecto a los sesgos,   en particular en el procedimiento de lenguaje 
natural. Trabajan analizando los distintos   modelos de lenguaje (que los modelos lenguajes 
son formas de representar el lenguaje en el   espacio numérico), donde se pueden determinar 
distancias entre palabras. Las palabras más   semejantes o que estén más vinculadas van a estar 
más cerca y las palabras que menos tengan que ver   entre sí van a estar más lejos.

Estos son los 
espacios que se usan como modelos de lenguaje   que están detrás de todo lo que se hace con 
procedimiento de lenguaje. Como por ejemplo   el Chat GPT. Tienen una herramienta para evaluar 
estos sistemas y estos modelos de lenguaje, que   pueden buscarlo en la página de Vía Libre, en la 
cual obtienen este tipo de gráficos, por ejemplo   cuando ponemos algunas palabras en masculino 
y palabras en femenino y ponemos verbos o temas que pueden tener que ver con "ella" o 
"él". Vemos qué aparece más frecuente. Entonces   vemos que "pelea" o "ganar" o "salario" 
aparece mucho más cerca frecuentemente   de palabras masculinas como "hijo", "padre", 
"hombre", "chico" que de palabras femeninas.   Bueno hay mucho trabajo hecho detrás de esto 
y hay mucho más para hacer respecto de cómo   mitigar estas estos sesgos que están en los 
corpus de texto que se están usando para y en   los modelos de lenguaje que están usando para 
entrenar sistemas de Inteligencia Artificial.   Bueno acá entonces aparece el famoso Chat GPT 
que ya habrán estado hablando y bueno no voy a   hablar mucho más, creo que ya Fernando habló. 
Básicamente detrás del chat está entonces un   modelo de lenguaje, que es una forma de ver a las 
palabras en un espacio numérico, y hay muchísimos   textos con los cuales fue entrenado y además, 
trabaja con lo que yo mencioné al principio que   se llama "aprendizaje por refuerzo".

Es decir que 
es un modelo que va aprendiendo durante el uso al   decirle "esto salió bien", "esto salió mal", 
el modelo vuelve a aprender. Y en realidad la   "t" de GPT tiene que ver con que es un tipo 
de estructura de red neuronal. Yo les decía   que las redes neuronales artificiales tienen 
distintas formas de armarse esas redes por las   cuales se van haciendo los cálculos para estos 
sistemas, es una red transformable, por eso la T.   No traje ejemplos, los que había probado hace 
tiempo ya los fue corrigiendo la aplicación.

Como   como decía Fernando, a veces hay cosas que por 
ahí aparecían muchos sesgos en la aplicación y   se fueron corrigiendo con el uso. Acá simplemente 
dejo como lanzada esta pregunta pensando también   en la escuela, en la aplicación de todo esto la 
escuela qué es lo que respondió el chat en una   consulta que le hicieron respecto de qué es, 
qué le explicaría un niño. Es un programa por   computadora que pueden usar las personas para 
responder preguntas. Dice "tengo conocimiento   limitado, soy un programa" Aclarar algunas 
cuestiones que, más allá de que esto sea correcto   o no correcto, me interesa que nos quede quizás la 
idea de que tiene muchos problemas la Inteligencia   Artificial, tiene muchos riesgos, pero hay que 
ver de qué manera podemos mitigar esos riesgos,   prevenir esos problemas o esos errores que pueda 
cometer y ver de qué manera se puede incorporar   como herramienta en la vida, en la escuela 
en particular.

Acá un par de frases: la de   la izquierda quizás es un poco negativa. Un par 
de frases de Pedro Domingo, que es un profesor de   informática de la Universidad de Washington. Dice: 
"la gente se preocupa porque las computadoras se   volverán demasiado inteligentes y tomarán el 
mundo, pero el problema es que ya tomaron el   mundo y que son demasiado estúpidos". Es verdad 
que es un poco fuerte pero la idea es que ya están   las computadoras haciendo tareas y cada vez 
más, y "demasiado estúpida" en este sentido:   los problemas que tenemos como sociedad van a ser 
profundizados y si no prestamos mucha atención   cuando utilicemos aprendizajes automático. Un 
ejemplo chiquito es cuando cuando se pide a un   sistema de Inteligencia Artificial que determine 
el monto de un crédito que se le puede dar a una   mujer o a un varón con mismos ingresos y mismo 
monto en la cuenta, en el banco está la misma   información pero uno es mujer y otro es varón. 
El sistema automáticamente le da más crédito al   varón.

Y esto tiene que ver con que en general las 
mujeres ganan menos y la brecha salarial es algo   que ya existe, entonces realmente es más probable 
que el varón tenga más dinero. Pero ese sesgo, que   ya existen la sociedad, tenemos que tener mucho 
cuidado si no queremos que se reproduzca y que   se profundice justamente al tomar decisiones con 
sistemas automáticos a partir de esa información.   Bueno, por último, no es hombre versus máquinas 
sino que es hombre con máquina versus hombre sin   máquina.

Acá es donde, un poco más positivamente, 
tratamos de pensar que esta herramienta va a estar   y vamos a seguir hablando después con Julián qué 
es lo que podemos hacer para que esto realmente   sea una herramienta y no un problema y que 
no haya que prohibirla sino aprender a usarla   de forma responsable. Bueno creo que tengo que 
ir cerrando. Yo acá dejo algunas limitaciones,   no sé si querés traer un poco si hay algún 
comentario sobre los miedos y que por ahí nos   puede dar también pie a lo que sigue después con 
Julián. [Mara] En principio hay una pregunta que   si querés responderla para y cerrar, tiene 
que ver con a qué llamás sesgo. [Manuela]   A qué llamo sesgo. Bueno, buenísima pregunta. 
Sesgo en los datos refiere a cuando los datos   no representan de forma homogénea al conjunto del 
cual lo saqué.

Los datos que yo tengo siempre van   a ser una muestra de la población total. Entonces 
por ejemplo en el caso de imágenes de rostros,   si yo tomo imágenes de rostro yo tomo una 
muestra. Voy a tener diez veinte o mil   millones. Si todos esas imágenes son de personas 
blancas, tengo un conjunto de datos sesgados,   porque no está viendo a los negros por ejemplo. 
Y sesgo en el sentido un poco más humano sería,   ya sea a propósito o inconscientemente, creer que 
una mujer va a ser menos capaz que un varón para   una determinada tarea.

Pero esto que a veces 
es algo por ahí subjetivo de las personas se   traduce después a los datos y se traduce después 
a los sistemas de Inteligencia Artificial. O sea   la idea de que niñero es raro y niñera es 
muy común es un estereotipo que tiene que   ver con que tenemos nuestros prejuicios. 
A eso me refiero con sesgos. Hay muchos   tipos de sesgos. Yo acá comenté algunos: cuando 
tenemos datos de gatos blancos y perros marrones,   esos son datos sesgados; cuando tenemos imágenes 
de radiografías de población de blancosc esos   son datos sesgados. Ese tipo de cosas [Mara] Bien 
muchísimas gracias Manuela. [Manuela] Un placer. [Mara] Vamos ahora a nuestro último ponente 
de la charla. Tenemos ahora a Julián Dabbah,   que es analista en sistemas también de la Facultad 
de Exactas, también de la UBA.

Es docente en el   Profesorado de Informática de la Universidad 
Nacional Pedagógica y además es miembro de la   iniciativa Programar en la Fundación Sadosky, 
donde genera distintas ofertas para formación   docente y también contenidos para llevar estos 
estos saberes al aula. Bienvenido Julián. Nos   interesa por ahí que nos cuentes, Manuela estuvo 
hablando de sesgos, de reconocimiento de patrones,   de modelos, de aprendizaje automático. Bueno 
ya había algunas preguntas en el chat sobre   si es que estos contenidos pueden estar en 
las aulas, si tienen que ver o no con el   pensamiento computacional, si puede modificarse 
los contenidos en alguna materia para introducir   estos saberes en la escuela. [Julián] Bueno, allá 
vamos. Les comparto la presentación y empezamos. (…) La primera pregunta que nos vamos a 
hacer, si estamos pensando en en trabajar   la Inteligencia Artificial en la escuela, es desde 
dónde y para qué.

Y ahí nos pasa algo, que para   los que estamos pensando en educación por estas 
zonas por ahí nos suena un poco conocido, que es   el enfoque desde el uso o desde la comprensión y 
pensar que tenemos un sistema rarísimo como el que   mostró Fernando y el que mostró Manuela al que 
le decimos algo y nos genera una respuesta,   que es una herramienta que claramente ofrece un 
montón de posibilidades y que no necesariamente es   obvio cómo se usa. Entonces la escuela tiene que 
ofrecernos la posibilidad de aprender a usarla,   porque si bien para algunos o para algunas 
puede ser obvio como usarlas, para otros no.   Entonces enseñar algo tan simple como el uso 
de una herramienta ya es valioso en el sentido   de que contribuye a cerrar o a no profundizar una 
brecha que sabemos que existe, que es la brecha de   acceso y de uso de la tecnología. Sin embargo, 
eso no resulta del todo completo porque…

Digo, meimagino que después de la charla de 
Fernando se habrán quedado con un montón de   preguntas que la charla de Manuela habrá 
respondido solo en parte o tal vez generó   otras preguntas que nosotros, yo incluido, a 
veces no estamos en condiciones de responder.   ¿Por qué? Porque no sabemos cómo funciona. 
Entonces lo primero que nos tenemos que que   hacer cargo o agarrar la batuta es pensar que es 
un contenido que tiene que estar en la escuela,   que tienen sentido que esté en la escuela, 
porque es un contenido que nos permite   entender de qué estamos hablando, qué nos 
está pasando cuando si llamamos por teléfono   y nos contesta una máquina y nos parece que 
habla medio raro, bueno qué estará pasando   ahí. Tal vez hay alguno de estos sistemas 
que está dando vuelta. Si no entendemos   cómo funcionan, hay una parte del mundo que 
nos estamos perdiendo y para eso tenemos que   experimentar, tenemos que usar, y tenemos que 
razonar. En ese sentido, la función de la escuela   es clave y es muy importante también pensar 
desde qué lugar o en qué espacios curriculares   camos a abordar estas responsabilidades 
y acá no hay una respuesta cerrada,   sino que admite me parece distintas ideas pensando 
en cómo lo vamos a abordar.

Si vamos a trabajar   estructura gramaticales en el espacio de Lengua, 
perfectamente podríamos jugar con la herramienta   que nos mostró Fernando para que nos genere 
oraciones y pedirle modificaciones sintácticas,   y que cambia el sujeto por el predicado y que de 
vuelta ponga en singular, ponga en plural. Seguro   todo eso lo va a poder hacer. Ahora ahí no 
estaríamos aprendiendo del funcionamiento,   sino que estaríamos enriqueciendo un espacio 
curricular con una herramienta nueva de una manera   completamente novedosa, porque hasta hace muy poco 
esto no existía ni cerca. Entonces es un aporte   muy significativo. Sin embargo, las preguntas 
que nos van a poder, o mejor dicho los saberes   que nos van a poder responder las preguntas que 
tienen que ver con el funcionamiento, necesitamos más data que no que todavía no tenemos.

Y en 
ese sentido es que nos imaginamos que tienen   que estar a cargo de alguien que… Bueno que 
es un desafío muy grande de alguien que tiene   que asumir un desafío muy grande sobre el cual 
vamos a hablar un poquito más adelante. Quería no   espantarlos sino todo lo contrario. Por eso quiero 
arrancar con un ejemplo de cómo podría ser o una   idea para una actividad en un aula. No me imagino 
que sea una actividad cerrada, pero sí que que lo   podemos usar. Esto es un ejemplo, a diferencia de 
los chicos yo lo generé hoy a la tarde así que les   puedo asegurar que es actual, en el cual le pedía 
el Chat GPT que me dé tres consejos para aprender   a bailar tango. Como ven me dice: "¡Claro! Aquí te 
presento tres cosas: toma clases, escucha música y   familiarízate y después práctica, práctica, 
práctica" y después termina diciéndome que   es un proceso gradual, que me va a 
llevar mucho tiempo, mucho esfuerzo,   pero que si tengo dedicación y práctica voy 
a poder aprender y voy a disfrutar entonces.   Primera parte, nos imaginamos que alguien nuestros nuestros nuestras 
estudiantes obtienen esto.

Bueno,   sorpresa ¿no? Es el ejemplo completamente 
de verdad, lo único que yo le escribí fue:   "tres consejos para aprender tango", ni siquiera 
le puse un verbo y de golpe me generó todo esto. La próxima, sin embargo, después le pedí 
estos otros dos tríos de consejos que eran   tres consejos para aprender matemática 
y tres consejos para aprender plomería.   Y los pongo uno al lado del otro porque me 
interesa que los comparemos. Lo primero que   podemos ver es que la primera frase es exactamente 
igual. En un lado dice "claro" pero en otro lado   dice "por supuesto", y después dice aquí te 
presento tres consejos para aprender lo que   yo le pedí y el otro lado dice "aquí te presento 
tres consejos para aprender lo que yo le pedí,   y si los leen o leen un poco por arriba (la 
letra es un poquito chiquita, pero quería que   me entraran uno al lado del otro), van a ver que 
hablan de lo mismo.

El primero, en el consejo uno   dice "practica practica y practica", y en el 
de la derecha, el el ítem 2 dice "practica con   proyectos simples y después sigue practicando 
y después aquiere más experiencia y vas a poder   seguir practicando". En el punto 2 del ejemplo 
de la izquierda dice "comprende los conceptos   básicos" y en el uno dice "adquiere conocimientos 
teóricos" y en el 3 me dice "busca ayuda si lo   necesitas" y en el 3 del otro me dice "aprende 
de un profesional".

Y si se lo fijan acá me   dice "practica practica practica escucha y 
familiarizate y toma clases con calificado"   y cierra "recuerda que aprender 
matemáticas requiere tiempo",   "recuerda que aprender plomería es una habilidad 
que requiere práctica y paciencia". Con lo cual:   qué podemos… Hasta acá no hicimos nada, o sea 
simplemente entramos a una página de Internet que   es esta que está acá y escribimos tres consignas y 
tuvimos estos tres ejemplos.

¿Qué podemos aprender   estos ejemplos? Seguramente un montón de cosas. 
A mí las que se me ocurrieron son estas dos.   Primero identificamos patrones, vimos que todas 
las respuestas tienen alguna regularidad. Bueno   ¿qué tendrá que ver esto? O ¿tiene que ver con que 
es una herramienta de Inteligencia Artificial? Sí,   porque como les contó Manu, la Inteligencia 
Artificial se trata (o buena parte de la   Inteligencia Artificial basada en datos) se trata 
de identificar patrones y funciona encontrando   y reproduciendo patrones que encuentre en los 
datos que nosotros le damos para que analice.   Entonces no es casualidad que un sistema de 
aprendizaje automático me de tres respuestas   parecidas a tres preguntas que son parecidas pero 
que en el fondo no tienen nada que ver, porque   aprender matemática, aprender plomería y aprender 
a bailar me parece que tenemos todos y todas en   claro que no debería ser igual o no deberían ser 
los mismos consejos.

Habrá algunas cosas en común,   pero la matemática, el tango y la plomería 
en principio no parecen ser disciplinas que   se parezcan en la forma de aprenderse. Entonces 
el contenido puede no ser el mejor y sin embargo   está escrito en un castellano perfecto, mejor 
que el que puedo escribir yo si no lo si no lo   reviso y no presto atención a las correcciones 
que me hace el corrector de del editor de texto.   ¿Por qué? Bueno, otra vez: la prosa tiene que ver 
con la estructura. No tiene que ver con pensar si   no con reproducir estructuras que son frecuentes, 
las buenas estructuras del lenguaje son más   frecuentes que las malas estructuras del lenguaje. 
Entonces reproducir buenas estructuras es algo   que es factible y ahí lo vemos acá.

Entonces 
aprendimos tres ejemplos para los cuales no   necesitamos más background, donde no necesitamos 
más contexto que "bueno, vamos a jugar con esta   herramienta nueva y tres consignas". Obviamente 
las tres consignas estaban muy bien elegidas,   obviamente a mí no es lo primero que se me ocurrió 
preguntarle, sino que después de jugar un rato   cuando salió y todo el mundo estaba hablando de 
esto, y en base a lo que publicaron otros colegas,   se me ocurrió hacerle estas tres preguntas. 
Pero teniendo elegida estas preguntas,   de manera muy fácil podemos hablar de 
patrones, podemos hablar de contenido,   podemos hablar de estructura, y de hecho 
hasta podemos ir un paso más y decir:   pará, estamos leyendo y estamos haciéndole 
caso a alguien, a algo en realidad cuya   especialidad es sonar bien pero decir cosas 
que el contenido no sabemos.

En todo caso   podemos pensar en cuántas otras oportunidades 
de nuestra vida le hacemos caso o creemos en   algo solo porque suena bien, pero no ponemos a 
prueba el contenido de lo que está ahí adentro.   Un ejemplo muy feliz, pero sigamos. ¿Por qué? 
¿Por qué nos interesan hacer estos ejemplos? Creo   que ya con esto los debemos haber convencido. 
Hoy por hoy la vida de todas las personas que   vivimos…La gran gran mayoría está atravesada por 
la Inteligencia Artificial. Por ahí no la usamos   directamente, a pesar de que si usamos YouTube 
o usamos Spotify o alguna plataforma, cualquier   plataforma de contenidos online en cuanto a 
alguien nos recomendó algún contenido o mismo una   red social cuando aparece una publicidad o lo que 
fuere, hubo un sistema de Inteligencia Artificial.   O las usamos directamente, o usamos 
una aplicación que la está usando,   o peor: hay otras personas que toman decisiones 
sobre nosotros y las están usando.

Entonces no   es un tema que puede ser ajeno, que puede ser 
de ciencia ficción y que puede ser del futuro,   o del Primer Mundo donde se desarrollan estos 
sistemas enormes como el Chat GPT, que obviamente   que no es de acá, es de Microsoft como dijo 
Fernando al principio, sino que es parte de   nuestra vida querramos o no querramos. Entonces 
tenemos que estar en condiciones de entender,   pero entender no solo por el placer de entender, 
sino el entender para analizar, para criticar,   para especular, para anticipar, para poder 
por ejemplo ver que lo que nos contó Fernando   al principio no es una fábula paranoide, sino 
que tiene mucho sentido porque estos sistemas   existen y se pueden construir, y los que nos contó 
Manuela de los ejemplos donde el sistema generaba   discriminaciones y perpetuaba desigualdades 
también puede suceder, porque los temas están   basados en datos y los datos reflejan ciertos 
comportamientos de la sociedad, que a veces no   nos gustaría que reflejen, etcétera.

Y además, en 
línea con estos ejemplos que les comentaba recién,   la escuela tiene la enorme oportunidad de 
presentar una mirada no neutral de la tecnología,   que es un poco el hilo que vamos a recorrer, 
bah que van a recorrer los próximos oradores de   este tramo, que es a diferencia del mercado y de 
los mensajes más brillantes y más notables donde   la tecnología siempre aparece como una solución 
perfecta, como una solución que vino del cielo,   como una solución que solo va a ser buena y solo 
nos va a solucionar la vida. Bueno, la escuela   tiene la oportunidad de correrse de ese lugar y 
de presentar una mirada un poco más global donde puedan convivir las dos miradas, y la reflexión 
nos lleve a identificar los casos buenísimos   (por ejemplo los que nos contó Manuela o los 
que contaba Fernando creo que era de detectar   enfermedades a partir de imágenes médicas 
que a los médicos se les pasarían) y a su   vez contrastarlos con otros casos más terribles 
donde la asignación de créditos o de subsidios   falla por una cuestión que tiene que ver con 
un prejuicio previo y no tiene nada que ver   con la decisión para la que supuestamente se había 
diseñado el sistema.

Y esto no es particularmente   inocente si pensamos que nosotros, al menos por 
ahora, todas estas tecnologías o muchas de estas   tecnologías y sobre todo las más novedosas, no 
nos queda más que consumirlas de afuera porque   involucran un desarrollo tecnológico que todavía 
acá no está sucediendo. Entonces poder pensar la   Inteligencia Artificial desde ese lugar, verla 
como algo complejo y pensando en sus beneficios,   pero también en los problemas que tienen las 
otras aplicaciones que ya existen, es un buen   punto de partida para pensar en qué podemos 
hacer con esto en el futuro en nuestro país.

La otra pregunta que nos surge, que imagino que 
a muchos y a muchos de ustedes les estará pasando   por la cabeza, es ¿le vamos a hablar de los chicos 
de Inteligencia Artificial? ¿No es demasiado   hablar de eso? ¿No es cosa de otro mundo? ¿Cómo 
puede ser que si a nosotros todavía nos cuesta   convencernos de que una aplicación como el Chat 
GPT existe y yo le puedo decir tres consejos   para bailar y me lo arma, si a nosotros nos 
cuesta imaginarnos cómo funciona o nos es raro,   más difícil nos resulta imaginarnos trabajando 
ahora en el aula? ¿Y qué tenemos para decir   sobre eso y cómo vamos a hacer para que eso 
efectivamente llegue a buen puerto? Bueno,   no es tanto un problema.

Y acá viene la parte un 
poco más optimista de la charla. Es verdad que hay   muchas especificidades y complejidades técnicas 
para entender por qué Chat GPT se hizo famoso   y no se hicieron famosos los otros diez sistemas 
de diálogo parecidos que andan funcionando. Bueno   hay razones técnicas, que GPT funciona mejor. 
Sin embargo, como contó Manu, hay principios   básicos que son comunes a todos los sistemas 
de Inteligencia Artificial basados en datos,   y que nos permiten aunque sea aproximarnos y tener 
en la cabeza alguna idea un poco más realista de   cómo están construidas estas cosas, que tienen que 
ver con que seguramente haya un conjunto de datos,   esos datos estarán etiquetados, después sobre esos 
datos se producirá un entrenamiento o un análisis,   y después del resultado de todo eso habrá un 
programa de Inteligencia Artificial que responda   a la misma pregunta que nosotros le dimos para la 
que le dimos los datos al principio. Por ejemplo   de saber si es una foto de un perro o un gato 
le damos un montón de fotos de perros, un montón   de fotos de gatos y después sabe diferenciar 
fotos de perro de fotos de gatos.

Bueno bajo   ese esquema funcionan un montón, un montón, un 
montón de sistemas de Inteligencia Artificial y,   no por menospreciar a nadie, pero no tiene mucha 
complejidad que eso que les acabo de contar. (…)   El desafío entonces está en las propuestas 
didácticas: cómo seleccionamos los contenidos,   cómo trabajamos de manera asequible y cómo no 
perdemos nada conceptualmente en el camino.   Y por eso voy a ir rapidísimo a los ejemplos así 
me creen que es de verdad que se puede y que no   es que estamos acá vendiendo cosas. Podemos crear 
un modelo usando una herramienta didáctica que ya   existen, por suerte hay pocas porque todavía 
no hay mucho, no hubo mucha gente que se haya   puesto a pensar y a diseñar en esto, pero hay 
herramientas didácticas que nos permiten crear   modelos. Entonces podemos hacer un proyecto con 
una motivación concreta y un enfoque puramente   práctico, donde esto que nos contaba Manu 
de los datos, del entrenamiento, las clases,   están a la vista. Por ejemplo,esta es una 
herramienta que se llama Teachable Machine   (ahí está el link para que después lo vean), 
donde definimos cada una de las clases que   queremos que nuestro modelo aprenda o aprenda 
a diferenciar.

Acá esto estaba pensado para que   nos recomiende un lugar para que viva este 
animalito, pero podría ser perros y gatos si   queremos que distinga fotos de perros de fotos 
de gatos. Subimos las muestras de imágenes,   entonces tenemos los conjuntos de datos que 
están claramente visibles, las categorías   están claramente visibles. Apretamos el modelo de 
entrenar, el botón de entrenar. Vemos cómo sucede   el entrenamiento, bah no vemos cómo sucede 
el entrenamiento, simplemente vemos que dice   "espere", porque estamos entrando el modelo, y 
después le damos una imagen nueva y nos dice,   por lo que vio de estas imágenes, si es un 
animal para vivir en el campo, en el patio, en un   departamento…

Con lo cual no tuvimos que hablar 
de palabras muy raras, no tuvimos que meternos a   hablar de estadística, no tuvimos que meternos en 
ningún lugar muy oscuro y sin embargo pudimos ver   que las tres cosas fundamentales de un modelo de 
aprendizaje automático de Inteligencia artificial   basado de datos súper claramente: los datos de 
entrada, la clasificación y los datos de salida.   Otra cosa que vamos a abordar en la escuela: la 
no neutralidad. Siempre, si hay alguien, si hay   un sistema, por más que sea un sistema que está 
tomando una decisión, esa decisión obedece algún   criterio. ¿Podemos saber cuál es ese criterio? 
¿Podemos saber si ese criterio lo decidieron las   personas? ¿Será todo decidido por las personas o 
habrá algo más que influya? ¿Cómo influye en esta   decisión las cosas claves que vimos en el modelo, 
los datos de entrenamiento, las clases, etcétera?   Por ejemplo entonces podemos usar un modelo, 
en la misma herramienta que vimos antes,   donde las clases no tienen nombre.

Hay uno que 
se llama "clase 1" y "clase 2" y el perrito de   la izquierda me dice que pertenece 100%, osea 
está 100% seguro de que pertenece a clase 1 y   el de la clase 2 está 87%, el de la derecha 
está 87% seguro que pertenece a la clase 2.   Entonces lo podemos preguntar es P¿por qué digo. ¿Qué será lo que… Qué 
palabra hay atrás de clase 1, clase 2? ¿Qué   pasaría si en vez de decir "clase 1" y "clase 
2" dijera "recomendable" y "no recomendable"?   ¿Nos gustaría? ¿Estaríamos de acuerdo con este 
modelo? ¿En qué otra situación, con qué otros   clasificadores interactuamos sin darnos cuenta? 
¿Cuántas veces hay un programa que le decimos algo   y nos dice clase uno/clase dos osea a nosotros 
nos dice sí/no, nos dice lindo/feo, nos dice te   damos el crédito/no te damos el crédito? Pero 
en el fondo lo que tiene es clase 1 y clase 2.   Y ¿de dónde habrán salido esas clases 1 y esas 
clase 2? ¿Cómo se relaciona esto con los datos   con los que entrenamos el modelo? ¿Podemos saber 
si esta clase 1 y esta clase 2 reflejan lo que los   desarrolladores del modelo y la desarrollada 
del modelo querían reflejar con las clases? Vuelvo para acá.

¿Podemos saber qué aprendió el 
modelo? ¿Podemos saber cómo está clasificando? No   lo podemos abrir, no podemos atender el modelo 
por dentro, aún ni los expertos pueden tener a   veces como son estos modelos por dentro. Entonces 
otra actividad que podamos hacer sobre la misma   herramienta es, volvemos al mismo proyecto 
de antes, entrenamos con los tres lugares,   y después lo probamos y nos dice que la vaca 
tiene que ir al campo, que el gato tiene que   ir al departamento, y que el perro que es un 
poco grande tiene que ir un patio. Y después lo   probamos de vuelta y nos dice que hay una vaca que 
tiene que ir al departamento.

¿Por qué? ¿Qué pasó?   Y este es un ejemplo donde podemos abordar lo 
que Manu definía como sesgo. Porque, si se fijan,   todos los animales chiquitos son marrones, 
entonces en realidad lo que aprendió este modelo   no era del tamaño de los animales, sino del color 
de los animales. Y yo no tenía forma de saberlo   (ni yo ni nadie tenía forma de saberlo hasta que 
no lo probó). Con lo cual nos podemos preguntar   en cuántas de las veces que interactuamos 
con la Inteligencia Artificial nos pasa que   estamos en una respuesta que en realidad 
no sabemos porque no tuvimos la oportunidad   de probarla lo suficiente y después también 
podemos preguntarnos cómo hacemos para evitar   este problema, y cuando evitamos este problema del 
color ¿no nos estaremos metiendo en otro problema?   Y en fin. Bueno además de esto, no tiene solo 
que ver con el color de los animalitos, sino que   además de los casos que comentaba Manu también 
podemos trabajar sobre casos concretos donde suceden discriminaciones por sesgo en los 
datos.

Por ejemplo si evaluamos si entrenamos   una Inteligencia artificial, un sistema de 
Inteligencia artificial con un registro histórico   de detenciones, seguramente va a haber grupos 
que estén más representados en ese registro de   detenciones y, por ende, van a ser considerados 
más criminales. Pero no porque haya una   correlación entre criminalidad y grupos, sino que 
porque muchas veces la policía persigue más a unos   grupos que otros y, por ende, esos grupos aparecen 
más en el registro. Lo mismo con la contratación   de Amazon en la industria de la tecnología: existe 
una brecha de género enorme. Entonces, si usamos   los datos históricos de Amazon para elegir a 
quién vamos a contratar y lo único que miramos   son patrones, vamos a descubrir que, con el 90% 
de probabilidad, tenemos contratar un varón.   Porque el 90% de los empleados son varones.

Y para 
pensar en esto, si nos quedamos acá y entendimos   un poco cómo llegamos acá, de golpe estamos en 
condiciones de entender por qué pasan estas cosas   que realmente son problemas de nuestra época y que 
realmente es relevante que los abordemos, pero que   no necesitan de un recorrido por los detalles de 
la técnica o por el mundo de la ciencia ficción.   Así que no quiero extenderme más porque sé 
que hay algunas preguntas que tal vez estaría   bueno que tengamos tiempo de responder. 
Espero habernos convencido de que podemos   y debemos hablar de esto en la escuela 
y de que hay formas de hacerlo. Gracias [Mara] Muchísimas gracias Manuela y Fernando 
por compartir esta charla hoy.

Pienso que la   mayor parte de las preguntas fueron respondidas 
a lo largo de la charla tanto por Fernando,   como por Manuela, como por Julián. Quizás la 
única que no quedó respondida tiene que ver con   si tenemos alguna propuesta para el sistema 
educativo formal concreta de currículum en   relación a qué contenidos y cómo incorporarlas 
en la escuela. Los invito a revisar la página de   currículum.program.ar en donde pueden encontrar 
una propuesta por ahora provisoria de las áreas,   los temas, los ejes que nosotros pensamos 
que sería importante trabajar en el aula.

En   pocos meses más van a poder encontrar una 
propuesta mucho más detallada por ciclo,   por nivel, y consecuencias para el aula. Así 
que, sin más, les agradezco a los tres por su   participación y por supuesto a todas y a 
todos los que se conectaron a lo largo de   la charla. Sepan que quedan dos encuentros 
más y quienes no se hayan anotado al tramo,   todavía están a tiempo de hacerlo para poder 
asegurarse los 15 créditos, el certificado y   demás beneficios por participar de estos tramos. 
Muchísimas gracias al Instituto Nacional de   Formación Docente de nuevo por invitarnos y por 
interesarse en estos temas a todos y a todas..

As found on YouTube

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *