Etiqueta: Inteligencia Artificial

¿Y si tu próximo jefe fuera una computadora?

Posted on by Santiago B.

Hace algunas semanas tuve la increíble oportunidad de exponer en la reunión sobre Trabajo del G20 en Mendoza. Allí se reunieron los Ministros y equipos de trabajo de ese área de las mayores potencias mundiales para discutir los desafíos laborales que la humanidad enfrentará en los próximos años. La idea de que las computadoras y la inteligencia artificial amenazarán muchos de los trabajos actuales, que hasta hace tres años parecía una idea descabellada que solo unos pocos locos vaticinábamos, ahora aparecía omnipresente, casi como una certeza de lo que se avecina. Quizás las advertencias de figuras prominentes del mundo de la tecnología, como Bill Gates, Elon Musk y Mark Zuckerberg, o de dirigentes globales como Jim Yong Kim, presidente del Banco Mundial, terminaron de instalar el mensaje en la agenda de los funcionarios. O tal vez haya sido por las noticias que aparecen con frecuencia creciente, sobre computadoras logrando realizar tareas más y más complejas con un nivel superior al de las personas que llevan hoy a cabo esas tareas. En cualquier caso, la preocupación era palpable.

El eje de mi exposición a los Ministros del G20 fue resaltar que la manera de enfrentar este problema es dejar de ver a las máquinas como competencia y aprender a jugar en equipo con ellas. En algún sentido, disponer de una inteligencia artificial con capacidad sobrehumana para ciertos aspectos de tu labor actual es como decir que “Messi se sumará a jugar en tu equipo”. ¿Para quién podría ser eso una mala noticia? Como Paulo Dybala se ocupó de mostrar, contar con Messi en tu alineación solo puede ser perjudicial para que el que está determinado a jugar en la misma posición que la estrella. A la vez, la escasez casi total de títulos en los 12 años que contamos con Lio muestra que no basta con un talento descollante en una sola posición para alcanzar resultados en una tarea de equipo.

Una de las áreas en las que las computadoras están alcanzando logros asombrosos es en la medicina, superando con creces el “ojo clínico” humano para diagnosticar enfermedades e indicar el tratamiento más apropiado para cada paciente, incluyendo información genética y una multiplicidad de datos individuales inmanejable para un cerebro humano. ¿Significa esto que los médicos van a desaparecer? Bueno, eso habrá que preguntárselo a ellos. Si la mayoría se resiste a utilizar el conocimiento de las máquinas para realizar sus tareas y la disyuntiva para los pacientes es elegir entre un camino u otro, es muy posible que las computadoras ganen la batalla. Si, por el contrario, se entusiasman con la idea de “jugar con Messi” y adoptan un lugar complementario, centrado en la conexión humana, y delegan el aspecto más técnico, no dudo que la mayoría elegiremos interactuar con médicos “centauros”, resultantes de la combinación de los talentos humanos y la capacidad de las inteligencias artificiales.

Este desafío no es excluyente de los médicos. Disyuntivas similares seguramente se presenten en todas las profesiones actuales. Y las grandes barreras para esta transición serán el conocimiento tecnológico de la población y el ego. ¿Estás dispuesta/o a que una máquina sepa más que vos sobre aspectos clave de tu trabajo y te diga lo que tenés que hacer? En la respuesta a esta pregunta quizás resida la clave de tu éxito profesional futuro.

El dilema del pasajero egoísta

Posted on by Santiago B.

Solo en los últimos dos meses Waymo, la division de Google que desarrolla autos que no requieren de conducción humana, anunció una inversion superior a los mil millones de dólares para adquirir más de 80.000 automóviles que le permitirán multiplicar en los próximos dos años su flota actual de 600 unidades a una más de cien veces mayor. Esta transacción termina de confirmar que la revolución de contar con autos plenamente autónomos está finalmente a la vuelta de la esquina. Esta es una excelente noticia, dado que la adopción de esta tecnología permitirá salvar millones de vidas que hoy se pierden por la impericia de la conducción humana.

Dos meses atrás en este espacio escribí sobre los dilemas éticos que esta nueva tecnología plantea: “Si por una situación imprevista, digamos la rotura inesperada de un neumático, el «cerebro» del auto determina que una colisión es inevitable, el auto deberá «elegir» qué accidente es preferible. En otras palabras, para poder circular los autos autónomos deberán tener un algoritmo que les proporcione una ética, una manera de definir este tipo de conflictos morales.”

Quizás el aspecto más delicado de la decisión sea qué valor dar en el “cálculo” a la vida del dueño del auto. ¿Debe el auto comportarse “egoístamente” y proteger la vida de su dueño por encima de las vidas de los otros implicados en el accidente? ¿O debe el auto ser “altruista” y salvar el mayor número de vidas posible, aún si ello ocasionalmente implica condenar a muerte al propietario?

El “dilema del prisionero” es una situación hipotética muy utilizada en lógica y en economía para mostrar que, contrariamente a la idea de la “mano invisible” de Adam Smith, la persecución irrestricta de los intereses individuales frecuentemente conspira contra la obtención del bien común, u óptimo colectivo. El dilema está diseñado de modo tal que la situación ideal sería que ambos prisioneros cooperen y reciban una pena abreviada, pero los incentivos analizados desde el punto de vista individual llevan a cada uno de ellos a decidir lo contrario y terminar ambos en el peor de los escenarios.

¡Con la adopción de los autos autónomos parece estar presentándose este escenario, pero ya no de manera hipotética sino bien real! Un estudio realizado por el Media Lab del MIT se propuso analizarlo y los resultados son muy interesantes. En un escenario donde la disyuntiva es entre salvar al dueño del auto o a 10 otras personas, 76% de los entrevistados opina que los autos deberían ser “altruistas”. Esto tiene sentido, dado que a priori no sabemos, cuando se produzca un accidente, de qué lado nos tocará estar. Podemos ser los dueños del auto que causa la colisión, pero también el desafortunado ocupante de otro vehículo o un peatón parado en el lugar inoportuno en el momento incorrecto. Salvar a la mayor cantidad de gente posible, sean quienes sean, maximiza nuestra propia chance de sobrevivir. El resultado cambia completamente cuando la pregunta es si comprarías un auto autónomo con ética “altruista”. Ubicados ahora en ese lugar específico, la mayoría de las personas se rehusarían a cómprarlo si salvar su propia vida no fuera la prioridad absoluta del auto.

He aquí el “dilema del pasajero egoísta”. Si queremos que las calles del futuro sean más seguras para todos, deberíamos impulsar una ética en nuestros autos autónomos que haría que muy poca gente quiera adquirirlos. Si dejamos que las decisiones individuales primen, aceleraremos la adopción de esta tecnología al precio de una situación peor para todos donde llenemos las calles de autos tan egoístas como sus propietarios.

La guerra por conquistar tu tiempo

Posted on by Santiago B.

Si te preocupa el uso exagerado que los jóvenes están haciendo de sus celulares, tu inquietud está justificada. Como decían en el Apolo 13, “Houston, tenemos un problema”. Como preparación a mi columna radial en Basta de Todo, encuesté a 1500 personas de todas las edades, y 78% de los menores de 21 años consideran su relación con los dispositivos digitales como adictiva. Pero el tema de esta nota no es el problema que tienen hoy los jóvenes. Tengo una noticia impactante para darte: ¡los adultos estamos hoy tan adictos a nuestros aparatos como los adolescentes! El porcentaje equivalente para los mayores de 21 es del 75%.

La mayoría nos sentimos un poco incómodos con la nueva realidad de que en cualquier encuentro, sea una reunión o una cena, buena parte de las personas estén más conectados con sus pantallas que con los demás. Entre los que respondieron, 85% preferiría que los otros usen menos sus dispositivos en situaciones sociales y 70% querría poder controlar mejor sus propios impulsos. Pero estamos perdiendo la batalla: según un estudio realizado por Nokia, en las 16 horas diarias de vigilia encendemos los dispositivos 150 veces, o una vez cada 6 minutos. (Si querés escuchar toda la columna de radio «Celuadictos» con más datos impactantes podés hacerlo acá)

El problema es más profundo de lo que creemos. Llegó para quedarse porque tiene que ver con una característica esencial de cómo funciona hoy internet. En una transacción comercial normalmente hay un comprador, un vendedor y un producto o servicio. ¿Cuándo vos usás aplicaciones como Facebook, Instagram, Youtube o Gmail, quién es el comprador, quién el vendedor y cuál el producto? Te invito a pensarlo por un minuto, antes de que sigas leyendo.

El comprador tiene que ser quien paga, en este caso los anunciantes. El vendedor quien cobra, es decir Facebook, Google o quien desarrolló esa aplicación. Pero… ¿cuál es el producto? La respuesta es tan sencilla como impactante: ¡el producto sos vos! O peor aún, el producto es lo más escaso que tenés: tu tiempo y tu atención. Para poder venderte, los sitios necesitan que estés ahí, y desde hace unos años destinan muchas de las más brillantes mentes a pensar cómo traerte, retenerte y aumentar tu dependencia (“engagement”). Los estímulos que aparecen cada vez que te conectás no son aleatorios. Están cuidadosamente elegidos por algoritmos para minimizar la chance de que te vayas.

Para estas plataformas, la competencia no son solo las otras aplicaciones. En palabras del Presidente de Netflix, “su principal competidor es la almohada”. Cada minuto que estás prestando atención a otra cosa, como charlar con amigos o incluso dormir, es tiempo que estas empresas no pueden vender. Por eso incorporan todo tipo de notificaciones visuales y sonoras para recuperarte cuando estás dedicado a otra cosa. Si te sentís tremendamente tironeada/o, ¡es porque lo estás! Están en una guerra para conquistar tu tiempo.

El primer paso para enfrentar una adicción es ser consciente del problema. Pero probablemente no sea suficiente. Aprovechando todo lo que las empresas saben de nosotros, necesitamos repensar el diseño de nuestros aparatos y plataformas. Después de tres episodios seguidos a la noche, Netflix debería mandarte a dormir. Cuando necesitás concentrarte, si no hay nada urgente el celular debería, antes de desbloquearse, sugerirte que te enfoques. Si Facebook detecta que estás en una reunión social, en vez de incitarte dar “me gusta” a fotos de personas ausentes, debería ayudarte a conectar con los presentes y construir relaciones más profundas. En otras palabras, necesitamos tecnología que esté al servicio de la vida que queremos vivir, no de la vida que otros precisan que vivamos.

Esta nota fue publicada en mi columna en la Revista La Nación el domingo 8 de abril de 2018

Los autos autónomos y la ética en algoritmos

Posted on by Santiago B.

Un tren circula a alta velocidad por una vía. Todavía está a cierta distancia del lugar donde estás y ves que más adelante hay 5 personas reparando la vía. No tenés manera de avisarle al maquinista ni a los obreros del inminente peligro, pero delante tuyo hay una palanca que permite desviar el tren a una vía alternativa en la que está trabajando una sola persona. Solo hay 10 segundos para tomar una decisión. ¿Usarías el mecanismo para salvar a cinco pero activamente condenar a uno? ¿O dejarías que mueran más personas pero sin tener responsabilidad activa en esas muertes?

Este es un dilema que se usa con mucha frecuencia para ilustrar la complejidad filosófica de los problemas éticos. Sirve como disparador del pensamiento pero la situación es tan artificial que jamás podría presentarse. ¿O sí?

Estamos a unos pocos años de que circulen autos autónomos en nuestras calles. Es decir, vehículos que no serán conducidos por personas sino por computadoras dotadas de mucha más cantidad de sensores y con mucha más potencia y confiabilidad que dos ojos y dos orejas. Esa es una gran noticia porque los humanos somos muy malos manejando: la abrumadora mayoría de las muertes por accidentes viales se deben a errores conductivos y no a fallas mecánicas. Las computadoras no toman alcohol, no tienen una “mala noche” y hasta pueden enviar mensajes de whatsapp sin que eso reduzca su capacidad de atención. La conducción autónoma reducirá drásticamente la cantidad de accidentes y salvará miles y miles de vidas.

Pero un efecto secundario de este cambio es que el problema ético del inicio se convertirá en una realidad tangible. Si por una situación imprevista, digamos la rotura inesperada de un neumático, el “cerebro” del auto determina que una colisión es inevitable, el auto deberá “elegir” qué accidente es preferible. En otras palabras, para poder circular los autos autónomos deberán tener un algoritmo que les proporcione una ética, una manera de definir este tipo de conflictos morales.

Más concretamente: imaginá que un auto autónomo está circulando por un camino de cornisa y ocurre una falla que hace que un accidente sea inevitable. El auto puede entonces elegir entre dos opciones: una alternativa es evitar el precipicio y chocar de frente a un ómnibus escolar lleno de chicos, probablemente matando a varios de ellos y dejando herido al dueño del auto; la otra opción es lanzarse al precipicio para evitar matar a los chicos pero condenando a muerte al ocupante. ¿Qué querrías que haga tu auto si fueras esa persona?

Las preguntas no se agotan allí. Te comparto solo algunas para que pienses. ¿Te subirías a un auto sabiendo que puede decidir matarte si así salva otras vidas? ¿Cuántas vidas habría que salvar para que estés dispuesto a perder la tuya? ¿Queremos una sociedad de autos “egoístas” que prioricen a su pasajero ante todo? ¿Legislaremos una ética unificada o convivirán varias diferentes? ¿Elegiremos a nuestros vehículos de acuerdo a cuál se acerca más a nuestros valores?

Decidir qué criterio ético darle a nuestros autos es un tema de enorme sensibilidad que está empezando a ser trabajado y discutido por investigadores, filósofos y tecnólogos. La discusión es apasionante y de su resultado depende la posibilidad de salvar miles de vidas, tal vez la tuya o la mía. Pero está en juego también la chance de que quizás te toque ser sacrificado por un algoritmo para salvar a otras personas. ¿Estamos listos para el futuro?

La era de las cosas inteligentes

Posted on by Santiago B.

Hasta hace muy poco tiempo los únicos dispositivos conectados a internet eran las computadoras. Y toda la información disponible en la red era generada por los seres humanos, usuarios de esas computadoras. En los últimos años, con el rápido crecimiento de los smartphones, el número de aparatos conectados creció significativamente. Pero en este momento el proceso se está disparando. Cada vez nos encontramos con más y más dispositivos conectados: sistemas de monitoreo de video, medidores del estado del tránsito, SmartTVs, sensores climáticos, monitores de salud personales, y como conté en este espacio hace unos meses, pronto cualquier otra cosa, desde una heladera hasta un inodoro.

Aumentar el número de dispositivos conectados a la red genera un cambio más profundo de lo que parece a simple vista: el volumen de información generada crece de manera exponencial y repentinamente la abrumadora mayoría de los datos disponible son generados por cosas y no por personas. Los primeros sensores simplemente recopilaban mediciones. La segunda generación incorporó conectividad a la red y a otros sensores. El desafío con el que estamos lidiando actualmente pasa por construir la tercera camada, una que pueda también hallar patrones y gatillar alertas y acciones en consecuencia. Combinando herramientas de análisis de grandes volúmenes de datos (las tecnologías conocidas como “Big data”) con algoritmos de Inteligencia Artificial ya no necesitaremos ser nosotros quienes interpretemos los datos para obtener información y definir los pasos a seguir. Podemos empezar a darle cierto grado de capacidad de decidir a los propios objetos, sin intervención humana.

El concepto “internet de las cosas” se refiere a la transformación que surge cuando los objetos y aparatos ganan esta “autonomía” y “dialogan” entre sí. Pensemos un ejemplo: nos vamos a dormir y programamos nuestro despertador a las 7AM, con tiempo de bañarnos y desayunar para llegar a una reunión a las 8:30. Sin embargo, mientras estamos dormidos, llega un mail atrasando la reunión una hora. Nuestra computadora avisa al despertador que podemos dormir un poco más, a la cafetera que retrase la preparación del café, al auto que encienda su motor y la caldera calefaccione el agua para la ducha unos minutos más tarde. Sin embargo, a las 5:30 los sensores meteorológicos detectan el inicio de una lluvia. Nuestra computadora queda en modo de alerta, revisando los sensores de tránsito para detectar si se están generando demoras anormales y decide despertarnos 7 minutos antes de lo previsto, en el momento en que nuestra pulsera de monitoreo de sueño le informa que estamos en una fase de sueño liviano.

Si bien esta “internet de las cosas” todavía parece ciencia ficción, la infraestructura necesaria para hacer realidad este ejemplo se está construyendo: nuevos sensores se agregan cada día a nuestros teléfonos, casas, autos, calles y hasta en nuestras ropas. El principal cuello de botella actual es la conectividad. Mientras nuestro país todavía no completa su transición a 4G, el mundo se prepara para el 5G, que permitirá pasar de mil conexiones por antena a más de un millón, dando además mucho más ancho de banda a cada una.

¿Delegar más y más decisiones e inteligencia en los objetos nos hará menos inteligentes a nosotros? Sin duda este cambio nos permitirá vivir en entornos más previsibles, más eficientes, más armónicos. Pero el precio quizá sea perder algo de esa falibilidad, esa improvisación, que nos hace a los humanos ser justamente lo humanos que somos.

Ver para creer

Posted on by Santiago B.

La idea de que “hay que ver algo antes de creerlo” tiene orígenes bíblicos. Según el Nuevo Testamento, uno de los apóstoles, Santo Tomás, se rehusó a creer que Cristo hubiera resucitado hasta no ser capaz de observarlo con sus propios ojos. Cuando finalmente se encontraron cara a cara, continúa el texto, Tomás constató que era cierto pero Jesús le reprochó su incredulidad inicial.

Esta máxima de “ver para creer” expresa dos pilares de la experiencia humana del mundo. Por un lado, que fuera del ámbito específico de la fe religiosa, resulta fundamental buscar evidencias materiales como base para formar nuestras convicciones. Por otro, que la vista nos ha resultado siempre el más confiable de nuestros sentidos, el preferido a la hora de separar lo verdadero de lo falso.

Las ilusiones ópticas ponen, en cierta medida, un signo de pregunta a esa convicción. Es posible construir figuras que engañen a nuestra percepción y logren que, por ejemplo, veamos de longitud distinta a dos segmentos que miden lo mismo. No importa cuánto nos muestren con una regla que se trata de una ilusión, nuestro cerebro se rehúsa a ver ambos como iguales. Pero fuera de este contexto limitado y artificial, la vista siempre nos resultó precisa y nos sirvió como principal herramienta para capturar la realidad de cómo son las cosas. Si alguien tiene dudas sobre algo, basta decir que “lo vimos con nuestros propios ojos” para dar un halo de credibilidad al hecho en cuestión.

Sin embargo, la tecnología se está ocupando de socavar esta certeza. Hace rato ya que el Photoshop hizo que debamos desconfiar de toda imagen digital, especialmente las publicidades, intencionalmente alteradas para vulnerar nuestros sentidos. Pero a hoy seguimos confiando en las filmaciones de video. En un primer paso que anticipa mucho sobre lo que se viene, un equipo de investigadores de la Universidad de Washington logró crear una inteligencia artificial capaz de tomar una foto y generar los movimientos faciales y de la boca que se corresponden a decir cualquier texto. Esto puede combinarse con otra desarrollada por el startup canadiense Lyrebird preparada para, a partir de una grabación, generar el sonido de la frase correspondiente imitando cualquier timbre de voz. En otras palabras, estamos a muy poco tiempo de poder, a partir de un retrato, poder hacer a cualquier persona decir cualquier cosa, con su propia cara, sus gestos y su tono de voz.

Amplificando el problema, una inteligencia artificial diseñada por la empresa fabricante de procesadores de imagen NVIDIA permite crear nuevos rostros humanos, fotografías completamente realistas de personas que no existen. Así, no solo será posible hacer que alguien existente aparezca diciendo algo que nunca dijo, también se volverá difusa la frontera entre ver personas que existen y otras que no.

La posibilidad de generar imágenes y videos falsos pero indiscernibles de los reales presenta un desafío enorme, tanto en el plano individual como social. Por un lado, en la era de las noticias falsas, cuesta imaginar las posibilidades de manipulación que se abren hacia delante. Por otro, la administración de justicia hoy se basa en el uso de pruebas como grabaciones de audio, videos o en testimonios de lo que alguien dice haber visto.

¿Qué pasará en el mundo del “ver para creer” cuando ya no podamos creer en nada de lo que vemos? ¿En qué basaremos entonces nuestras convicciones cuando toda evidencia material pueda ser digitalmente creada o alterada?

Esta nota fue publicada en la Revista La Nación el 26 de noviembre de 2017
Foto: Fragglerocks 

El arma secreta de los humanos contra los robots

Posted on by Santiago B.

Un mes atrás perdí mi billetera. Adentro tenía mis documentos, mi tarjeta de crédito y credenciales varias. Antes de dar todo por perdido decidí esperar unas horas para ver si quien la encontrara se contactaba conmigo para devolverla. Y felizmente así sucedió. Esa misma noche, después de pasar por varias manos, una persona amable la dejó en mi casa.

Como precaución, decidí llamar a la empresa que emitió mi tarjeta para chequear si había sido usada. Después de navegar un buen rato por varios larguísimos menús de opciones que intentaron ahorrar dinero negándome el acceso a una persona, logré que me atienda un ser humano. Le expliqué la situación y le pedí que me dijera si se registraban consumos a mi nombre desde la hora en que había perdido la billetera. Con un tono metálico y monocorde me respondió: “Nuestro horario de atención es de 8 a 20. Después de esa hora consulte en la web.” Insistí. Después de todo sabía que los sistemas no dejan de funcionar a las 20 y que seguramente él podía acceder a la información que yo necesitaba. Una vez más, con el mismo tono de voz me recitó una por una las mismas palabras: “Nuestro horario de atención es de 8 a 20. Después de esa hora consulte en la web.” Muy frustrado, tuve ganas de levantar la voz pero enseguida pensé que no debía agarrármela con él porque esa mala atención no era culpa del pobre telemarketer. ¿O si?

Los trabajos del futuro

Posted on by Santiago B.

Imaginate que recibís una carta anunciándote que vas a competir en los próximos Juegos Olímpicos. ¡Ya está! Tenés tu lugar asegurado en Tokio 2020. Pero hay una salvedad: no se sabe aún en qué disciplina te tocará competir. Eso se decidirá en un sorteo el día anterior al comienzo de los Juegos y puede tocarte cualquier alternativa: sea tiro al plato, levantamiento de pesas, maratón, lucha grecorromana o clavado desde un trampolín. ¿Cómo te prepararías para esa competencia?

 

Ese es el desafío que enfrentamos hoy todos con respecto a los trabajos del futuro.

El peligroso racismo de las inteligencias artificiales

Posted on by Santiago B.

Con el avance vertiginoso de la inteligencia artificial, más y más aspectos de nuestra vida comienzan a ser regidos por decisiones tomadas por máquinas, sin intervención humana. Como ejemplo, gran parte de las operaciones ejecutadas diariamente en los mercados de capitales son resultado de instrucciones emitidas por computadoras que analizan miles de variables para decidir cuál es el momento ideal para comprar o vender una determinada acción, un método conocido como “trading algorítmico”.

De a poco las máquinas van afectando áreas más sensibles: la aparición de ciertas publicidades o noticias al navegar la web, y no de otras, influencia las cosas que consumimos, la información que recibimos, las opiniones que nos formamos. Cuestiones que pueden afectar fuertemente nuestro futuro, como la posibilidad de acceder o no a un crédito bancario, o de ser seleccionado o no para un empleo, van dejando de ser definidas por personas y quedando en manos de sistemas.

Para quienes somos un tanto escépticos respecto de la naturaleza humana este avance es motivo de esperanza: confiamos en que decisiones tomadas de esta manera nos libren de la irracionalidad, la arbitrariedad y el prejuicio que impregnan muchos de los criterios humanos a la hora de escoger entre opciones.

Sin embargo, estas expectativas acaban de toparse con un obstáculo inesperado. Por la manera en que estos sistemas son construidos, en muchas áreas están resultando más discriminadores y racistas que el peor de los humanos. Como mencioné hace un tiempo en mi columna “Computadoras que aprenden”, las inteligencias artificiales más avanzadas no son programadas por personas sino “entrenadas” en base a datos. Por ejemplo, para desarrollar un software que permita hacer selección de personal, se lo alimenta con millones de CVs reales y se le indica qué candidatos fueron escogidos. La máquina analiza ese volumen descomunal de datos y extrae los criterios, tanto obvios como sutiles, que llevaron en el pasado a que una persona sea elegida. Basta ahora darle un CV para que la computadora pueda decidir si debe contratarse o no a ese postulante.

El problema surge porque esas enormes bases de datos acarrean dentro todos los sesgos y prejuicios que los humanos tenemos. Si en las entrevistas habitualmente se privilegia la contratación de hombres, personas de raza blanca o de clase acomodada, las computadoras repiten y amplifican estos criterios injustos, librándonos además de la culpa al no ser nosotros quienes tomamos esas decisiones y al mantener ocultos los criterios utilizados para la resolución positiva o negativa de cada caso.

Los invito ahora a hacer un experimento impactante: si uno realiza una búsqueda en Google Imágenes que diga en inglés “peinados de mujeres profesionales” (“women professional hairstyles”) el resultado es ver mujeres atractivas con peinados agradables.  Si se hace ahora la búsqueda contraria para apariencias poco profesionales (“women unprofessional hairstyles”), previsiblemente aparecen peinados desordenados. Pero hay un dato sorprendente: las mujeres que aparecen en la primera búsqueda son casi todas blancas. Las de la segunda ¡casi todas negras!

No debemos desanimarnos: en breve las computadoras podrán tomar mejores decisiones que nosotros y nos ayudarán a conducir mejor nuestra vida en casi cualquier terreno. Pero para que esto suceda será necesario ser cuidadosos a la hora de desarrollar los sistemas para protegerlos de los prejuicios raciales, de género y sociales que contaminan las arbitrarias decisiones humanas actuales.

Foto: Google.com