El miedo a las máquinas

19/04/2022 5 min 0 Comentarios mujerespublico
Asociación de Mujeres en el Sector Público - El miedo a las máquinas

Las personas a las que nos gusta la tecnología tendemos a pensar que las máquinas sirven para todo.

Cuando empecé en el mundo laboral tenía un jefe que repetía siempre “la máquina nunca se equivoca”.
No se realmente si hablaba de él mismo, de su cabeza, que he de reconocer que era privilegiada, o del ordenador con el que calculaba las cosas.
Pero ¿es verdad esta afirmación? ¿las máquinas no se equivocan?
Decimos que las máquinas aprenden, pero si el anterior paradigma fuese correcto, las máquinas no aprenden de sus errores pues no se equivocan.


Entonces, ¿cómo aprenden las máquinas?

Hay una obsesión porque las máquinas imiten la realidad que las rodea. Buscamos creaciones que imiten el cerebro humano e, incluso, que lo superen.
Buscamos resolver cuestiones complejas, que antes se decidían a partir de la experiencia de personas expertas en dicha área, con inteligencias digitales, con algoritmos.
Pero ¿puede un algoritmo ser más justo o ético en la toma de decisiones que una persona? ¿Son ambas decisiones libres de sesgos? Y en caso negativo, ¿cuál de las dos decisiones tiene más sesgos?
Podemos llegar a pensar que una persona puede ser menos justa ante una decisión pues tiene prejuicios, pero los algoritmos no son tampoco neutros pues es difícil que los datos que sirven para entrenarlos no tengan sesgos.
Ahora bien, el algoritmo no cambia de decisión según el momento. Si las variables que le han llevado a establecer una decisión no cambian, su decisión tampoco, mientras que las decisiones que toma una persona dependen muchas veces del momento, estado de ánimo, entorno, circunstancia personal…
digamos que a la persona le afectan los prejuicios o sesgos, como al algoritmo, pero también lo que podríamos denominar ruido.
En un algoritmo el sesgo puede ser negativo o neutral. A veces queremos incluso un sesgo positivo para inclinar la balanza hacia un lado. ¿eso lo hace más ético o justo?
Leía recientemente que a un algoritmo que tomase decisiones automatizadas o realizase predicciones debería exigirse que tuviera sesgo positivo, para que tuviese un efecto favorable para la sociedad.
Hasta ahí parece que estamos de acuerdo. El problema venía con el ejemplo de sesgo positivo que usaban para explicar este razonamiento. Planteaban que “el que haya un mayor número de enfermeras que enfermeros en los hospitales podría ser un sesgo positivo si quedara demostrado que ellas tienen más cualidades empáticas y de atención con los pacientes”.

¿Necesitan sesgo positivo los algoritmos? No te pierdas este post de Saioa Leguinagoicoa García Jefa del Servicio de Estrategia Digital del Gabinete de Estrategia Digital y Corporativa en Diputacion Foral de Bizkaia.Click to Tweet


Algoritmo con sesgo positivo

Y justo leyendo esto es donde me saltan todas las alarmas. Un supuesto algoritmo de sesgo positivo que se basa en una idea que perpetúa los roles o estereotipos de género que asocian el cuidado con el género femenino. ¿Es eso un sesgo positivo o negativo?
Estos interrogantes me llevan a pensar que al tratarse de personas las que programan los algoritmos, si estas no son conscientes de sus propios sesgos ¿Cómo van a ser conscientes las maquinas?
Otro problema que veo es que se nos haga creer que las máquinas puedan resolver cualquier problema de forma sencilla. ¿Es más potente el algoritmo que la intuición de una persona experta derivada de su experiencia profesional? ¿De quién te fiarías más? Quizás la respuesta viene porque uno no sustituye al otro, sino que lo complementa. Quiero pensar que el futuro será más justo y más ético si la máquina orienta a la persona experta que contextualiza este resultado y con ello resuelve el problema.
Según el libro The Social Construction of Reality, publicado en 1966, la realidad es un proceso sofisticado y subjetivo que se ve afectado por múltiples eventos contextualizados, como son la experiencia, la interacción, el lenguaje y la herencia persona y social. Con una definición tan compleja ¿puede ser consciente un algoritmo de lo que es la realidad? El algoritmo tiene datos, interacciones, pero ¿tiene experiencia? Es posible que tenga la herencia personal y social de quien lo ha programado y que con ellos construya su propia realidad.
Necesitamos por tanto algoritmos cada vez mejores que complementen el conocimiento humano y que aprendan en el camino.
Las máquinas nos asustan. Pero deberíamos preguntarnos ¿dan más miedo las máquinas o las personas que hay detrás de las máquinas?

 

Saioa Leguinagoicoa García

Jefa del Servicio de Estrategia Digital del Gabinete de Estrategia Digital y Corporativa en Diputacion Foral de Bizkaia

¿Te ha gustado? Compártelo

ESCRITO POR Mujeres en el Sector Público

Déjanos tu comentario

Tu dirección de correo electrónico no será publicada.

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

No hay comentarios en El miedo a las máquinas

Recibe toda la información de Mujeres en el Sector Público

Si deseas estar informada de nuestras actividades y eventos, no dudes en seguirnos en redes sociales y apuntarte a nuestra lista de correo

Mujeres en el Sector Publico - Suscripcion Newsletter

Apúntate a nuestra lista de correo y no te pierdas nada

Ir arriba