Ideas

El sesgo del diseñador

¿Qué es?

Los diseñadores somos humanos, tenemos nuestras preferencias y nuestros prejuicios y creemos un montón de cosas sin una justificación detrás. Son simplemente cosas que hemos leído, escuchado y experimentado y las hemos incluido en nuestra maleta de modelos mentales y reglas a la hora de diseñar. Asociamos el rojo al peligro o el negro al luto como resultado de vivir en una sociedad y contexto que usa esos colores en aplicaciones concretas.

Tener prejuicios, en un sentido neutro de creencias que son previas a tomar a una decisión, no es malo, de hecho, es inevitable; si tuviéramos que analizar racionalmente todas y cada una de las decisiones que tomamos, el resultado final sería una parálisis por análisis.

El problema es que esa visión, ese horizonte de sentidos que define nuestra interacción con el mundo, esté sesgada y distorsione la realidad.

El psicólogo y Premio Nobel de Economía, Daniel Kahneman, ha estudiado los mecanismos de sesgos para observar cuándo son beneficiosos y cuándo son problemáticos. Según Kahneman, a la hora de analizar un problema, nuestra mente puede adoptar dos modos: uno racional —deliberativo, que analiza los pros y contras de un problema hasta encontrar una solución que satisfaga— y uno intuitivo —directo, donde la solución surge de forma espontánea sin necesidad de análisis—. Calcular la órbita de un satélite artificial o decidir qué carrera estudiaremos no son problemas que podamos dejar a la intuición, sino que es vital desarrollar un proceso de argumentación y análisis para tomar esa decisión. Pero la mayoría de pequeñas decisiones que tomamos día a día, cotidianas o profesionales —desde decidir si es seguro cruzar la calle aunque el semáforo de peatones esté en rojo o decidir qué tipografía irá mejor para un logotipo— son decisiones que tomamos de forma prerreflexiva desde la intuición.

El problema surge, nos dice Kahneman, cuando un problema que debería solucionarse con un proceso racional complejo se simplifica y nos guiamos por la intuición, aunque esta sea claramente insuficiente, es entonces cuando aparece un sesgo, cuando no estamos pensando con propiedad.

Pensemos en el hecho de votar en unas elecciones municipales. Se trata de un problema eminentemente complejo: hay que considerar cómo es nuestra ciudad, qué cosas nos parecen bien y cuáles son problemáticas. Deberíamos examinar los programas de cada candidato con detalle y ver cuál se ajusta mejor a nuestra idea de ciudad, así como procesar hasta qué punto podemos tomar su programa en serio, recordar actuaciones anteriores de los alcaldes, etc.

Pero eso es una tarea compleja que consume mucho tiempo. Así pues, la mayoría de nosotros simplificamos el problema y lo sustituimos por otro que podamos hacer de manera automática. Así, miramos las fotos de los alcaldes y decidimos por su rostro quién nos parece de más confianza. Una persona machista aplicará automáticamente un sesgo de género y eliminará como posibles candidatos a las mujeres, pues pensará que no están preparadas para gobernar; otra persona que tiene el sesgo de creer que los políticos siempre mienten acabará escogiendo al más populista, pues le parecerá que es un político «auténtico» que dice lo que piensa.

La simplificación de un problema complejo para reducirlo a un sesgo o un prejuicio sucede también a menudo en diseño, es lo que llamamos el sesgo del diseñador.

Formas de aplicación

Cualquier interfaz o mecanismo de interacción está diseñado, es decir, la persona que lo crea parte de un problema que hay que resolver e incluye en el mecanismo unos valores determinados asociados a los resultados que el producto generará.

Un diseño nunca es neutro, pues siempre tendrá efectos sobre las personas que lo usan y el entorno en que se encuentran. Algunos de esos efectos serán positivos, otros pueden ser negativos, muchos de ellos estarán buscados, pero inevitablemente habrá efectos inesperados. Considerar todo este proceso es complejo, de manera que la tentación de tirar de algún sesgo para hacer el trabajo más sencillo y ágil es inevitable.

El diseño centrado en el usuario y la UX parte de la premisa de hacer diseño pensando en las personas, y los diseñadores deben hacer el esfuerzo empático de ponerse en la piel de la persona que interactúa con el diseño, pensar qué busca y cómo pueden facilitarle la tarea lo mejor posible.

Hay muchos tipos de personas en el mundo con diferentes preferencias, capacidades sensoriales y de movimiento, creencias religiosas, valores éticos, gustos musicales, orientación sexual, etc. ¿Cómo podemos saber lo que necesitan cada una de ellas? Es una tarea imposible, de manera que en el diseño es común imaginar que somos una «persona tipo» y diseñar la interacción que solucionaría el problema tal y como lo vemos nosotros mediante unos mecanismos de interacción que nos resulten fáciles de entender.

Esta transformación en «persona tipo» es ciertamente posible, pero requiere un proceso de racionalización importante. Hemos de proyectar un «velo de ignorancia» sobre cómo nos vemos y olvidar si somos hombre o mujer, nuestro grado de familiaridad con las tecnologías digitales, si tenemos o no alguna discapacidad, etc. Debemos evitar así la tentación de dejarnos llevar directamente por la intuición y hacer el diseño que nos gustaría a nosotros, pues inevitablemente estará lleno de sesgos que harán que personas diferentes a nosotros no tengan una experiencia informativa y placentera al interactuar con nuestra interfaz.

¿Cómo afecta al diseño?

Si no somos cuidadosos, podemos cargar nuestro diseño de sesgos. A continuación enumeramos los sesgos más comunes:

  • Sesgo de género. Nuestra sociedad define una serie de roles predeterminados y diferenciados según el género: define unos estándares de normalidad con un hombre y una mujer «tipo» que no siempre se ajustan a la realidad. Aunque no seamos personas conscientemente machistas, si no somos cuidadosos, acabaremos reproduciendo esos sesgos en nuestros diseños. Una perspectiva de género ciertamente ayuda, pero ni es inevitable que un hombre cometa sesgos de género ni ser mujer garantiza no tomar decisiones machistas en un proceso de diseño.

Hay sesgos de género obvios, como cuando una persona que diseña un videojuego para chicas lo llena de príncipes, princesas y diferentes tonalidades de rosa; y otros menos obvios, como usar estereotipos de género cuando ponemos ejemplos de cómo hombres y mujeres utilizarán los diseños o utilizar lenguaje sexista en una aplicación.

Así, existe toda una serie de estándares en diseño que son claramente sexistas, y si no los cuestionamos, repetiremos ese sesgo. Que algo sea común en diseño de interacción no significa que sea correcto ni que no esté sesgado. Por ejemplo: ¿por qué los asistentes virtuales, como Siri, Alexa o los GPS tienen en su mayoría voz de mujer? Ciertamente, muchos de ellos pueden cambiarse por una voz de hombre, pero es una opción escondida en una pantalla general de preferencias y en buena parte de ellos la persona que usa el sistema acaba volviendo a la voz de mujer, pues descubre que la voz de hombre está menos desarrollada y suena más robótica que la original de mujer.

Si no se cuestiona este sesgo, se está aceptando que el rol de asistente (proporcionar un servicio) es algo que de manera natural deben hacer las mujeres. De hecho, más que aceptarlo, se está fomentando ayudando a que en la sociedad se replique un gesto de género. Una niña que empieza a entender el mundo en el que vive y observa que el rol de la mujer sirviente del hombre se repite incluso en modernas tecnologías digitales como los asistentes virtuales acabará pensando que ese rol es inevitable.

  • Sesgo cultural. Inevitablemente pensamos en las personas que nos rodean y nuestro entorno desde una perspectiva social y cultural específica. Al final, las personas compartimos una serie de preferencias, intereses y visiones, pero muchas de nuestras preferencias y modos de interactuar con el mundo vienen definidas por nuestra cultura, y otros países y sociedades presentan modos diferentes de encarar las mismas situaciones.

En la época actual, en la que los diseños son cada vez más globales, es fácil olvidar que personas de diferentes culturas, con visiones y prácticas diferentes, van a utilizar nuestros diseños e interfaces, y no todas compartirán nuestra cosmovisión. No es necesario imaginar que nuestra interfaz va a usarse en Myanmar o Sudáfrica, es suficiente recordar que en nuestra ciudad, además de la ciudadana tipo como nosotras, vive también gente de otras culturas y orígenes y que esa «ciudadana tipo» finalmente no existe.

Hay una historia —quizás apócrifa— en el mundo del marketing muy relevante para entender este problema. Había una vez una compañía que fabricaba bebidas azucaradas que tenía un anuncio que funcionaba muy bien y que creaba gran impacto, se trataba de un cartel en el que se veía la foto de un niño llorando a la izquierda, en el centro había una botella de la bebida azucarada en cuestión y a la derecha el niño sonriendo de oreja a oreja. Se consideró un anuncio «universal», pues no utilizaba palabras, solo las imágenes interculturales y de gran efecto emotivo de un niño triste frente a un niño sonriente y la imagen de la bebida que se quería patrocinar. Viendo el anuncio como algo universal, se lanzó una campaña global. El anuncio funcionó bastante bien en general, pero fue un desastre absoluto en los países árabes. ¿La razón? En esos países no se lee de izquierda a derecha, como en Europa o EE. UU, sino al revés, de derecha izquierda, de manera que las personas de esos países interpretaban que había un niño contento que después de interactuar con la bebida se ponía triste.

  • Sesgo del profesional. Es cuando olvidamos que no todo el mundo está familiarizado con tecnologías, conceptos, métodos e interfaces como nosotros. Imaginamos que un «menú hamburguesa» es algo obvio, pero olvidamos que hay usuarios que por diversas razones —edad, capacidad económica, discapacidad cognitiva, etc.— tienen muy poca interacción con páginas web, de manera que no tienen por qué entender que en esas rayas que hay en la esquina superior derecha van a encontrar un menú con el que interactuar.

A las personas responsables de la ingeniería del software les encanta explicar historias sobre lo que consideran «estupidez» de sus usuarios y cuentan jocosas anécdotas —para ellos— de personas que pensaban que la bandeja del lector de CD era una plataforma para sostener la taza de café, o que cuando les decían que pusieran el ratón sobre la ventana colocaban el ratón físicamente sobre la pantalla del ordenador, a la altura en que estaba la ventana en cuestión.

Un profesional de la interacción debería entender que hay todo tipo de accesos a la información y que no hay personas tontas, sino insuficientemente familiarizadas con una tecnología.

  • Sesgo de la «normalidad». La normalidad no existe, cada persona es diferente, pero hemos creado ese fantasma estadístico de la persona normal con una visión «normal», una capacidad motriz «normal», un poder de concentración «normal», gustos sexuales «normales», anatomía «normal», y diseñamos para esas personas. Ese esquema de normalidad era inevitable en un proceso de diseño industrial analógico en el que había que producir en masa, pero las tecnologías digitales son eminentemente plásticas y podemos hacer que se adapten a todo tipo de casuísticas, necesidades y preferencias.

Un buen diseñador no puede dar por supuesto ninguna capacidad específica y ha de hacer el esfuerzo empático de imaginar personas con capacidades sensoriales, cognitivas o de movimiento diferentes a las suyas. ¿Cómo recibiría nuestro diseño una persona que tiene problemas a la hora de distinguir el rojo y el verde? ¿Y podría seguir alguien con autismo el proceso de navegación por la web que estoy imaginando? ¿Las imágenes que ofrezco de relación interpersonal para ilustrar una aplicación de citas en línea es realmente inclusiva o estoy simplemente reforzando la idea de relación heterosexual monógama?

Es importante no ver este sesgo y su desactivación como un sistema de clasificación. No se trata simplemente de diseñar para ciegos, inválidos o discapacitados cognitivos. Aparte del ejercicio discriminatorio que implica clasificar a las personas en categorías concretas, la realidad es que las capacidades sensoriales de movilidad y cognitivas de las personas «normales» en realidad fluctúan mucho en función del contexto. Un producto digital pensado para personas con problemas de visión ayudará también a alguien con presbicia que se ha dejado las gafas de leer en la oficina. Un protocolo de diseño de interfaces para personas con dificultades de aprendizaje puede resultar muy útil para diseñar una interfaz para que doctores y enfermeros que llevan demasiadas horas despiertos puedan introducir datos sobre qué medicación necesita un paciente sin cometer errores.

¿Cómo afecta a la interacción con el usuario?

Podemos distinguir dos grandes grupos en la forma en que los sesgos afectan al usuario:

En primer lugar, tenemos la situación en la que la persona que interactúa con el diseño sesgado es consciente del diseño. Un progenitor compra un videojuego para su hija de doce años y descubre que es un edulcorado juego lleno de princesas, unicornios y muffins de color rosa, y que el juego consiste básicamente en comprar vestidos y probárselos. Una persona que es ciega al color entra en una web con la intención de comprar las entradas para un concierto y descubre que reconocer diferentes colores es una acción requerida para conseguir esas entradas.

La reacción dependerá de cada persona: habrá quien se sienta engañada y protestará enérgicamente, otra se sentirá herida al ser menospreciada, otra simplemente desistirá de utilizar el servicio y buscará otro que esté menos sesgado, también habrá quien decida dar una lección a la persona responsable de ese diseño y despotricará contra ella en las redes sociales y, en el mejor de los casos, tendremos a alguien comprensivo que advertirá a los responsables del error cometido y les dará indicaciones para una mejora.

Estamos así ante un diseño fallido en el que los usuarios son conscientes de que hay un sesgo y que ese producto, aplicación, interfaz, etc., no es para ellos. Las reacciones serán variadas, pero la inmensa mayoría decidirá no utilizar más ese servicio y la reputación de los diseñadores se resentirá por ello.

Esta situación es ciertamente enojosa, pero al menos el usuario implicado se ha dado cuenta y el diseñador puede tener feedback objetivo de que su diseño está sesgado.

La situación es más compleja y preocupante cuando la persona que usa el servicio está sometida al sesgo, pero no es consciente de ello. Simplemente siente que algo no funciona, que está incómoda.

Así, podemos imaginar una mujer interesada en un videojuego, pero que se va sintiendo cada vez más poco motivada a jugar, las situaciones no le dicen nada y después de cuatro pantallas lo deja aburrida. O una persona mayor que lleva veinte minutos intentando pedir un certificado en línea, finalmente desiste, pues el mecanismo de interacción le resulta incomprensible y, además, le obliga a quitarse y ponerse las gafas de leer por el peculiar juego de tamaños tipográficos que ofrece la web.

En este caso, el resultado final es el mismo: una parte relevante de las personas que deberían usar el servicio acaban frustradas y abandonan. Es un fracaso en diseño de interacción, y lo peor es que el diseñador no sabe realmente por qué su diseño no funciona.

Afortunadamente, todos estos sesgos —y muchos otros— pueden evitarse si, en lugar de dejarnos llevar solo por la intuición, reflexionamos y recopilamos datos que nos ayuden a detectarlos. A continuación se describen algunas de las estrategias que se pueden llevar a cabo:

  • Investigar qué estereotipos funcionan actualmente, detectarlos antes de empezar el diseño y asegurarnos de no caer en ellos. Esta investigación puede llevarse a cabo de manera intuitiva examinando diseños previos en busca de patrones ocultos, o mediante ejercicios específicos como la transformación narrativa, en la que los diseñadores clarifican los intereses, preferencias y sesgos que intentan capturar mediante historias. Se establece así una dinámica de discusión en grupo en la que cada participante describe sus mecanismos y procesos de agencia y se puede establecer qué cosas funcionan, qué cosas no y cuándo surgen sesgos en el
  • Utilizar herramientas como el user journey y auditar el diseño en diversas situaciones: en un entorno con poca luz, en un móvil con una pantalla minúscula usado por una persona que tiene mucha prisa, que ha dormido poco o que tiene un importante dolor de cabeza. Es también recomendable pensar en situaciones en las que una persona se ha sentido discriminada y en los mecanismos de discriminación. Pueden aplicarse técnicas como el premortem, en el que en lugar de pensar que todo va a ir bien, se imagina que el proceso de diseño ha ido de la peor forma posible para detectar qué sesgos pueden haber ayudado a que el sistema funcione
  • Testear el diseño con diferentes tipos de personas y ver cómo Ellas advertirán de posibles sesgos si los detectan, y si no los detectan pero se comprueba que el diseño no está funcionando bien, se puede investigar para detectar el sesgo. Hace años era común en procesos de diseño inclusivo de espacios crear maquetas en tres dimensiones para que personas ciegas o con importantes problemas de visión pudieran hacerse una idea de cómo orientarse. Sin embargo, cuando se invitaba a esas personas a probar las maquetas, indicaban que no funcionaban. La forma en que representamos un espacio mediante el tacto es muy diferente al acceso que tenemos a los datos desde la visión, pues si una persona con visión estándar mira un plano (o la maqueta que hace las veces de plano), puede ver que para llegar al lavabo es necesario tomar el segundo pasillo hasta el final, torcer a la izquierda y luego a la derecha. La visión le permite tener una comprensión global del espacio; en cambio, si seguimos una maqueta por el tacto, el acceso es secuencial, de manera que resulta mucho más complejo representarnos una ruta.

Testear con usuarios es realmente importante. Una mujer puede detectar un sesgo de género mejor que un hombre porque suele ser víctima de ese sesgo. Una persona en silla de ruedas detectará problemas de movilidad en una estación de metro que escaparían a quienes pueden andar. No hay nada mejor que una pluralidad de puntos de vista para detectar diferentes sesgos.

Diagrama

Referencias

Kahneman, D. (2012). Pensar rápido, pensar despacio. Debate.

Klein, G. (2007). «Performing a project premortem». Harvard business review (núm. 85 (9), págs. 18-19).

«Why your design is biased»

https://uxdesign.cc/why-your-design-is-biased-f25b300f8559

«The Cognitively Biased Designer»

https://medium.com/swlh/the-cognitively-biased-designer-7e6561d6f89a

«Majordomes virtuals: per què els nous assistents també són dones?»
https://www.ara.cat/societat/majordomes-assistents-virtuals-tambe-dones-siri-alexa-estereotips-genere_0_2189181260.html

«Narrative Transformation: Designing work means by telling stories»

https://www.researchgate.net/publication/228735397_Narrative_Transformation_Designing_Work_Means_by_Telling_Stories