Los sistemas modernos de IA no solo procesan información, sino que sistemáticamente “juzgan” a las personas de formas que se parecen a la confianza humana, pero con diferencias importantes. La IA puede imitar la estructura del juicio humano, pero no piensa como los humanos, y esa brecha importa cuando estos sistemas se usan para tomar decisiones reales sobre las personas.
En un mundo donde la inteligencia artificial está moldeando silenciosamente quién es contratado, quién recibe préstamos e incluso cómo se toman las decisiones médicas, surge una nueva pregunta: ¿Cómo nos juzga la IA?
Un nuevo estudio del profesor Yaniv Dover y Valeria Lerman de la Universidad Hebrea sugiere que la respuesta es tanto tranquilizadora como profundamente inquietante.
Basándose en más de 43.000 decisiones simuladas junto a alrededor de mil participantes humanos, la investigación revela que los sistemas de IA más avanzados de la actualidad, incluidos modelos similares a ChatGPT y Gemini de Google, no se limitan a procesar información. Juzgan a las personas. Y al hacerlo, parecen formar algo que se parece mucho a la “confianza”.
Pero esa confianza efectiva no funciona como la nuestra.
El estudio situó tanto a humanos como a IA en situaciones familiares: decidir cuánto dinero prestar a un pequeño empresario, si confiar en una niñera, cómo valorar a un jefe o cuánto donar a un fundador de una organización sin ánimo de lucro.
En estos escenarios, surgió un patrón claro.
Tanto los humanos como la IA preferían a personas que parecían competentes, honestas y bienintencionadas. En otras palabras, las máquinas parecían captar los ingredientes básicos de la confianza; competencia, integridad y benevolencia, igual que nosotros.
“Esa es la buena noticia”, dice el profesor Yaniv Dover. “La IA no toma decisiones al azar. Captura algo real sobre cómo los humanos se evalúan entre sí”.
Pero el parecido termina ahí: si miras más de cerca, las diferencias se vuelven llamativas.
¿Es esta una buena persona? Los humanos tienden a formar una impresión general mezclando múltiples rasgos en un solo juicio intuitivo y holístico.
La IA hace algo muy diferente.
Descompone a las personas en componentes, puntuando competencia, integridad y amabilidad casi como columnas separadas en una hoja de cálculo. El resultado es un estilo de juicio más rígido, “siguiendo las normas”, coherente, pero menos humano.
“La gente en nuestro estudio es caótica y holística en cómo juzga a los demás”, explica Valeria Lerman. “La IA es más limpia, más sistemática y eso puede llevar a resultados muy diferentes”.
No obstante, surgió un patrón preocupante de sesgo amplificado.
En escenarios financieros, como decidir cuánto dinero prestar o donar, los sistemas de IA mostraron diferencias consistentes y a veces considerables basadas únicamente en rasgos demográficos.
Por ejemplo:
- A los individuos mayores se les dieron con frecuencia resultados más favorables, aunque en algunos casos apareció el patrón contrario.
- La religión también tuvo un efecto significativo en los resultados, especialmente en los monetarios.
- El género también influyó en decisiones en ciertos modelos y escenarios.
Estas diferencias aparecían incluso cuando todos los demás detalles sobre la persona eran idénticos.
“Los humanos tienen prejuicios, por supuesto”, dice el profesor Dover. “Pero lo que nos sorprendió es que los sesgos de la IA pueden ser más sistemáticos, más predecibles y, a veces, más fuertes”.
Otra idea clave: no existe una única “opinión sobre la IA”.
Diferentes modelos a menudo hacían distintos juicios sobre la misma persona. En algunos casos, un sistema recompensaba un rasgo que otro penalizaba.
Eso significa que la elección del sistema de IA podría influir silenciosamente en los resultados del mundo real.
“El modelo que uses realmente importa”, señala Lerman. “Dos sistemas pueden parecer similares en la superficie pero comportarse de forma muy diferente al tomar decisiones sobre las personas”.
La IA ya se está utilizando para filtrar a los candidatos, evaluar la solvencia, recomendar acciones médicas y guiar las decisiones organizativas.
A medida que estos sistemas pasan de ser asistentes a tomar decisiones, entender cómo “piensan” se vuelve fundamental.
El estudio sugiere que, aunque la IA puede imitar la estructura del juicio humano, lo hace de una manera más rígida, menos matizada y con sesgos que pueden ser más difíciles de detectar.
Los investigadores enfatizan que sus hallazgos no son una advertencia contra la IA, sino más bien un llamado a la concienciación.
“Estos sistemas son poderosos”, dice Dover. “Pueden modelar aspectos del razonamiento humano de forma coherente. Pero no son humanos y no deberíamos asumir que ven a la gente como nosotros”.
A medida que la IA se integra más en la vida cotidiana, la cuestión ya no es si confiamos en las máquinas. Es si entendemos cómo confían en nosotros.
El artículo de investigación titulado “A closer look at how large language models ‘trust’ humans: patterns and biases”, ya está disponible en Proceedings A of the Royal Society.
La investigación se realizó en el nuevo “Centro de Investigación en IA en Organizaciones”, en la Escuela de Negocios de la Universidad Hebrea.
