Los Peligros de Automatizar la Conexión Humana

---

En la leyenda de Fausto, el erudito entrega su alma a Mefistófeles a cambio de conocimiento ilimitado y placeres mundanos, sólo para descubrir que el precio de su nueva omnipotencia es la pérdida de su esencia misma. Hoy estamos firmando nuestra propia versión del acuerdo fáustico con los Modelos de Lenguaje Extensos (LLM).

A cambio de la promesa de una bandeja de entrada vacía y una eficiencia sobrehumana, estamos entregando el "alma" de nuestras interacciones: la atención auténtica. Esta seducción tecnológica ha convencido a varios que podemos delegar el acto de pensar y sentir a un algoritmo. Sin embargo, al igual que en el mito, el beneficio es

una ilusión que esconde una decepción profunda. Lo que comenzó como una ayuda para redactar frases difíciles tiene el riesgo de convertirse en un sistema de "piloto automático" donde la eficiencia termina siendo el verdugo

de la empatía.

Esto se está percibiendo actualmente en los procesos de contratación de personal. Antes un aspirante enviaba una solicitud que entraba a ser parte de un mar de solicitudes y, con suerte, era revisada por un funcionario de recursos humanos quien procedía a hacer una revisión de la misma. Para ayudar con este proceso, las empresas grandes empezaron a usar sistemas automatizados de filtro de hojas de vida que buscan palabras clave y patrones específicos para descartar candidatos de forma masiva. Sin embargo, esto ha desencadenado una carrera armamentista de frialdad algorítmica. En respuesta, los aspirantes han comenzado a usar LLMs para redactar

perfiles y cartas de presentación optimizadas para engañar a la máquina, no para convencer al humano.

El resultado es un ecosistema estéril: una IA escribe una solicitud diseñada para ser leída por otra IA. Una vez el aspirante pasa a la siguiente etapa del proceso, puede encontrarse ahora con una agente conversacional (chatbot)

o avatar de IA que hace un segundo filtro, lo cual tiene clarísimas ventajas en eficiencia, pero puede ser interpretado por algunos candidatos como un mensaje subliminal de parte de la empresa: "No Vales mi Tiempo".

Al respecto encontré un paper titulado 'AI Self-preferencing in Algorithmic Hiring', el cual revela una tendencia alarmante en el mercado laboral moderno: los sistemas de inteligencia artificial utilizados para filtrar candidatos muestran un sesgo sistemático hacia los currículums redactados por otros LLM. Según el estudio, los evaluadores algorítmicos prefieren el contenido generado por máquinas sobre el humano en un rango de entre el 67% y el 82%, sugiriendo que la autenticidad humana se está convirtiendo, irónicamente, en una desventaja competitiva frente a

la optimización sintética.

Los investigadores descubrieron que los LLMs tienden a preferir currículums generados por ellos mismos o por modelos similares, por encima de los escritos por humanos, incluso cuando la calidad del contenido está controlada (es decir, los curriculum de humanos estaban escritos correctamente). Esto crea un bucle de retroalimentación donde el éxito de un candidato no depende solo de sus habilidades, sino de qué tan bien su LLM de redacción se alinea con el modelo usado en el reclutamiento de la empresa, penalizando injustamente la escritura humana auténtica.

La deshumanización del vínculo

Aparte del ejemplo del mundo de contratación laboral, el mundo literario viene sintiendo también el impacto del abuso de los LLM para producir masivamente “obras literarias” que en realidad son mazacotes de palabras con una conexión temática que mezclan conceptos, términos, y clichés presentes en sus modelos de entretenimiento, pero que en realidad carecen de sentido artístico, informativo o académico. Un caso famoso de esto sucedió en febrero de 2023, cuando la revista Clarkesworld, conocida por su rigurosa selección de historias y su compromiso con la calidad literaria, se vio obligada a suspender temporalmente la recepción

de cuentos e historias para revisar. El motivo fue un aumento exponencial en el número de envíos de cuentos evidentemente generados por ChatGPT. La avalancha de textos mediocres y carentes de alma consume recursos valiosos y escasos, como lo es el tiempo de revisión de un empleado para filtrar lo bueno, lo mediocre, lo malo, y ahora, lo artificial.

Debo confesar que me siento un poco hipócrita haciendo esta pieza de opinión denunciando el uso de LLMs para generar contenido escrito cuando en realidad yo soy un asiduo usuario de estas herramientas. Creía que con la mejora de modelos iba a poder generar un artículo de buena, o al menos decente, calidad con un simple prompt personalizado y un archivo adjunto de todos mis escritos a manera de entrenamiento. La realidad es que los resultados terminan siendo una serie de ideas repetitivas o inconexas, que no van a ningún lado pero se ven de una manera impecable. La LLM adiciona vocabulario fino, usa punto y coma, guiones largos, negrillas, y usa demasiadas listas si tiene que enumerar ideas. La LLM añade analogías o palabras que yo haya usado en otros artículos así no tengan sentido en el contexto. ¡Al final tratar de arreglar el artículo producido termina siendo el mismo esfuerzo que haberlo hecho solo! Debo confesar que esta frustración fue parte de la inspiración para escribir esta pieza, y en sí me sirvió para reflexionar sobre el uso que le estoy dando a estas herramientas, en especial para el proceso de toma

de decisiones. Lo cual me llevó a reflexionar sobre…

Una computadora no puede rendir cuentas

En los años 70, un manual de entrenamiento de IBM retrató una máxima que se ha vuelto legendaria en el mundo

de la computación: "Una computadora no puede rendir cuentas, por lo tanto no puede tomar una decisión".

Varios profesionales que no estaban familiarizados con esta idea se han dado cuenta a las malas que cuando un LLM alucina una promoción fantástica que la compañía nunca concibió o promete un precio ridículamente bajo que ningún funcionario de la empresa aprobó, el interlocutor tiene todas las herramientas legales necesarias para exigir que la empresa honre la promesa de su agente.

Si en Cyte programasemos un agente

para escribir un artículo de manera automatizada cada semana y así “quitarnos el peso de encima” de tener que escribir, estaríamos mandando el mensaje a nuestros lectores “aquí relegamos las funciones humanas a una máquina”, lo cual va totalmente en contra de nuestra filosofía. Los LLM han sido potenciadores en la resolución de problemas como bugs, demoras, vulnerabilidades, y en el caso de los artículos, ayudar con la investigación de los mismos, dar ideas para superar el bloqueo creativo que suele venir cuando se quiere escribir pero no se sabe sobre qué. Pero creer que el factor humano puede ser destilado en un archivo de configuración o un prompt (“escribe un programa seguro y no cometas errores!”) sería claudicar el rol humano en la sociedad. En nuestra empresa la filosofía principal es y será que las herramientas son eso, herramientas, más no un reemplazo del profesional.