Un estudio de la Universidad del Sur de California advierte que el uso masivo de chatbots puede uniformar lenguaje, ideas y creatividad
El crecimiento de los chatbots basados en inteligencia artificial abrió un debate en la comunidad científica. Un grupo de investigadores de la Universidad del Sur de California señaló que el uso cada vez más extendido de estos sistemas podría impulsar un proceso de homogeneización del pensamiento humano.
La advertencia surge de un artículo de opinión publicado en la revista científica Trends in Cognitive Sciences. El trabajo reúne a científicos informáticos y psicólogos que analizan el impacto de los modelos de lenguaje masivos en la forma en que millones de usuarios producen contenido, interpretan información y construyen argumentos.
Los modelos de lenguaje masivos, conocidos como LLM por sus siglas en inglés, se utilizan en la mayoría de tareas cotidianas. Personas de distintos sectores recurren a estas herramientas para redactar textos, preparar informes, estudiar o generar ideas. Este uso masivo llevó a los investigadores a analizar cómo estas tecnologías influyen en los procesos cognitivos.
Zhivar Sourati, científico informático de la Universidad del Sur de California y primer autor del artículo, explicó que cada persona posee una manera particular de expresarse y de interpretar la realidad. Esa diversidad puede disminuir cuando millones de usuarios interactúan con los mismos sistemas.
Sourati afirmó que las personas difieren en su forma de escribir, razonar y observar el mundo. Cuando esas diferencias pasan por los mismos modelos de lenguaje, el estilo lingüístico, las perspectivas y las estrategias de razonamiento tienden a converger. El resultado produce expresiones cada vez más similares entre usuarios que pertenecen a contextos culturales distintos.
La importancia de la diversidad cognitiva
Los investigadores consideran que este fenómeno puede afectar un componente central del progreso humano. La diversidad cognitiva representa la variedad de formas en que las personas interpretan la realidad, elaboran ideas y resuelven problemas. En grupos y sociedades, esa diversidad impulsa la creatividad y favorece la aparición de soluciones innovadoras.
Cuando un usuario utiliza un chatbot para mejorar un texto, el sistema aplica patrones lingüísticos que provienen de los datos con los que fue entrenado. Ese proceso puede producir escritos más claros o estructurados. El mismo mecanismo también tiende a eliminar rasgos individuales del estilo de cada persona.
El equipo señala que este fenómeno puede reducir la individualidad de los textos y debilitar el vínculo entre la persona y su producción creativa. Parte del proceso de elaboración queda delegada en el sistema. Con el tiempo, los usuarios pueden adoptar estructuras de lenguaje y formas de argumentación similares.
Cómo la IA interviene
El trabajo también plantea una preocupación vinculada con la forma en que las personas evalúan la validez de un argumento. Los modelos de lenguaje generan respuestas que presentan razonamientos coherentes y bien estructurados. Este proceso puede influir en lo que los usuarios consideran un discurso confiable o una explicación lógica.
Sourati indicó que el impacto de los modelos de lenguaje no se limita a modificar la manera en que las personas escriben o hablan. Estos sistemas también pueden influir en la definición de lo que una sociedad considera una perspectiva correcta o un razonamiento sólido.
Los modelos de lenguaje se entrenan con enormes volúmenes de datos. Estos contienen textos provenientes de múltiples fuentes digitales. El entrenamiento permite que el sistema identifique patrones estadísticos del lenguaje y los reproduzca cuando genera respuestas.
El problema surge cuando esos datos representan de manera desigual a las distintas culturas y tradiciones intelectuales. Numerosos estudios mostraron que muchos conjuntos de entrenamiento reflejan con mayor intensidad el lenguaje y los valores de sociedades occidentales, educadas, industrializadas, ricas y democráticas.
Este sesgo cultural se conoce en investigación con la sigla WEIRD. El término describe el predominio de perspectivas provenientes de países occidentales en estudios académicos y bases de datos globales. Los investigadores sostienen que los modelos de lenguaje pueden reproducir ese mismo sesgo cuando generan contenido.
El impacto de la inteligencia artificial aparece asimismo en estudios sobre creatividad y trabajo colaborativo. Algunas investigaciones citadas por el equipo mostraron que los usuarios que utilizan chatbots generan más ideas individuales y con mayor nivel de detalle.
Sin embargo, los resultados cambian cuando se observa el funcionamiento de grupos. Los equipos que utilizan inteligencia artificial producen menos ideas y presentan menor diversidad de propuestas en comparación con los grupos que dependen exclusivamente de la interacción humana.
Los investigadores interpretan este fenómeno como un indicio de convergencia cognitiva. Los modelos de lenguaje tienden a orientar a distintos usuarios hacia soluciones similares. Esa dinámica reduce la variedad de enfoques dentro de un grupo de trabajo.
El desafío para el desarrollo de modelos de IA
Los autores sostienen que la interacción frecuente con sistemas que priorizan estructuras lineales podría influir en la manera en que las personas organizan sus ideas y analizan problemas.
Cuando un usuario escribe con la ayuda de un modelo de lenguaje, el sistema suele sugerir continuaciones de frases o posibles respuestas. Muchas personas seleccionan opciones que consideran satisfactorias en lugar de generar alternativas propias.
Este comportamiento puede desplazar gradualmente la iniciativa del usuario hacia el modelo. El proceso creativo se transforma en una interacción donde el sistema orienta el desarrollo del contenido.
Estos efectos no representan un destino inevitable. Para los científicos, el diseño de los modelos de lenguaje puede incorporar estrategias que preserven la diversidad cognitiva.
Su propuesta es que los desarrolladores incluyan de manera deliberada una mayor diversidad lingüística, cultural y conceptual en los datos de entrenamiento. Este enfoque permitiría que los sistemas reflejen la variedad de perspectivas presentes en la experiencia humana global.
Un LLM que presente distintas formas de analizar una situación podría estimular el pensamiento crítico de los usuarios, al ampliar las perspectivas disponibles para analizar problemas complejos.
(fuente: https://www.baenegocios.com/)
