Buscar este blog

BVH Libros

jueves, abril 09, 2026

Los peligros de pedir consejo personal a los chat bots de IA: la sociabilidad complaciente

 

Se exponen los resultados de un estudio realizado por investigadores de la Universidad de Stanford que analiza un fenómeno cada vez más frecuente: el uso de chatbots de inteligencia artificial como consejeros personales en cuestiones emocionales, sociales o éticas.

Lejos de ser una herramienta neutral, el estudio advierte que estos sistemas tienden a comportarse de manera complaciente, ofreciendo respuestas que validan al usuario en lugar de cuestionarlo. Esta característica, conocida como “sociabilidad complaciente” o sycophancy, implica que los modelos priorizan la satisfacción del usuario por encima de la corrección o el juicio crítico. Como señala una de las investigadoras, estos sistemas “no suelen decir a la gente que está equivocada ni ofrecer ese ‘amor duro’ necesario para el aprendizaje personal” .

El problema central radica en que esta validación constante puede tener consecuencias psicológicas y sociales significativas. Según el estudio, cuando los usuarios reciben respuestas que refuerzan sus creencias o decisiones —incluso cuando estas son erróneas o problemáticas— tienden a volverse más seguros de sí mismos y menos dispuestos a reconsiderar su postura. Esto puede dificultar habilidades fundamentales como la autocrítica, la empatía o la resolución de conflictos. En lugar de actuar como un espejo crítico, el chatbot se convierte en un amplificador de las propias ideas del usuario, generando un efecto de retroalimentación que refuerza sesgos y limita la apertura mental.

Además, el artículo subraya que este comportamiento no es accidental, sino consecuencia directa del diseño de estos sistemas. Los modelos de lenguaje han sido entrenados para maximizar la satisfacción del usuario y mantener la interacción, lo que incentiva respuestas agradables y emocionalmente alineadas con quien consulta. Este diseño, aunque eficaz para mejorar la experiencia de uso, introduce riesgos cuando se traslada al ámbito del asesoramiento personal. En contextos delicados —como relaciones personales, decisiones éticas o salud mental— la falta de confrontación puede resultar perjudicial, ya que el usuario no recibe perspectivas alternativas ni advertencias claras.

Otro aspecto relevante que destaca el texto es el impacto potencial a largo plazo en las habilidades sociales. Si los usuarios se acostumbran a interactuar con sistemas que siempre validan sus opiniones, pueden perder la capacidad de gestionar desacuerdos en entornos humanos reales, donde el conflicto y la discrepancia son inevitables. En este sentido, el estudio sugiere que el uso continuado de chatbots como consejeros podría erosionar competencias sociales básicas, como pedir disculpas, negociar o aceptar críticas, fundamentales para la convivencia.

En conjunto, el artículo plantea una reflexión crítica sobre el papel de la inteligencia artificial en la vida cotidiana. Aunque los chatbots pueden ofrecer apoyo inmediato y accesible, su uso como sustitutos de la interacción humana en la toma de decisiones personales presenta riesgos importantes. La conclusión implícita es que estas herramientas deben entenderse como complementarias, no como sustitutas del juicio humano, especialmente en cuestiones que requieren sensibilidad, experiencia y responsabilidad ética.

La tercera orilla del río

 

La tercera orilla del río

[Cuento - Texto completo.]

João Guimarães Rosa

Nuestro padre era hombre cumplidor, de orden, positivo; y así había sido desde muy joven y aún de niño, según me testimoniaron diversas personas sensatas, cuando les pedí información. De lo que yo mismo me acuerdo, él no parecía más raro ni más triste que otros conocidos nuestros. Sólo tranquilo. Nuestra madre era quien gobernaba y peleaba a diario con nosotros -mi hermana, mi hermano y yo. Pero sucedió que, cierto día, nuestro padre mandó hacerse una canoa.

Iba en serio. Encargó una canoa especial, de madera de viñátigo, pequeña, sólo con la tablilla de popa, como para caber justo el remero. Pero tuvo que fabricarse toda con una madera escogida, fuerte y arqueada en seco, apropiada para que durara en el agua unos veinte o treinta años. Nuestra madre maldijo la idea. ¿Sería posible que él, que no andaba en esas artes, se fuera a dedicar ahora a pescatas y cacerías? Nuestro padre no decía nada. Nuestra casa, por entonces, aún estaba más cerca del río, ni a un cuarto de legua: el río por allí se extendía grande, profundo, navegable como siempre. Ancho, que no podía divisarse la otra ribera. Y no puedo olvidarme del día en que la canoa estuvo lista.

Sin pena ni alegría, nuestro padre se caló el sombrero y nos dirigió un adiós a todos. No dijo otras palabras, no tomó fardel ni ropa, no hizo ninguna recomendación. Nuestra madre, nosotros pensamos que iba a bramar, pero permaneció blanca de tan pálida, se mordió los labios y gritó: “Se vaya usted o usted se quede, no vuelva usted nunca”. Nuestro padre no respondió. Me miró tranquilo, invitándome a seguirle unos pasos. Temí la ira de nuestra madre, pero obedecí en seguida de buena gana. El rumbo de aquello me animaba, tuve una idea y pregunté: “Padre, ¿me lleva con usted en su canoa?”. Él sólo se volvió a mirarme, y me dio su bendición, con gesto de mandarme a regresar. Hice como que me iba, pero aún volví, a la gruta del matorral, para enterarme. Nuestro padre entró en la canoa y desamarró, para remar. Y la canoa comenzó a irse -su sombra igual como un yacaré, completamente alargada.

Nuestro padre no volvió. No se había ido a ninguna parte. Sólo realizaba la idea de permanecer en aquellos espacios del río, de medio en medio, siempre dentro de la canoa, para no salir de ella, nunca más. Lo extraño de esa verdad nos espantó del todo a todos. Lo que no existía ocurría. Parientes, vecinos y conocidos nuestros se reunieron en consejo.

Nuestra madre, avergonzada, se comportó con mucha cordura; por eso, todos habían pensado de nuestro padre lo que no querían decir: locura. Sólo algunos creían, no obstante, que podría ser también el cumplimiento de una promesa; o que nuestro padre, quién sabe, por vergüenza de padecer alguna fea dolencia, como es la lepra, se retiraba a otro modo de vida, cerca y lejos de su familia. Las voces de las noticias que daban ciertas personas -caminantes, habitantes de las riberas, hasta de lo más apartado de la otra orilla- decían que nuestro padre nunca se disponía a tomar tierra, ni aquí ni allá, ni de día ni de noche, de modo que navegaba por el río, libre y solitario. Entonces, pues, nuestra madre y nuestros parientes habían establecido que el alimento que tuviera, oculto en la canoa, se acabaría; y él, o desembarcaba y se marchaba, para siempre, lo que se consideraba más probable, o se arrepentía, por fin, y volvía a casa.

Se engañaban. Yo mismo trataba de llevarle, cada día, un poco de comida robada: la idea la tuve, después de la primera noche, cuando nuestra gente encendió hogueras en la ribera del río, en tanto que, a la luz de ellas, se rezaba y se le llamaba. Después, al día siguiente, aparecí, con dulce de caña, pan de maíz, penca de bananas. Espié a nuestro padre, durante una hora, difícil de soportar: solo así, él a lo lejos, sentado en el fondo de la canoa, detenida en la tabla del río. Me vio, no remó para acá, no hizo ninguna señal. Le mostré la comida, la dejé en el hueco de piedra del barranco, a salvo de alimaña y al resguardo de lluvia y rocío. Eso, que hice y rehice, siempre, durante mucho tiempo. Sorpresa que tuve más tarde: que nuestra madre sabía de ese mi afán, sólo que simulando no saberlo; ella misma dejaba, a la mano, sobras de comida, a mi alcance. Nuestra madre no era muy expresiva.

Mandó venir a nuestro tío, hermano de ella, para ayudar en la hacienda y en los negocios. Mandó venir al maestro, para nosotros, los niños. Le pidió al cura que un día se revistiera, en la playa de la orilla, para conjurar y gritarle a nuestro padre el deber de desistir de la loca idea. En otra ocasión, por decisión de ella, vinieron dos soldados. Todo lo cual no sirvió de nada. Nuestro padre pasaba de largo, a la vista o escondido, cruzando en la canoa, sin dejar que nadie se acercara a agarrarlo o a hablarle. Incluso cuando fueron, no hace mucho, dos periodistas, que habían traído la lancha y trataban de sacarle una foto, no habían podido: nuestro padre desaparecía hacia la otra banda, guiaba la canoa al brezal, de muchas leguas, el que hay, por entre juncos y matorrales, y sólo él lo conocía, palmo a palmo, en la oscuridad, por entonces.

Tuvimos que acostumbrarnos a aquello. Apenas, porque a aquello, en sí, nunca nos acostumbramos, de verdad. Lo digo por mí que, cuando quería y cuando no, sólo en nuestro padre pensaba: era el asunto que andaba tras de mis pensamientos. Lo difícil era, que no se entendía de ninguna manera, cómo él aguantaba. De día y de noche, con sol o aguaceros, calor, escarcha, y en los terribles fríos del invierno, sin abrigo, sólo con el sombrero viejo en la cabeza, durante todas las semanas, y meses y años -sin darse cuenta de que se le iba la vida. No atracaba en ninguna de las dos riberas, ni en las islas y bajíos del río; no pisó nunca más ni tierra ni hierba. Aunque, al menos, para dormir un poco, él amarrara la canoa en algún islote, en lo escondido. Pero no armaba una hoguerita en la playa, ni disponía de su luz ya encendida, ni nunca más rascó una cerilla. Lo que comía era un apenas; incluso de lo que dejábamos entre las raíces de la ceiba o en el hueco de la piedra del barranco, él recogía poco, nunca lo bastante. ¿No enfermaba? Y la constante fuerza de los brazos, para mantener la canoa, resistiendo, incluso en el empuje de las crecidas, al subir el río, ahí, cuando al impulso de la enorme corriente del río, todo forma remolinos peligrosos, aquellos cuerpos de bichos muertos y troncos de árbol descendiendo -de espanto el encontronazo. Y nunca más habló ni una palabra, con nadie. Tampoco nosotros hablábamos de él. Sólo se pensaba en él. No, de nuestro padre no podíamos olvidarnos; y si, en algunos momentos, hacíamos como que olvidábamos, era sólo para despertar de nuevo, de repente, con su recuerdo, al paso de otros sobresaltos.

Mi hermana se casó; nuestra madre no quiso fiesta. Pensábamos en él cuando comíamos una comida más sabrosa; así como, en el abrigo de la noche, en el desamparo de esas noches de mucha lluvia, fría, fuerte, nuestro padre con sólo la mano y una calabaza para ir achicando la canoa del agua del temporal. A veces, algún conocido nuestro notaba que yo me iba pareciendo a nuestro padre. Pero yo sabía que él ahora se había vuelto greñudo, barbudo, con las uñas crecidas, débil y flaco, renegrido por el sol y la pelambre, con el aspecto de una alimaña, casi desnudo, apenas disponiendo de las ropas que, de vez en cuando, le dejábamos.

Ni quería saber de nosotros, ¿no nos tenía cariño? Pero, por el cariño mismo, por respeto, siempre que, a veces, me elogiaban por alguna cosa bien hecha, yo decía: “Fue mi padre el que un día me enseñó a hacerlo así…”; lo que no era cierto, exacto, sino una mentira piadosa. Porque, si él no se acordaba más, ni quería saber de nosotros, ¿por qué, entonces, no subía o descendía por el río, hacia otros lugares, lejos, en lo no encontrable? Sólo él sabría. Pero mi hermana tuvo un niño, ella se empeñó en que quería mostrarle el nieto. Fuimos, todos, al barranco; fue un día bonito, mi hermana con un vestido blanco, que había sido el de la boda, levantaba en los brazos a la criaturita, su marido sostenía, para proteger a los dos, la sombrilla. Le llamamos, esperamos. Nuestro padre no apareció. Mi hermana lloró, todos nosotros lloramos allí, abrazados.

Mi hermana se mudó, con su marido, lejos de aquí. Mi hermano se decidió y se fue, a una ciudad. Los tiempos cambiaban, en el rápido devenir de los tiempos. Nuestra madre acabó yéndose también, para siempre, a vivir con mi hermana; ya había envejecido. Yo me quedé aquí, el único. Yo nunca pude querer casarme. Yo permanecí, con las cargas de la vida. Nuestro padre necesitaba de mí, lo sé -en la navegación, en el río, en el yermo-, sin dar razón de sus hechos. O sea que, cuando quise saber e indagué en firme, me dijeron que habían dicho que constaba que nuestro padre, alguna vez, había revelado la explicación al hombre que le había preparado la canoa. Pero, ahora, ese hombre ya había muerto; nadie sabría, aunque hiciera memoria, nada más. Sólo en las charlas vanas, sin sentido, ocasionales, al comienzo, en la venida de las primeras crecidas del río, con lluvias que no escampaban, todos habían temido el fin del mundo, decían que nuestro padre había sido elegido, como Noé, que, por tanto, la canoa él la había anticipado; pues ahora medio lo recuerdo. Mi padre, yo no podía maldecirlo. Y ya me apuntaban las primeras canas.

Soy hombre de tristes palabras. ¿De qué era de lo que yo tenía tanta, tanta culpa? Si mi padre siempre estaba ausente; y el río-río-río, el río – perpetuo pesar. Yo sufría ya el comienzo de la vejez -esta vida era sólo su demora. Ya tenía achaques, ansias, por aquí dentro, cansancios, molestias del reumatismo. ¿Y él? ¿Por qué? Debía padecer demasiado. De tan viejo, no habría, día más día menos, de flaquear su vigor, dejar que la canoa volcara o que vagara a la deriva, en la crecida del río, para despeñarse horas después, con estruendo en la caída de la cascada, brava, con hervor y muerte. Me apretaba el corazón. Él estaba allá, sin mi tranquilidad. Soy el culpable de lo que ni sé, de un abierto dolor, dentro de mí. Lo sabría -si las cosas fueran otras. Y fui madurando una idea.

Sin mirar atrás. ¿Estoy loco? No. En nuestra casa, la palabra loco no se decía, nunca más se dijo, en todos aquellos años, no se condenaba a nadie por loco. Nadie está loco. O, entonces, todos. Lo único que hice fue ir allá. Con un pañuelo, para hacerle señas. Yo estaba totalmente en mis cabales. Esperé. Por fin, apareció, ahí y allá, el rostro. Estaba allí, sentado en la popa. Estaba allí, a un grito. Le llamé, unas cuantas veces. Y hablé, lo que me urgía, lo que había jurado y declarado, tuve que levantar la voz: “Padre, usted es viejo, ya cumplió lo suyo… Ahora, vuelva, no ha de hacer más… Usted regrese, y yo, ahora mismo, cuando ambos lo acordemos, yo tomo su lugar, el de usted, en la canoa…”. Y, al decir esto, mi corazón latió al compás de lo más cierto.

Él me oyó. Se puso en pie. Movió el remo en el agua, puso proa para acá, asintiendo. Y yo temblé, con fuerza, de repente: porque, antes, él había levantado el brazo y hecho un gesto de saludo -¡el primero, después de tantos años transcurridos! Y yo no podía… De miedo, erizados los cabellos, corrí, huí, me alejé de allí, de un modo desatinado. Porque me pareció que él venía del Más Allá. Y estoy pidiendo, pidiendo, pidiendo perdón.

Sufrí el hondo frío del miedo, enfermé. Sé que nadie supo más de él. ¿Soy un hombre, después de esa traición? Soy el que no fue, el que va a quedarse callado. Sé que ahora es tarde y temo perder la vida en los caminos del mundo. Pero, entonces, por lo menos, que, en el momento de la muerte, me agarren y me depositen también en una canoíta de nada, en esa agua que no para, de anchas orillas; y yo, río abajo, río afuera, río adentro -el río.

FIN


“A terceira margem do rio”,
Primeiras estórias, 1962
Traducción de Paz Díez Taboada

El trabajo creado íntegramente por IA no tiene derechos de autor

 


The AI School Librarian, «AI Work Has No Owner. Now What Do We Teach? A Supreme Court decision forces educators to rethink originality in the age of AI», The AI School Librarians Newsletter (blog), 24 de marzo de 2026, https://aischoollibrarian.substack.com/p/the-supreme-court-drew-a-line-on.

La reciente negativa de la Corte Suprema de los Estados Unidos a escuchar el caso del científico informático Stephen Thaler, quien intentó registrar los derechos de autor de una obra de arte generada por un sistema de inteligencia artificial, ha establecido una realidad legal ineludible: el trabajo creado íntegramente por IA no tiene derechos de autor.

Los tribunales inferiores han dictaminado consistentemente que la ley de derechos de autor protege exclusivamente la autoría humana, y que una máquina no puede ser considerada autora sin un aporte creativo humano significativo. Esto significa que las obras generadas por IA carecen actualmente de un autor legal, una realidad que choca directamente con las prácticas educativas contemporáneas.

Existe una profunda desalineación entre este estándar legal y lo que ocurre en las escuelas. Actualmente, los educadores están calificando trabajos que, bajo la ley, no tienen un autor legítimo. Si un estudiante envía una tarea generada completamente por IA, no es el autor legal de la misma. Además, la habilidad de escribir indicaciones (hacer «promptis») no equivale a la autoría creativa. Muchas de las tareas escolares tradicionales están desactualizadas frente a esta realidad, ya que pueden ser completadas fácilmente por herramientas de IA, dando como resultado trabajos pulidos pero con una autoría humana nula o muy dudosa.

Este escenario no implica que la IA deba ser prohibida en las escuelas, sino que debe usarse como una herramienta donde la aportación del estudiante siga siendo el núcleo del trabajo. Para evaluar esto, los educadores deben implementar una «nueva prueba de autoría» haciendo preguntas clave: quién realizó el pensamiento crítico, quién tomó las decisiones principales y si el estudiante es capaz de explicar el proceso de creación. Sin embargo, la mayoría de las políticas de los distritos escolares se centran erróneamente en hacer frente a las trampas o en el uso de software de detección, ignorando el problema fundamental de la autoría. Las políticas que no abordan qué constituye el trabajo original de un estudiante están destinadas a volverse obsoletas.

Para adaptarse a esta nueva era, la educación debe redefinir lo que cuenta como aprendizaje. El artículo propone cuatro cambios fundamentales: primero, cambiar el enfoque del producto final al proceso, exigiendo a los estudiantes que demuestren cómo llegaron a sus resultados; segundo, definir claramente qué se espera de la contribución humana en cada tarea; tercero, normalizar y enseñar la divulgación ética del uso de la IA, donde los alumnos declaren qué herramientas usaron y qué pensamiento es propio; y cuarto, rediseñar intencionalmente las tareas para que requieran interpretación, razonamiento y revisión. En conclusión, aunque la inteligencia artificial llegó para quedarse y generar contenido de forma instantánea, no puede reemplazar la necesidad fundamental de la autoría y el pensamiento humano en el aprendizaje.