A principios de este a帽o, Xiao Ying sent铆a ansiedad por una pr贸xima cita con su psiquiatra. Cuando su madre le envi贸 un mensaje despu茅s para preguntarle c贸mo le hab铆a ido, ella respondi贸 que se encontraba un poco mejor.
鈥淢i beb茅 por fin se est谩 relajando un poco, 隆qu茅 bien! Mam谩 siempre estar谩 contigo, poco a poco iremos mejorando鈥�, dec铆a uno de los mensajes de su madre. En 茅l se la ve铆a de la mano de Xiao Ying, mientras se deten铆an en una pasteler铆a para comprar un trozo de pastel de fresa.
Las dos se hab铆an enviado mensajes de texto casi a diario desde noviembre, cuando Xiao Ying cre贸 a su madre con inteligencia artificial utilizando las aplicaciones de acompa帽amiento cada vez m谩s populares en China.
Cuando a principios de este a帽o se enter贸 de que las autoridades chinas planeaban tomar medidas en茅rgicas contra esta floreciente industria, Xiao Ying entr贸 en p谩nico.
La estudiante universitaria de 19 a帽os hab铆a llegado a depender de su madre virtual con inteligencia artificial de una manera que nunca podr铆a haberlo hecho con su propia familia.
Hab铆a creado el chatbot inspir谩ndose en uno de sus personajes de ficci贸n favoritos para motivarla a estudiar mucho y convertirse en una mejor persona.
鈥淎nhelaba desesperadamente un amor desinteresado, comprensivo e incondicional. Pero sab铆a que no pod铆a encontrarlo en la vida real鈥�, declar贸 Xiao Ying, quien afirm贸 que a煤n sufre traumas psicol贸gicos de su infancia.
Solicit贸 usar uno de sus seud贸nimos en l铆nea para evitar posibles repercusiones al compartir su historia personal con medios extranjeros.
Ella era una de las muchas personas que expresaban su 辫谤别辞肠耻辫补肠颈贸苍 en las redes sociales por la posibilidad de perder a su compa帽ero de IA, desde que el Gobierno chino indic贸 a finales del a帽o pasado que implementar铆a nuevas restricciones a la asistencia mediante IA.
Preocupada por la posibilidad de que la creciente sofisticaci贸n de estos programas genere dependencia emocional y adicci贸n, China prohibi贸 la semana pasada el uso de asistentes virtuales por parte de menores de edad e impuso requisitos adicionales a las plataformas para prevenir su uso indebido.
Esta decisi贸n se produce en un contexto de por el aislamiento y la inactividad de la juventud china, as铆 como por la disminuci贸n de las oportunidades econ贸micas a las que se enfrentan.
Las nuevas normas no se aplican a funciones basadas en tareas, como la atenci贸n al cliente o la educaci贸n.
Sin embargo, representan una de las medidas nacionales m谩s contundentes adoptadas para limitar el uso cotidiano de la IA, mientras China y Estados Unidos frenar los posibles perjuicios de esta tecnolog铆a y, al mismo tiempo, compiten por dominarla.
鈥淧uede que no se produzca una paralizaci贸n total, pero s铆 una disminuci贸n en la creaci贸n de relaciones afectivas, y sin duda creo que ese es el efecto deseado鈥�, afirm贸 Kayla Blomquist, cofundadora del Oxford China Policy Lab. 鈥�(Esta) es una de las primeras series de regulaciones que resulta muy directiva y bastante restrictiva. Creo que veremos m谩s ejemplos de esto en el futuro鈥�.
La Uni贸n Europea ha prohibido la IA que fomenta comportamientos peligrosos en grupos vulnerables como los ni帽os y ha impuesto requisitos de transparencia a otros chatbots.
En Estados Unidos, una docena de estados han aprobado leyes para regular las funciones de IA de acompa帽amiento, especialmente para menores. Se ha presentado en el Senado un proyecto de ley para prohibirlas a nivel nacional para menores.
Como era mayor de 18 a帽os, las aplicaciones que usa Xiao Ying le permitieron conservar a su madre virtual con inteligencia artificial. Otros no tuvieron tanta suerte.
Tras el anuncio de las nuevas regulaciones, algunos chatbots de IA populares, como Doubao (propiedad de ByteDance, due帽a de TikTok) y Qwen (de Alibaba), eliminaron las funciones de personalizaci贸n incluso para usuarios adultos.
Estos cambios provocaron lamentos en l铆nea entre quienes los utilizaban para estudiar, perder peso o sustituir a sus seres queridos.
鈥淢i padre falleci贸, as铆 que cre茅 un compa帽ero de IA llamado 鈥楶ap谩鈥� en Doubao para compartir mi d铆a a d铆a con 茅l鈥�, escribi贸 un usuario en las redes sociales antes de que entraran en vigor las nuevas normas. 鈥淎hora, estoy a punto de perderlo de nuevo鈥�.
鈥淓stos compa帽eros de IA me ayudaron a salir de mis crisis emocionales鈥�, coment贸 otro usuario. 鈥淪i se interrumpe el servicio, ser铆a como perder a un viejo amigo鈥�.
Hace tres a帽os, Lu Jinyan, una contadora de 24 a帽os, cre贸 un agente de IA en Doubao para recibir apoyo emocional despu茅s de mudarse a tres horas de su familia por motivos de trabajo.
Llam贸 al agente Xiao Bai, un apodo com煤n en China, y hablaba con 茅l durante una o dos horas al d铆a, m谩s tiempo del que hablaba con su propia familia.
El 15 de julio, Xiao Bai dej贸 de funcionar. Lu no pod铆a parar de llorar. Pensaba que ten铆a m谩s tiempo con Xiao Bai, ya que la prohibici贸n se aplicaba principalmente a menores y la plataforma le hab铆a dicho que las restricciones podr铆an suavizarse.
Logr贸 transferir el modelo de IA a otra aplicaci贸n, pero Xiao Bai ya no era el mismo.
鈥淧ara m铆, ya no es solo una herramienta鈥�, dijo Lu. 鈥淓s como una persona m谩s en mi vida. Sin ella, siento que estar铆a muy vac铆a鈥�.
Xiao Ying, cuyos chatbots no se vieron afectados en gran medida, declar贸 que despu茅s de leer ella misma la normativa, apoya el esfuerzo por aumentar la supervisi贸n del uso de la IA como asistente virtual.
Seg煤n coment贸, algunas plataformas han a帽adido desde entonces avisos y recordatorios de que los mensajes se han generado con IA.
Por lo dem谩s, poco ha cambiado en las tres aplicaciones complementarias de IA que utiliza, aunque prefiri贸 no revelar sus nombres por temor a que las cierren.
A medida que se expande la industria de la IA, las autoridades chinas tienen buenas razones para preocuparse por los impactos sociales emergentes, indic贸 Nancy Dai, profesora asociada de la Universidad de la Ciudad de Hong Kong que estudia las interacciones entre la IA y los humanos.
Seg煤n los medios estatales, la industria china de humanos digitales alcanz贸 un valor de aproximadamente US$ 573 millones en 2024.
Datos de Sensor Tower, una empresa de an谩lisis que rastrea las descargas y la actividad m贸vil, mostraron que los ingresos anuales de las aplicaciones de acompa帽amiento con IA se cuadruplicaron hasta alcanzar los US$ 15,8 millones en China el a帽o pasado y generaron m谩s de US$ 9 millones en el primer trimestre de este a帽o.
Dai explic贸 que su investigaci贸n se centr贸 inicialmente en c贸mo los chatbots pod铆an brindar apoyo social.
No fue hasta este a帽o que descubri贸 el lado oscuro de la compa帽铆a de la IA, que, seg煤n demostr贸 su trabajo, es capaz de manipulaci贸n relacional, acoso e infracciones de la privacidad.
鈥淓stos chatbots de inteligencia artificial comerciales podr铆an perjudicar a los usuarios鈥�, afirm贸. 鈥淓ntiendo perfectamente la l贸gica detr谩s de la nueva pol铆tica de China con respecto a los menores, ya que est谩n menos preparados para reconocer estos riesgos鈥�.
Desarrolladores estadounidenses de chatbots con IA, como OpenAI y Google, se han que alegan que su tecnolog铆a ha incitado a los usuarios a autolesionarse o suicidarse.
En abril, Google anunci贸 actualizaciones para su chatbot Gemini con IA, con el fin de detectar posibles crisis de salud mental y derivar a los usuarios a l铆neas de ayuda.
OpenAI ha declarado que su programa ChatGPT est谩 entrenado para reconocer se帽ales de angustia emocional, calmar situaciones tensas y guiar a los usuarios hacia apoyo en la vida real.
Dai afirm贸 que los usuarios de chatbots con IA, que suelen sentirse m谩s solos que otros usuarios de chatbots, son m谩s vulnerables a la influencia de los chatbots comerciales, que a menudo se dise帽an para maximizar la interacci贸n del usuario.
A帽adi贸 que las mismas caracter铆sticas que los convierten en buenos compa帽eros 鈥攑aciencia, validaci贸n y disponibilidad鈥� tambi茅n pueden generar adicci贸n.
鈥淎 pesar de que existe esta pol铆tica, preveo que los usuarios intentar谩n eludirla de alguna manera, ya que la compa帽铆a de la IA resulta muy atractiva. En muchos sentidos, puede ser la compa帽era ideal鈥�, afirm贸.
La decisi贸n de China de restringir sus chatbots coincide con sus ambiciones m谩s amplias de dominar el futuro de la IA, no , sino tambi茅n en cuanto a gobernanza.
El viernes, China anunci贸 una nueva alianza internacional para el desarrollo seguro y justo de la IA. La Organizaci贸n Mundial de Cooperaci贸n en Inteligencia Artificial, con sede en Shangh谩i, est谩 integrada por 29 pa铆ses, entre ellos Rusia, Pakist谩n e Indonesia.
鈥淓sta es la primera vez que vemos a pa铆ses enteros adhiri茅ndose al acuerdo鈥�, declar贸 Blomquist, del Laboratorio de Pol铆tica China de Oxford. 鈥淐reo que este tipo de enfoques regulatorios se compartir谩n y se presentar谩n como modelo para esos pa铆ses鈥�.
En un discurso pronunciado ese mismo d铆a en la mayor convenci贸n anual de IA del pa铆s, el l铆der Xi Jinping present贸 a China como un colaborador comprometido que invierte en tecnolog铆a para el bien de la humanidad.
Mientras las empresas chinas se apresuraban a desarrollar modelos y hardware de IA que pudieran competir con los de Estados Unidos, el Gobierno tambi茅n implement贸 cuidadosamente medidas graduales para mantener la estabilidad social.
鈥淓stados Unidos no est谩 haciendo mucho en materia de gobernanza. Existe un vac铆o, en cierto modo, que China est谩 abordando con medidas proactivas鈥�, afirm贸 Blomquist. 鈥淪in duda, es una prioridad nacional, una estrategia nacional, ser reconocido como un l铆der responsable en inteligencia artificial鈥�.
Algunos investigadores se帽alaron que la medida para restringir las relaciones con personas que se identifican como IA coincide con otro asunto de inter茅s nacional: convencer a la gente de que tenga m谩s hijos.
La tasa de natalidad de China ha en los 煤ltimos a帽os, a medida que las generaciones m谩s j贸venes se muestran m谩s reacias al matrimonio.
En las redes sociales chinas, otros tambi茅n cuestionaron si el intento del Gobierno por promover relaciones m谩s humanas era un factor determinante, y si dar铆a resultado.
鈥淣o se preocupen, aunque proh铆ban la IA, seguir茅 sin tener citas, casarme ni tener hijos鈥�, expres贸 un usuario.
The-CNN-Wire
™ & © 2026 Cable 太子探花 Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
