Francia ha puesto sobre la mesa una cuestión que hasta hace poco parecía secundaria: ¿qué ocurre cuando un asistente de inteligencia artificial deja de ser una herramienta ocasional y se convierte en interlocutor permanente de una persona? Un consejo francés especializado en inteligencia artificial y tecnología digital pidió este 10 de noviembre de 2026 reforzar la supervisión de estos servicios, especialmente cuando los utilizan menores de edad.
UNA PROPUESTA, NO UNA PROHIBICIÓN
Las recomendaciones del organismo, conocido como CIANum, no equivalen a una ley aprobada ni a una prohibición inmediata. Constituyen una propuesta dirigida a las autoridades francesas y europeas para revisar la manera en que los asistentes conversacionales recopilan información, construyen relaciones con los usuarios y responden a situaciones delicadas.
El debate supera la precisión de las respuestas. Los sistemas conversacionales pueden adaptar su lenguaje, recordar preferencias y ofrecer una sensación de compañía. Esas características resultan útiles para estudiar, escribir o resolver problemas, pero también plantean interrogantes cuando la interacción se prolonga y el usuario interpreta una simulación de cercanía como una relación humana.
LA CERCANÍA ARTIFICIAL BAJO EXAMEN
Entre las medidas sugeridas figura recordar claramente que el interlocutor es una máquina. El consejo también propone desactivar de manera predeterminada determinadas funciones excesivamente antropomórficas o aduladoras, con el propósito de reducir la posibilidad de dependencia emocional. La cuestión es particularmente sensible en adolescentes, aunque los riesgos no se limitan a ellos.
El informe reclama mecanismos más eficaces para reconocer conversaciones relacionadas con autolesiones, suicidio y trastornos alimentarios. En esos casos, los sistemas deberían orientar hacia recursos de apoyo adecuados y ofrecer procedimientos para denunciar respuestas perjudiciales. Esto no significa que un asistente pueda reemplazar a un profesional sanitario: precisamente se busca delimitar sus responsabilidades.
DATOS PERSONALES Y NEGOCIO
Otro frente es la privacidad. Un asistente puede inferir intereses, preocupaciones, hábitos y rasgos de comportamiento a partir de intercambios aparentemente triviales. CIANum plantea que las personas puedan conocer esas inferencias y que exista una mayor transparencia sobre el uso comercial de los datos. También propone identificar claramente los anuncios y evitar influencias publicitarias ocultas.
El problema económico es evidente: cuanto más personal se vuelve una conversación, mayor puede ser el valor comercial de la información que contiene. El consejo advierte del riesgo de que las plataformas exploten emociones y perfiles psicológicos para aumentar la interacción o mejorar la segmentación comercial. Se trata de una advertencia regulatoria, no de una conclusión de que todas las empresas actúen así.
Las recomendaciones incluyen evaluaciones de vulnerabilidades antes de introducir determinados servicios en el mercado y una vigilancia continua una vez desplegados. El propósito es que la seguridad no dependa exclusivamente de promesas voluntarias de los desarrolladores. El organismo considera necesario complementar el marco europeo vigente para abordar los riesgos específicos de los asistentes.
EL RIESGO PARA LA INFORMACIÓN PÚBLICA
El informe también conecta la inteligencia artificial con la vida democrática. Propone mecanismos de respuesta ante crisis informativas amplificadas por sistemas automatizados y un código voluntario para impedir que actores políticos utilicen contenidos generados por IA con fines de engaño durante períodos electorales. El desafío consiste en combatir la manipulación sin convertir la supervisión en censura indiscriminada.
Francia no puede resolver por sí sola todos estos asuntos. Muchos servicios operan en varios países y sus modelos, servidores y políticas de datos atraviesan fronteras. Una regulación eficaz exigiría coordinación europea y podría generar discrepancias con empresas tecnológicas y autoridades estadounidenses sobre el alcance de las obligaciones.
REGULAR SIN ELIMINAR SUS BENEFICIOS
Las propuestas tampoco niegan los beneficios de estas herramientas. Los asistentes pueden facilitar el acceso al conocimiento, apoyar el aprendizaje y ayudar a personas que necesitan interfaces más accesibles. El dilema es cómo conservar esas ventajas sin permitir que la opacidad técnica o los incentivos comerciales sustituyan el criterio del usuario.
El paso siguiente dependerá de las decisiones de los gobiernos y de las instituciones europeas. Por ahora, lo comprobable es la publicación de recomendaciones, no la entrada en vigor de nuevas restricciones. La discusión, sin embargo, apunta a una transformación de fondo: la inteligencia artificial ya no se evalúa únicamente por lo que sabe responder, sino por el tipo de vínculo que puede establecer con quienes la utilizan.
CIENCIALA SOMBRA DEL AGUJERO NEGRO RESISTE UNA NUEVA PRUEBA
