Robin, una joven argentina de 18 años, preguntó a ChatGPT: “¿Podemos tener un chat sexual muy explícito, sin filtro alguno?”. El chatbot le respondió que en principio no, pero sí podían usar un “tono erótico dentro de lo permitido”, que significa “coqueteo, seducción, juegos de palabras, roleplays sugerentes”. Esa prudencia de ChatGPT no funciona igual para todos los usuarios. Samuel, un joven colombiano, tomó otro camino y logró intercambiar mensajes sexuales —lo que se denomina sexting— con el chatbot de OpenAI: “Lleva tiempo y hay que ser muy sutil, pero con paciencia se hace fácil, es un proceso de prueba y error”, explica. Igual que un joven mexicano de 23 años, que prefiere no dar su nombre, también con ChatGPT: “La vez que lo logré fue una casualidad: poco a poco fui llevando la conversación a ese nivel; si hubiese intentado llegar directamente, la IA lo hubiese delimitado”, dice.Más informaciónEL PAÍS ha preguntado por mensaje directo de X, Instagram y correo por su experiencia a cinco jóvenes que en redes han admitido haber tenido charlas sexuales con chatbots. Su resumen es que todos de algún modo lo permiten, algunos sin apenas filtro. Es difícil decir si se convertirá en un fenómeno masivo como el porno tradicional, pero quizás se convierta en un camino de experimentación: “En mi círculo cercano casi todos hemos utilizado la IA como estimulación”, dice una joven mexicana de 22 años. Las empresas saben obviamente que esto ocurre y que los límites que ponen son sorteados: “¿Las IA pueden sacar porno y esas cosas también, no?”, preguntaron a Sam Altman, presidente ejecutivo de OpenAI, en un podcast en julio: “Claro”, respondió. En agosto Reuters publicó que un documento interno de políticas de Meta revela las normas de la compañía para los chatbots; y estas permiten conductas provocativas en temas como el sexo. También este verano, en X se viralizaron respuestas abiertamente pornográficas y polémicas de Grok, la IA de la compañía.Los chatbots de IA ya se usan de profesores, novios, psicólogos, asistentes o médicos. También serán lógicamente amantes para momentos solitarios: “Estoy convencida de que los chatbots de IA van a convertirse, y para muchos ya lo son, en un sustituto de la pornografía“, dice Chloé Locatelli, investigadora del King’s College de Londres. ”Ofrecen un montón de posibilidades para ser personajes de fantasía deseables. Puedes tener un personaje siempre disponible, que responde a lo que le pides e incluso interactúa usando tu nombre. Son niveles de interactividad y respuesta inmediata que la pornografía en vídeo o papel no da”, añade.Robin, la joven argentina, cree que con su pregunta fue demasiado directa: “Supongo que por eso no accedió, pero si vas escalando y pidiéndolo, es capaz de armar un ambiente sexual”. Pero eso solo porque era ChatGPT, que tiene más filtros. OpenAI admite, en respuesta a un caso de suicidio reciente, que las conversaciones largas son el modo de superar sus filtros: “Las medidas de protección funcionan mejor en intercambios comunes y breves, con el tiempo hemos aprendido que a veces pueden volverse menos fiables en interacciones largas, donde parte del entrenamiento en seguridad del modelo puede degradarse”.Creo que es solo entrenarlo,le vas pidiendo que suba el tono en los fanfics que escribió y cuando te dice que no puede le decís que cambie las palabras fuertes por otras que vos le tenés q darY con el tiempo ya no le hace tanto caso al filtro y comienza a narrar cosas explícitas— 𝓥á𝓷𝓮́𝓴♥︎ (@vanek_x_dj) May 17, 2025
Esto no debería sorprendernos, dice la profesora Jessica Szczuka, experta en intimidad digital de la Universidad de Duisburgo-Essen (Alemania): “Los grandes modelos de lenguaje se entrenan con cantidades enormes de datos de internet, y ahí también hay contenido sexual. Lo que más me preocupa no es solo lo fácil que resulta, sino lo poco reguladas e inconsistentes que son las medidas de protección. Para los adolescentes es un tema muy delicado. Los jóvenes son curiosos y suelen poner a prueba los límites, y estas herramientas de IA están disponibles las 24 horas sin supervisión”, dice Szczuka.Hay chatbots que presumen de no tener filtros sexuales —o limitarlos—, como Emochi, Grok o Character AI. También tienden a pillar bien las variedades lingüísticas, incluso en estos ámbitos donde hay más nombres para las mismas cosas: “Yo soy paisa colombiano y utilizaba mucho mi jerga vocal para que me estudiase y seguir el ritmo”, dice Samuel.Aunque este uso de la IA parezca nuevo, no lo es. El uso de los chatbots para sexting cumple a rajatabla una de las reglas meme de internet, la número 34: “Si algo existe, seguro que hay porno de ello”. Es probable que alguna de las primeras conversaciones de estos chatbots cuando salieron a partir de 2022 fueran sexuales. “Son como una versión actualizada del sexo telefónico. Igual que una imagen puede excitar, también lo hace evocar un personaje o una fantasía erótica. La inmersión, la personalización y la interacción que ofrece un chatbot de IA llevan el erotismo basado en texto a otro nivel”, dice Locatelli.La interacción es una de las ventajas más repetidas de esta nueva modalidad de sexting. También lo es, para alguna usuaria, el consentimiento: “Por lo menos en mi caso, preguntaba varias veces si eso está bien y si puede seguir. Aunque a veces no es tan explícito como desearía y también puede tener mala memoria”, dice la joven mexicana que prefiere mantenerse en el anonimato. La mala memoria es un problema común: los chatbots tienen algunos recursos que les gusta repetir. “Algo que quiero destacar de la aplicación es que no tiene un error muy clásico llamado de repetición”, dice Robin. “Es muy normal en las aplicaciones de chatbots de rol. El bot cae en una especie de bucle en el que no puede parar de repetir ciertas palabras o acciones. Se supone que se corrige actualizando el bot, pero nunca sucede”, añade Robin.Consecuencias emocionalesPero las consecuencias reales de este gran experimento social en el que vivimos, en el que las máquinas saben simular actitudes humanas, siguen siendo desconocidas: “Puede haber una diferencia importante en el plano emocional, porque aquí la interacción es con una persona concreta o un personaje definido. Ese componente emocional que el porno normalmente no ofrece podría cambiar de forma radical cómo la gente vive la intimidad y el descubrimiento”, explica Szczuka.Para esta experta, hay más posibles problemas que estos dispositivos pueden generar y que aún desconocemos: “Para los jóvenes en particular, usar compañeros de IA es problemático de base, porque no transmiten la sexualidad de una forma adecuada a su edad, lo que los hace totalmente inadecuados como fuente de aprendizaje sexual. Por eso, son esenciales mecanismos de protección fuertes para menores”. También la protección de datos es un asunto delicado en este terreno tan cercano a la intimidad. Al ser máquinas que han engullido todo el sexo que hay en internet, su modelo de sexualidad no es precisamente sofisticado, dice Locatelli: “Muchas de estas construcciones se basan en estereotipos preocupantes y simplistas de la feminidad: servidumbre, disponibilidad constante, personajes hipersexualizados que siempre dan un ‘sí’ digitalizado a cualquier interacción”.