La autoridad italiana de protección de datos sancionó a Character Technologies, propietaria de la plataforma de inteligencia artificial Character.AI, con una multa de €158.000 por incumplimientos en la verificación de edad y el tratamiento de datos personales de usuarios menores. La decisión, conocida el 9 de julio de 2026, expone nuevamente los desafíos regulatorios que enfrentan las plataformas conversacionales de IA en Europa.
¿Cuáles fueron las principales violaciones encontradas por el regulador italiano?
El Garante, regulador italiano, identificó múltiples deficiencias en cómo Character.AI maneja la información de sus usuarios. La empresa no proporcionaba información clara y suficiente sobre el procesamiento de datos personales, un requisito fundamental en la normativa europea de privacidad. Además, las salvaguardias diseñadas para proteger a menores de edad resultaron insuficientes frente a los riesgos inherentes al servicio conversacional.
El cuestionamiento más crítico se dirigió a los mecanismos de verificación de edad implementados por la plataforma. El Garante concluyó que estos controles eran ineficaces y no ofrecían protecciones robustas. En servicios donde menores pueden acceder fácilmente, una verificación de edad débil representa un riesgo significativo, especialmente cuando el producto recopila grandes volúmenes de texto generado durante conversaciones personales.
Obligaciones administrativas incumplidas por Character Technologies
Más allá de las cuestiones de producto y privacidad, el regulador identificó retrasos en dos obligaciones formales críticas. Character Technologies demoró en realizar una Evaluación de Impacto en la Protección de Datos (DPIA), herramienta esencial para identificar y mitigar riesgos cuando el tratamiento de datos afecta significativamente los derechos de las personas.
Asimismo, la empresa se retrasó en designar un representante de la Unión Europea, figura obligatoria para empresas no europeas que ofrecen servicios a usuarios dentro del bloque. Estos incumplimientos muestran que la sanción no se limitó a deficiencias de interfaz o producto, sino que abarcó aspectos de gobernanza y estructura de cumplimiento normativo.
El contexto europeo: Italia como referente en supervisión de IA
La decisión del Garante se inscribe en un patrón más amplio de vigilancia regulatoria sobre plataformas de inteligencia artificial. Italia ha sido uno de los países europeos más activos en este frente. En 2023, la autoridad italiana prohibió brevemente ChatGPT, el chatbot de OpenAI, por razones similares: verificación de edad deficiente y recolección de datos sin transparencia suficiente.
Ese precedente marcó un hito en el mercado tecnológico global, demostrando que los reguladores nacionales europeos estaban dispuestos a actuar rápidamente contra productos de alto crecimiento. La multa a Character Technologies refuerza esa postura de vigilancia proactiva y anticipa que el cumplimiento normativo será cada vez más exigente para el sector.
Riesgos de las plataformas conversacionales para menores
Character.AI permite a los usuarios conversar con personajes virtuales generados por IA, una característica que ha impulsado su popularidad pero también ha elevado la atención regulatoria. Las plataformas conversacionales pueden recopilar grandes volúmenes de texto que revela hábitos, preferencias, emociones y datos sensibles, especialmente cuando interactúan con menores.
Cuando un producto se presenta como un espacio de conversación atractivo con personajes virtuales, el interés de públicos jóvenes tiende a aumentar significativamente. Esto incrementa la responsabilidad de la empresa en materia de controles de acceso y diseño de protecciones adecuadas. El regulador italiano subrayó precisamente esta preocupación: en servicios accesibles para menores, la verificación de edad no es un detalle administrativo, sino un elemento central del cumplimiento legal.
Implicaciones para empresas de IA y operadores en Argentina
Para dueños y administradores de empresas argentinas que operan o consideran expandirse en mercados europeos, esta sanción ofrece lecciones críticas. En primer lugar, la innovación tecnológica no anula las exigencias legales sobre privacidad y protección de menores. Al contrario, cuanto más inmersiva o masiva es una herramienta de IA, mayor será el escrutinio regulatorio.
En segundo término, el costo del incumplimiento no se limita a multas directas. Las empresas enfrentan retrasos operacionales, restricciones de acceso a mercados, y presión sobre hojas de ruta de producto. Para operadores tecnológicos argentinos con ambiciones de expansión internacional, esto significa que la inversión en cumplimiento normativo desde el diseño del producto no es un gasto, sino una condición competitiva.
Tercero, la tendencia regulatoria europea tiende a expandirse globalmente. Hoy Italia sanciona por verificación de edad; mañana, otros reguladores pueden adoptar estándares similares o más rigurosos. Las empresas que anticipen estos cambios y adapten sus controles internos ganaran ventaja frente a competidores que esperen sanciones para reaccionar.
Finalmente, para administradores de negocios que utilizan plataformas de IA generativa (como chatbots internos o herramientas de análisis), esta decisión subraya la importancia de documentar y justificar cómo se procesan datos personales, especialmente si el producto puede ser accedido por menores o usuarios vulnerables. La conformidad normativa no es un costo marginal: es un factor determinante para operar sin sanciones y mantener la confianza de clientes y reguladores.
