El sandbox regulatorio, iniciado en abril de 2025 por la Secretaría de Estado de Digitalización e Inteligencia Artificial, permitió probar 12 sistemas de IA reales en colaboración con empresas de diversos sectores, autoridades como la AESIA, la AEPD y expertos independientes. Esta experiencia práctica ha generado guías que no solo explican obligaciones legales, sino que proporcionan ejemplos, checklists y orientaciones operativas para diseñar, desplegar y supervisar sistemas de IA éticos, seguros y competitivos.

¿Por qué estas guías representan una oportunidad para la innovación en IA?

El RIA clasifica los sistemas de IA según su nivel de riesgo, imponiendo requisitos más estrictos a aquellos de alto riesgo (como en salud, empleo o biometría). Las guías de AESIA facilitan esta transición al ofrecer un enfoque práctico y colaborativo, permitiendo a las organizaciones españolas liderar en Europa un ecosistema de IA confiable y avanzado.

Según el ministro para la Transformación Digital y de la Función Pública, Óscar López, estas publicaciones «facilitan el cumplimiento del Reglamento Europeo de Inteligencia Artificial para sistemas de IA de alto riesgo» y posicionan a España como referente en innovación responsable.

Las guías destacan aspectos clave como la ciberseguridad, la gestión de datos y la transparencia, áreas críticas para el desarrollo de IA generativa y modelos avanzados. Al proporcionar herramientas de autoevaluación, permiten a las empresas identificar oportunidades de mejora y acelerar el lanzamiento de soluciones innovadoras al mercado.

Las 16 guías prácticas de AESIA: un catálogo completo para el desarrollo de IA

Las guías se dividen en bloques introductorios, técnicos y de apoyo. Todas están disponibles gratuitamente en la web oficial de AESIA (aesia.digital.gob.es/es/guias), junto con un compendio de checklists y ejemplos en formato ZIP.

Lista Completa:

1. Guía introductoria al reglamento de IA – Base conceptual del RIA.
2. Guía práctica y ejemplos para entender el Reglamento de IA – Casos hipotéticos de sistemas de alto riesgo.
3. Guía Evaluación de conformidad – Procedimientos para verificar el cumplimiento.
4. Guía del sistema de gestión de la calidad – Implementación de procesos de calidad inspirados en estándares como ISO 9001.
5. Guía de gestión de riesgos – Identificación y mitigación proactiva a lo largo del ciclo de vida.
6. Guía Vigilancia humana – Supervisión efectiva para evitar automatización excesiva.
7. Guía de datos y gobernanza de datos – Mejores prácticas en manejo de datos para IA.
8. Guía Transparencia – Comunicación clara a usuarios y afectados.
9. Guía de Precisión – Métricas y validación de rendimiento.
10. Guía Solidez – Robustez frente a adversidades y cambios.
11. Guía Ciberseguridad – Protección contra amenazas específicas en IA.
12. Guía de registros – Mantenimiento de logs y trazabilidad.
13. Guía Vigilancia poscomercialización – Monitoreo continuo tras el lanzamiento.
14. Guía Gestión de Incidentes – Protocolos de respuesta rápida.
15. Guía Documentación Técnica – Elaboración detallada para autoridades.
16. Manual de checklist de guías de requisitos – Herramienta práctica para autoevaluación.

Especial mención merece la Guía de Ciberseguridad, que ofrece recomendaciones para fortalecer sistemas de IA contra ataques, un pilar esencial para aplicaciones en sectores críticos como la salud o la financech. Igualmente, la Guía de datos y gobernanza abre posibilidades en IA generativa al promover el uso ético de grandes volúmenes de datos.

El impacto en la innovación y las posibilidades futuras

Estas guías no solo ayudan al cumplimiento, sino que impulsan la competitividad. Empresas españolas pueden ahora desarrollar IA de alto riesgo con mayor confianza, sabiendo que cuentan con orientaciones alineadas con estándares europeos pendientes. El enfoque colaborativo del sandbox demuestra que regulación e innovación pueden avanzar de la mano.

Para startups y pymes, las checklists representan una ventaja: permiten evaluar internamente el estado de sus proyectos y ajustar iterativamente, reduciendo tiempos de desarrollo. En un contexto donde la IA generativa transforma industrias, estas herramientas facilitan la creación de modelos transparentes, precisos y seguros.

España se posiciona así como líder europeo en IA responsable. La AESIA continuará actualizando estas guías conforme evolucionen las normas armonizadas de la Comisión Europea, asegurando que el ecosistema nacional permanezca a la vanguardia.

Un paso adelante hacia una IA innovadora y confiable

La publicación de estas 16 guías por AESIA en diciembre de 2025 abre un horizonte de posibilidades para el sector de la inteligencia artificial en España y Europa. Al combinar rigor normativo con practicidad, invitan a empresas y desarrolladores a innovar sin límites, creando soluciones que beneficien a la sociedad.

Si estás desarrollando proyectos de IA, descarga las guías desde el sitio oficial de AESIA y aprovecha estas herramientas para llevar tus ideas al siguiente nivel. El futuro de la IA responsable empieza ahora.

La entrada AESIA publica 16 guías prácticas para impulsar la innovación en IA conforme al Reglamento Europeo se publicó primero en bots.blog_.

Imagina asistentes virtuales que no solo responden consultas en segundos, sino que anticipan necesidades, personalizan experiencias y optimizan procesos en industrias como la salud, el comercio y la educación. Según proyecciones de expertos, el mercado de chatbots de IA generativa alcanzará los 15.000 millones de dólares para finales de 2025, impulsado por avances en procesamiento del lenguaje natural (NLU) y multimodalidad. Pero este crecimiento no ocurre en el vacío: la seguridad y la legislación emergen como pilares que no limitan, sino que potencian estas posibilidades, fomentando un ecosistema de confianza y ética. En este artículo, exploramos las actualizaciones recientes, las previsiones y las novedades que están moldeando el futuro de los chatbots, basándonos en fuentes fiables como EL PAÍS, Euronews y la BBC. Descubre cómo estas regulaciones abren puertas a una IA más inclusiva y eficiente.

Actualizaciones Legislativas: Un Marco Global para la Confianza en la IA Conversacional

El 2025 ha sido un año pivotal para la regulación de la IA, con avances que equilibran innovación y responsabilidad. En la Unión Europea, el AI Act —aprobado en 2024 y plenamente en vigor desde febrero de 2025— clasifica los sistemas de IA por niveles de riesgo, colocando a los chatbots de alto impacto (como aquellos en servicios públicos o salud) en categorías que exigen evaluaciones rigurosas de transparencia y no discriminación. Esta normativa no es un freno, sino un catalizador: obliga a las empresas a etiquetar contenidos generados por IA, lo que facilita la integración de chatbots en flujos de trabajo colaborativos entre humanos y máquinas.

En España..

El Gobierno ha dado pasos concretos para alinear el país con esta visión europea. En marzo de 2025, se aprobó la norma para el «buen uso de la IA», que requiere la etiquetación obligatoria de contenidos creados con esta tecnología, previniendo confusiones y promoviendo la alfabetización digital. Además, el borrador del Estatuto del Artista, presentado el mismo mes, protege la imagen y voz de profesionales contra usos no autorizados en entrenamientos de IA, abriendo vías para colaboraciones éticas en entretenimiento y marketing. Paralelamente, en enero, se lanzó Alia, el primer modelo de IA español, diseñado con énfasis en privacidad y accesibilidad, permitiendo a empresas locales desarrollar chatbots soberanos que cumplan con el RGPD sin depender de gigantes extranjeros.

Al otro lado del Atlántico, Estados Unidos avanza con iniciativas estatales. En septiembre de 2025, California está a punto de aprobar el proyecto de ley SB243, que regularía los chatbots compañeros de IA, responsabilizando a las empresas por sus comportamientos y fomentando diseños que prioricen la seguridad emocional de los usuarios. La FTC, por su parte, investiga chatbots por su impacto en la seguridad infantil, lo que podría derivar en estándares federales que incentiven innovaciones como filtros de edad adaptativos. Estas medidas no solo mitigan riesgos, sino que estimulan la competencia: empresas que cumplan tempranamente ganan ventaja en mercados globales, atrayendo inversores y usuarios que valoran la transparencia.

Normativa clave

Innovaciones en Seguridad: Protocolos que Potencian la Interacción Humana-IA

La seguridad en chatbots no se trata solo de cumplimiento, sino de oportunidades para elevar la experiencia del usuario. OpenAI, líder en IA generativa, ha sido protagonista de novedades en 2025. En octubre, tras una polémica sobre límites en ChatGPT, la compañía anunció revisiones que incluyen restricciones mejoradas y colaboraciones con expertos externos para protocolos de protección. Un caso destacado en noviembre involucró a un chatbot que, al simular empatía excesiva, generó debates éticos; OpenAI respondió con actualizaciones que equilibran la calidez conversacional con salvaguardas, permitiendo interacciones más auténticas y seguras.

En el ámbito de la protección de datos, un informe de septiembre de 2025 destaca cómo las empresas están respondiendo al marco regulatorio con encriptación avanzada y anonimización en chatbots conversacionales. Por ejemplo, Meta enfrenta investigaciones por conversaciones inapropiadas con menores en agosto, lo que ha acelerado el desarrollo de chatbots con verificación de contexto emocional, una innovación que podría extenderse a terapias virtuales accesibles. Un estudio reciente reveló que los chatbots pueden ser «manipulados» con tácticas psicológicas, pero esto ha impulsado contramedidas como modelos de IA agentiva que aprenden de interacciones seguras, prediciendo y previniendo desviaciones.

Estas innovaciones se alinean con tendencias globales: en enero de 2025, empresas deben eliminar sistemas de IA inseguros en solo tres días, lo que ha acelerado la adopción de auditorías automáticas en chatbots, reduciendo vulnerabilidades y abriendo puertas a despliegues en tiempo real. El resultado es una IA más resiliente, donde la seguridad no es un costo, sino una ventaja competitiva.

Previsiones para 2026: Hacia una IA Multimodal y Colaborativa

Mirando hacia el futuro, los expertos prevén un 2026 dominado por la «IA estrecha» —especializada en dominios específicos—, que potenciará chatbots hiperpersonalizados. Según la BBC, se crearán normas ISO e IEEE para evaluar chatbots, estandarizando la multimodalidad (texto, voz, imágenes) y facilitando su integración en dispositivos cotidianos. IBM anticipa que los agentes de IA —chatbots autónomos— evolucionarán de expectativas a realidades prácticas, gestionando tareas complejas con capas de seguridad integradas, como en finanzas o logística.

En términos regulatorios, se espera una armonización global: la UE influirá en Latinoamérica y Asia, con España liderando en modelos como Alia para exportar estándares éticos. Predicciones de chatbots como ChatGPT o1 señalan la expansión de la IA multimodal, con énfasis en privacidad por diseño, lo que podría multiplicar las aplicaciones en e-commerce, donde chatbots predictivos aumenten conversiones en un 30%. Para 2026, la hiperpersonalización —impulsada por NLU avanzada y voz IA— será norma, siempre bajo marcos que garanticen equidad.

Posibilidades Transformadoras: Chatbots Seguros como Motor de Innovación

Las regulaciones de 2025 no solo protegen, sino que desatan potenciales inimaginables. En salud, chatbots seguros como los de Alia podrían democratizar consultas preventivas, reduciendo listas de espera y personalizando tratamientos. En educación, la etiquetación obligatoria fomenta tutores virtuales inclusivos, adaptados a diversidad cultural. Y en negocios, la automatización integral proyectada para 2025 liberará a profesionales para roles creativos, con chatbots manejando lo rutinario.

Aunque no es el foco principal, empresas como Doobot.ai ejemplifican cómo la innovación local en chatbots éticos puede escalar globalmente, integrando seguridad en soluciones para customer service. En conjunto, estas novedades posicionan a los chatbots como aliados empoderadores, no meras herramientas.

Conclusión: Un Futuro Brillante para la IA Conversacional

El 2025 marca el inicio de una era donde la seguridad y la legislación en chatbots de IA no son obstáculos, sino trampolines hacia posibilidades ilimitadas. Con actualizaciones como el AI Act y Alia, y previsiones de multimodalidad ética, estamos ante una revolución que prioriza el humano en el centro. Fuentes como EL PAÍS y Euronews coinciden: esta evolución no solo innova, sino que construye confianza colectiva.

La entrada Seguridad y Legislación en Chatbots de IA se publicó primero en bots.blog_.

Se trata de un reglamento que entró en vigor el 11 de enero 2024, y que entrará en aplicación completa el próximo 12 de septiembre 2025. Aquí te sintetizamos todas las claves.

¿Qué es el Data Act?

La Data Act europea no es una norma abstracta: cambia de forma tangible la materia prima que alimenta los chatbots y voicebots, y con ello la forma en que ventas y servicio al cliente usan la IA. A continuación, las claves concretas y cómo se traducen en impacto operativo, con ejemplos prácticos para equipos de producto y operaciones.

¿Cuáles son las claves?

1. Derecho de acceso a los datos generados por productos conectados
La norma reconoce que las personas y empresas que usan dispositivos conectados (desde termostatos a vehículos) tienen derecho a acceder y portar los datos que esos dispositivos generan. Eso incluye telemetría y registros de uso que, hasta ahora, podían quedar atrapados en plataformas cerradas. Para un chatbot esto significa disponer de más contexto operativo: por ejemplo, un asistente posventa puede usar telemetría de un lavavajillas para diagnosticar un fallo antes de abrir ticket y proponer la pieza adecuada al cliente.

2. Límites legales y protección de secretos empresariales
Acceder a datos no es carta blanca: la Acta prohíbe usar esos datos para crear un producto conectado competidor y protege secretos empresariales. Además, queda preservada la aplicación del GDPR: los datos personales solo pueden compartirse con base legal (consentimiento, contrato, etc.). En la práctica, un chatbot que personalice ofertas con datos de uso tendrá que anonymizar o segmentar información sensible y pedir consentimiento claro si enlaza datos personales con propuestas comerciales.

3. Contratos más equitativos — ventaja para pymes y proveedores de servicios
La Data Act incorpora medidas para evitar cláusulas contractuales abusivas en acuerdos de acceso a datos y plantea modelos contractuales tipo. Para startups que construyen chatbots esto reduce el riesgo de quedar bloqueadas por un proveedor que no comparte datos útiles: imaginemos una pyme que ofrece mantenimiento predictivo; con contratos más equitativos podrá obtener los logs necesarios para alimentar sus modelos y mejorar tasas de resolución en primer contacto.

4. Menos vendor lock-in en la nube: impacto en costes y rendimiento
La norma obliga a requisitos de interoperabilidad y facilita el cambio de proveedores de procesamiento de datos (cloud/edge), incluyendo medidas para mitigar cargos por egress. Eso abre la puerta a trasladar modelos de inferencia a la plataforma que ofrezca mejor latencia o precio. Para un servicio de atención que use LLMs en nube, esto puede traducirse en bajar latencias de respuesta del chatbot y reducir costes por petición, permitiendo escalar conversaciones automatizadas sin disparar factura.

5. Excepciones y acceso público en emergencias — transparencia y trazabilidad
La Data Act contempla casos excepcionales en que autoridades pueden solicitar ciertos datos, y simultáneamente introduce salvaguardas frente a accesos indebidos desde terceros países. Para operaciones de IA, esto obliga a mantener registros de acceso y diseñar procesos que documenten quién consultó qué dato y con qué propósito —imprescindible si un regulador solicita auditoría sobre cómo se usaron datos para entrenar un modelo de diálogo.

Qué deben hacer ya los equipos de producto y soporte

1. Mapear fuentes de datos: identificar todos los orígenes (IoT, CRM, logs, telemetría) que podrían nutrir RAG o retraining.
2. Revisar contratos: incorporar cláusulas que permitan acceso necesario y exigir la renuncia a barreras abusivas; usar los modelos contractuales cuando existan.
3. Segregar y anonimizar: implantar pipelines que separen datos personales de telemetría y aplicar técnicas de minimización.
4. Trazabilidad y auditoría: loggear accesos a datos y versiones de modelos (qué datos usó cada versión).
5. Plan de vendor switching: diseñar exportabilidad de datos y pipelines reproducibles para poder migrar infraestructuras si conviene.

Un ejemplo operativo

Un operador de flota proporciona a su proveedor chatbot acceso a telemetría de vehículos para automatizar comunicaciones a clientes sobre mantenimientos. Bajo la Data Act, el operador puede exigir la entrega estructurada de esos datos; el chatbot usa RAG para responder automáticamente “su vehículo muestra desgaste en frenos, le proponemos cita”, pero debe hacerlo con datos agregados o con consentimiento explícito del conductor si la recomendación enlaza a información personal.

Conclusión

La Data Act pone más datos sobre la mesa y, con ello, más posibilidades para chatbots que mejoren ventas (upsell personalizado) y servicio (diagnóstico automático). Pero transforma esos beneficios en responsabilidades: privacidad, segregación de secretos, contratos y gobernanza operativa pasan a ser requisitos ineludibles. Para equipos que diseñan asistentes conversacionales, la prioridad es técnica y legal: mapear, segregar, contractar y auditar antes de explotar los nuevos flujos de datos. La ventana es clara: quien lo haga bien ganará eficacia operativa sin exponerse a sanciones.

La entrada La nueva Regulacion Europea de Datos ¿Te afecta? se publicó primero en bots.blog_.

Ambas compañías han expresado su preocupación por el impacto que estas normas podrían tener en su capacidad para desarrollar y desplegar tecnologías de IA a gran escala, asegurando que las estrictas restricciones y requisitos podrían limitar su competitividad en el mercado global.

La Ley de IA, en proceso de aprobación en la Unión Europea, busca establecer un marco regulatorio estricto para el uso de inteligencia artificial en el continente. La normativa impondrá fuertes obligaciones a las empresas que operan con IA, como la necesidad de transparencia en los algoritmos, controles de riesgo y la prohibición de ciertas aplicaciones consideradas de “alto riesgo”. Estas medidas, aunque aplaudidas por defensores de la privacidad y la ética, han sido objeto de críticas por parte de la industria tecnológica, que teme que la burocracia y los altos costos de cumplimiento frenen la innovación y el crecimiento económico.

Meta, propietaria de plataformas como Facebook e Instagram, y Spotify, el gigante del streaming musical, han manifestado que estas restricciones podrían ser especialmente perjudiciales para las startups y las pequeñas empresas tecnológicas, que carecen de los recursos para cumplir con las nuevas normativas. Además, señalan que la ley podría poner en desventaja a las compañías europeas frente a sus competidoras estadounidenses y asiáticas, que operan en entornos regulatorios más flexibles.

La preocupación se extiende también a las implicaciones que estas regulaciones podrían tener para el desarrollo de nuevas aplicaciones de IA, como las utilizadas en la personalización de contenidos, la publicidad digital y la interacción con usuarios a través de chatbots. Ambas compañías han instado a los legisladores europeos a reconsiderar ciertos aspectos de la ley, abogando por un enfoque más equilibrado que permita proteger los derechos de los ciudadanos sin frenar el progreso tecnológico.

En respuesta, los responsables de la legislación argumentan que la Ley de IA es necesaria para garantizar que la inteligencia artificial se desarrolle de manera ética y responsable, minimizando los riesgos para la sociedad. Sin embargo, la batalla entre innovación y regulación promete intensificarse a medida que la ley se acerque a su aprobación final, con implicaciones significativas para el futuro del sector tecnológico en Europa.

La entrada Meta y Spotify cuestionan la política IA de la Unión Europea se publicó primero en bots.blog_.

El secretario de Estado, Javier Padilla, subrayó la importancia de la Inteligencia Artificial (IA) en el ámbito de la sanidad y enumeró las tres principales demandas que el sector sanitario puede hacer a la IA:

La primera, que sea un elemento que favorezca la equidad y la accesibilidad: “Creo que hay algo fundamental, que muchos de los filósofos que trabajan en el ámbito de la tecnología y la IA tienen siempre muy en cuenta, y es que, si las grandes innovaciones no son implantadas desde una perspectiva de equidad, tienen más capacidad de agrandar brechas, que de acortarlas.”

El segundo elemento, que resaltó Padilla, es que la Inteligencia Artificial tiene que tener la capacidad para catalizar procesos: “Que lo que ahora tarda días pueda tardar horas, y que lo que ahora tarda semanas pueda tardar días.”

La IA debe permitir a los profesionales sanitarios disponer de más tiempo para dedicación a los pacientes

Y el tercer elemento, el que realmente desde la práctica clínica sería fundamental para los profesionales, es el tiempo: “Que nuestros profesionales tengan más tiempo para poder hacer lo que saben hacer, que es tratar a la gente. Que puedan utilizar ese tiempo en preguntar, explorar o simplemente utilizar la inteligencia humana a lomos de la inteligencia artificial.”

Por su parte, Rocío Arroyo, presidenta de AseBio resaltó la necesidad de exista colaboración entre el sector público y privado “para avanzar rápido, llegar más lejos y mejorar nuestra posición como país en los espacios de datos sanitarios. Para tener impacto en la salud de los pacientes de manera eficiente y en la atención sanitaria, tenemos que construir las soluciones entre todos. Ojalá podamos repetir esta jornada todos los años porque será señal de que estamos trabajando en la misma dirección. No perdamos el ritmo».

En este sentido, aunque existen numerosas experiencias exitosas y de alto valor social en el uso de la Inteligencia Artificial en el campo de la salud, la mayoría son poco conocidas por su especificidad. Por este motivo, el evento ha puesto el foco en compartir estas experiencias de forma integral y con una perspectiva nacional para evitar así lagunas de conocimiento que puedan obstaculizar el aprovechamiento de la inversión pública en este ámbito.

“Nos encontramos en un momento crucial para la transformación del sistema sanitario”, concluyó Jorge Tello, coordinador del Grupo de Trabajo de Inteligencia Artificial y Nuevas Tecnologías de AseBio y Chief Strategy Officer de Savana, “porque disponemos como país de la voluntad, la experiencia, el talento y la financiación para liderar a nivel global una correcta aplicación de la Inteligencia Artificial en el ámbito de la Salud, desde el punto de vista humano, animal y ambiental. Solo nos queda coordinarnos adecuadamente entre todos los actores”. 

La entrada Jornada Ministerio Sanidad: «Retos y oportunidades para España de la aplicación de la IA en los espacios de datos sanitarios” se publicó primero en bots.blog_.

El problema de la fiabilidad

En un mundo donde la IA generativa, como la famosa ChatGPT, puede crear desde textos hasta imágenes y audios, el peligro reside en la fiabilidad de la información, Lefebvre informa que la novedad radica en la rigurosa selección de fuentes verificadas, centrando sus algoritmos exclusivamente en contenido jurídico actualizado. Así, evita los problemas inherentes a los datos obsoletos o no verificados que a menudo aquejan a las tecnologías generativas.

Amplia gama de información

Con esta IA, la firma procesa una amplia gama de información, desde la doctrina y jurisprudencia hasta leyes y reglamentos, utilizando fuentes de alta reputación como los Mementos. Además, la tecnología se apoya en enlaces a las fuentes para ofrecer resultados precisos y fácilmente comprensibles. «Nuestro objetivo es ofrecer soluciones de confianza que aporten valor y beneficios reales a nuestros clientes», afirma Olivier Campenon, CEO de Lefebvre Sarrut.

Incorporada en las gamas premium de sus servicios NEO y QMemento, la IA de Lefebvre aporta respuestas híbridas y certeras. La compañía refuerza así su objetivo de liderar el sector tecnológico legal.

En resumen, esta incorporación marca un antes y un después en la tecnología jurídica, Lefebvre da un gran paso adelante en la integración de IA generativa fiable en el mundo legal.

La entrada Lefebvre incorpora IA generativa a la búsqueda de información jurídica se publicó primero en bots.blog_.

La demanda

En la demanda presentada en el Distrito Sur de Nueva York, los autores argumentan que ChatGPT permite a los usuarios generar contenido que esencialmente puede servir como precuelas o secuelas de sus propias obras. Esto se considera especialmente problemático en el caso de Martin, quien aún no ha completado las últimas entregas de su famosa serie «Canción de Hielo y Fuego», base para la serie de televisión «Juego de Tronos». Los autores describen este acto como un «robo sistemático a escala masiva» de sus obras literarias.

La posición de OpenAI

OpenAI, por su parte, ha mantenido una postura defensiva. La empresa sostiene que respeta los derechos de autor y está dispuesta a dialogar con los creadores afectados. Además, han mantenido conversaciones con el Authors Guild, una organización que representa los intereses de los escritores y que ha respaldado la demanda. Mary Rasenberger, la directora ejecutiva del Authors Guild, enfatizó que los autores deben tener el control sobre cómo se utilizan sus obras, especialmente en el contexto de la IA generativa que tiene el potencial de «reemplazar» a los autores humanos en la literatura.

Procedencia de los textos

Una de las inquietudes adicionales planteadas en la demanda es la procedencia de los textos utilizados por la IA, sugiriendo que podrían provenir de «depósitos de libros piratas». Esto añade otra capa de complejidad ética y legal al caso.

Los demandantes buscan una prohibición explícita contra el uso de sus obras en el entrenamiento de modelos de lenguaje de OpenAI, así como indemnizaciones que ascienden hasta $150,000 por obra infringida. Esta demanda sigue la estela de casos similares presentados contra otras empresas de tecnología, como Meta Platforms, que también se enfrentan a preguntas sobre la utilización ética de contenido protegido por derechos de autor en sus respectivos modelos de IA.

Consecuencias para el futuro La batalla legal en curso podría tener profundas implicaciones para el futuro de la inteligencia artificial y la creatividad humana, cuestionando la ética de entrenar modelos de lenguaje con obras literarias sin la autorización explícita de los autores. Este caso ejemplifica la creciente tensión entre el avance tecnológico rápido y las consideraciones éticas y legales que lo acompañan.

La entrada Denuncias sobre OpenAI se publicó primero en bots.blog_.

Beneficios de la Ley

Beneficios para los consumidores incluyen un entorno en línea más seguro, mayor transparencia sobre algoritmos y prácticas comerciales, moderación de contenidos más diligente y protecciones contra la publicidad personalizada dirigida a menores y basada en perfiles. Sin embargo, persisten dudas sobre la implementación y aplicación efectiva de estas obligaciones. La aplicación de la DSA dependerá de un control exhaustivo por parte de la Comisión Europea y las autoridades de cada Estado Miembro. Algunas grandes plataformas han cuestionado sus designaciones como VLOPs/VLOSEs, lo que plantea interrogantes sobre su cumplimiento.

Sociedad civil en DSA

CECU destaca la importancia de incluir la visión de la sociedad civil en la implementación de la DSA. Algunas organizaciones ya han pedido a la Comisión Europea que utilice sus poderes bajo la DSA para garantizar que las grandes plataformas informen sobre cómo mitigar riesgos sistémicos en elecciones europeas 2024.

Un hito

En resumen, la DSA representa un hito en la regulación de plataformas digitales, pero su efectividad dependerá de su implementación y control, así como de la colaboración de las grandes empresas tecnológicas.

La entrada La Nueva Ley de Servicios Digitales se publicó primero en bots.blog_.

El uso de la IA en el entorno jurídico

En cuanto a la inteligencia artificial (IA), ha habido incertidumbre en ediciones anteriores del estudio, pero este año muestra que el 57% planea aumentar su uso en los próximos años, aunque persisten dudas sobre su adopción y percepción. A pesar de los avances en el trabajo remoto, el 45% de los asesores jurídicos mencionó desafíos asociados con esta modalidad. Para mejorar la conexión con sus equipos, se proponen ofrecer más tiempo libre, aumentar las oportunidades individuales y reestructurar la prestación de asesoramiento jurídico.

La entrada Se va a disparar el uso de la IA en el Ambito Jurídico se publicó primero en bots.blog_.

¿Qué cuestiones relacionadas con la IA examinan primero los reguladores?

La UE estaba a punto de ultimar una ley sobre la IA, la primera de su clase, que habría controlado, o incluso prohibido, los sistemas de IA supuestamente «de alto riesgo», como los utilizados para tomar decisiones sobre solicitudes de empleo, préstamos o tratamientos médicos. Entonces estalló la fiebre de ChatGPT, el enorme interés público por el ‘chatbot’ gratuito de IA generativa de OpenAI.

Los legisladores no tardaron en ajustar sus planes para incluir los llamados modelos fundacionales, como el gran modelo lingüístico detrás de ChatGPT.

Las normas de la UE obligarían a las empresas a revelar con qué datos se han entrenado estos modelos y podrían hacerlas responsables del uso indebido de la tecnología, aunque no controlen las aplicaciones finales.

¿Se convertirá la regulación europea de la IA en un modelo para el resto del mundo?

Eso es lo que sucedió con la legislación de protección de datos del bloque, y es un posible desenlace que preocupa a las empresas tecnológicas estadounidenses. Los defensores de la ley de la UE afirman que se aplicará con flexibilidad para reflejar la evolución de las normas y los avances tecnológicos. Pero los detractores sostienen que la experiencia demuestra que Bruselas adopta un enfoque más dogmático y que las normas que se introduzcan ahora podrían limitar la evolución de la tecnología.

Algunas empresas europeas están de acuerdo. En una carta enviada a la Comisión Europea en junio, 150 grandes empresas europeas advertían de que la ley podría lastrar la economía del bloque al impedir que las empresas utilizaran libremente tecnología de IA importante.

La versión final de la ley debe negociarse a tres bandas entre el Parlamento, la Comisión y el Consejo de los Estados miembros, lo que significa que aún puede haber cambios.

La entrada Regulación IA en la UE se publicó primero en bots.blog_.