La inteligencia artificial ha salido del laboratorio y se ha instalado en la vida cotidiana. Escribe código, analiza documentos, crea imágenes y responde preguntas de clientes. Pero a medida que la IA forma parte de decisiones que afectan a las personas —desde la contratación hasta la prestación de servicios públicos—, el costo de los errores aumenta. La pregunta clave ya no es si la IA es útil, sino quién es responsable cuando falla y quién se beneficia de sus avances.

Los riesgos ya no son teóricos

Uno de los peligros más visibles es la información convincente pero falsa. Los modelos generativos pueden presentar ficción como hecho con total seguridad, mientras que las imágenes y el audio sintéticos pueden imitar a personas reales. Esto abre la puerta al fraude, a pruebas fabricadas y a ataques informativos. Sin embargo, la magnitud de la influencia de la IA en la opinión pública no siempre es fácil de establecer: la existencia de deepfakes no prueba, por sí sola, que hayan cambiado el resultado de una elección o de una decisión pública.

El problema va más allá de los errores individuales. Un modelo entrenado con datos desequilibrados o sesgados puede reproducir y amplificar estereotipos existentes. En sistemas que afectan la contratación, los préstamos, la educación o el acceso a servicios, esto puede derivar en decisiones injustas, y las personas pueden tener dificultades para entender por qué se las perjudicó. El Índice de IA de Stanford señala que incluso los modelos modernos siguen mostrando sesgos implícitos de género y raza.

Los riesgos para la privacidad también acechan. Los usuarios pueden entregar documentos, correspondencia o información personal sin saber cuánto tiempo se almacenarán esos datos ni si se usarán para entrenamiento. Las empresas, a su vez, pueden exponer accidentalmente información comercial confidencial a través de herramientas de IA. Otra vulnerabilidad radica en nuevas formas de ataque: actores maliciosos pueden usar la IA para escalar el phishing y los ciberataques, mientras que los propios modelos pueden ser atacados mediante prompts especialmente diseñados o datos envenenados.

El mercado laboral también siente la presión, pero reducir el debate a “la IA quitará puestos de trabajo” simplifica demasiado el asunto. Según el FMI, alrededor del 40% de los empleos en el mundo están expuestos a la IA. Eso significa que las tareas y ocupaciones pueden cambiar, no que un número equivalente de empleos vaya a desaparecer automáticamente. En las economías avanzadas, la proporción de empleos afectados es mayor. Algunos trabajadores pueden ver mejoras en su productividad, mientras que otros pueden enfrentar una caída en la demanda de su trabajo, presión a la baja sobre los salarios y la necesidad de reciclarse.

Por último, existe el riesgo de que los beneficios se concentren en muy pocas manos. Desarrollar modelos avanzados requiere una potencia de cómputo, datos, capital y energía considerables. Si el acceso a la infraestructura y los retornos de la IA se concentran en un pequeño número de empresas y países, el progreso tecnológico podría profundizar las desigualdades económicas existentes. La creciente demanda de potencia de cómputo también plantea interrogantes sobre el consumo de energía y la presión sobre la infraestructura.

Cómo están respondiendo los gobiernos

Los países están adoptando enfoques distintos, pero un cambio común es evidente: la regulación se basa cada vez menos en el mero uso de la IA y más en su nivel de riesgo y su impacto potencial en las personas.

La Unión Europea ha adoptado este enfoque en su Ley de IA. La ley se está implementando por fases: las prohibiciones y los requisitos de alfabetización en IA comenzaron a aplicarse en febrero de 2025, mientras que las normas para los modelos de IA de propósito general llegaron en agosto de 2025. Los requisitos de transparencia y los mecanismos de aplicación correspondientes están previstos para agosto de 2026. Las normas para ciertos sistemas de alto riesgo llegarán más tarde, con una implementación completa prevista hasta 2028. El principio práctico es que una herramienta que genera eslóganes publicitarios no debería tratarse igual que un algoritmo que influye en el acceso de una persona a un servicio esencial.

En Estados Unidos, los estándares para gestionar riesgos desempeñan un papel importante junto con la legislación. El NIST ha desarrollado el Marco de Gestión de Riesgos de IA (AI RMF), de carácter voluntario, que ayuda a las organizaciones a evaluar y gestionar riesgos durante el diseño, desarrollo y uso de la IA. Un perfil aparte aborda la IA generativa. Este enfoque puede ayudar a las organizaciones a establecer pruebas y supervisión, aunque una guía voluntaria por sí sola no puede garantizar que todos en el mercado la sigan.

Organizaciones internacionales, incluida la OCDE, enfatizan la necesidad de transparencia, supervisión y salvaguardias proporcionales. La apuesta es especialmente alta cuando los gobiernos usan la IA —por ejemplo, para prestar servicios o tomar decisiones que afectan los derechos de los ciudadanos—. La OCDE advierte que los datos sesgados, la falta de transparencia y la dependencia excesiva de sistemas automatizados pueden debilitar la rendición de cuentas y socavar la confianza pública.

Pero la regulación enfrenta un desafío difícil: las normas deben reducir el daño sin convertirse en una barrera para la innovación útil. Si las regulaciones son demasiado amplias, pueden ser ineficaces. Si son demasiado complejas y costosas, la ventaja puede quedar para las empresas más grandes, que pueden costear equipos legales y de cumplimiento, mientras que a los desarrolladores más pequeños les resulta más difícil entrar al mercado.

El mercado: el crecimiento continuará, pero las reglas cambiarán

El impulso económico sigue siendo fuerte. Según el Índice de IA de Stanford, la inversión privada en IA alcanzó los 252.300 millones de dólares en 2024, mientras que la IA generativa atrajo 33.900 millones. Estas cifras no prueban que toda inversión será rentable, pero muestran la magnitud de las expectativas y la competencia.

La próxima etapa del mercado probablemente estará marcada no solo por el tamaño de los modelos y las demostraciones impresionantes, sino por la fiabilidad con que la IA funciona en industrias específicas. A las empresas les importa la precisión, la seguridad de los datos, los costos operativos y si los resultados se pueden verificar. A los clientes y reguladores les importa la transparencia, la rendición de cuentas y la posibilidad de impugnar una decisión. Como resultado, una ventaja duradera puede no ir para quienes adoptan la IA más rápido, sino para quienes la despliegan donde realmente mejora la calidad o la productividad, y pueden gestionar las consecuencias.

Al mismo tiempo, aumentará el gasto en pruebas, protección de datos, auditorías y cumplimiento normativo. Esto no necesariamente detendrá el crecimiento del mercado, pero cambiará el panorama competitivo: algunas empresas se especializarán en herramientas de supervisión, ciberseguridad, procedencia de contenido y soluciones específicas para cada industria. Los modelos de propósito general seguirán siendo importantes, pero la versatilidad por sí sola no bastará.

La cuestión no es si la IA se detendrá

Probablemente no lo hará. La tecnología ya está brindando beneficios medibles en algunas tareas y sigue atrayendo inversión. Pero la velocidad de adopción no es, por sí sola, una medida del progreso. Si las organizaciones tienen incentivos para automatizar un proceso pero ninguno para abordar las consecuencias de los errores, los riesgos se trasladarán a los trabajadores, los clientes y la sociedad.

Un mercado maduro de IA dependerá del equilibrio: la libertad de experimentar junto con la obligación de probar los sistemas; la automatización junto con la supervisión humana donde los errores tienen un costo alto; y las ganancias de productividad junto con la inversión en la formación y adaptación de los trabajadores. A largo plazo, el activo más valioso de la industria no será solo un modelo más potente, sino también la confianza en cómo se construye y se usa ese modelo.

Este artículo describe tendencias generales y no sustituye el asesoramiento legal o de inversión. Las cifras de mercado y las regulaciones se basan en las fuentes a continuación.