LA DISCUSIÓN MORAL EN LA REGULACIÓN DE LA INTELIGENCIA ARTIFICIAL

Por Javier Ignacio Tobar

La discusión sobre la regulación de la inteligencia artificial en Chile no puede reducirse únicamente a un problema técnico, económico o productivo. Desde mi perspectiva, una de las perspectivas centrales de esta discusión debe ser, principalmente, “moral”. No porque la tecnología sea, en sí misma, moral o inmoral, sino porque toda decisión humana respecto de su diseño, implementación, distribución y uso compromete valores, prioridades y formas de comprender la dignidad humana, la libertad y la democracia.

Durante años, la discusión tecnológica estuvo dominada por la fascinación frente a la innovación. Se asumía -años atrás- que el progreso técnico era necesariamente positivo y que cualquier obstáculo regulatorio representaba un freno para el desarrollo, sin embargo, la irrupción de sistemas avanzados de inteligencia artificial ha demostrado que la innovación no es neutral. Cada algoritmo incorpora decisiones humanas, intereses económicos, estructuras de poder, sesgos y criterios de selección que producen consecuencias concretas sobre la vida de las personas. Por ello, la regulación de la inteligencia artificial no puede limitarse a normas de funcionamiento técnico o a estándares de eficiencia; tiene que incorporar una reflexión ética profunda acerca de qué sociedad queremos construir y qué límites estamos dispuestos a establecer.

Uno de los errores más frecuentes en esta discusión consiste, precisamente, en atribuir autonomía moral a los sistemas tecnológicos. La inteligencia artificial no posee conciencia, prudencia ni responsabilidad moral; los sistemas de IA operan mediante patrones probabilísticos entrenados sobre enormes cantidades de datos, pero carecen de comprensión ética sobre las consecuencias de sus decisiones. Por ello, cuando un algoritmo discrimina, manipula o vulnera derechos, el problema no reside en la máquina como sujeto moral, sino en las estructuras humanas que la diseñan, financian y utilizan.

Esta cuestión resulta particularmente relevante en Chile, donde muchas veces la discusión pública sobre tecnología queda atrapada entre dos extremos igualmente problemáticos: el entusiasmo acrítico y el miedo catastrofista. Algunos consideran que la inteligencia artificial resolverá automáticamente los grandes problemas del país; otros sostienen que inevitablemente destruirá el empleo, la privacidad y la democracia. Ambas posiciones simplifican un fenómeno mucho más complejo.: la tecnología no determina por sí sola el destino de las sociedades. Lo determinante es el marco institucional, cultural y moral desde el cual dicha tecnología es incorporada.

Precisamente por ello, la regulación no puede entenderse únicamente como una herramienta jurídica. Debe concebirse como una expresión de deliberación democrática. Regular inteligencia artificial implica decidir qué valores protegeremos colectivamente y qué riesgos consideramos inaceptables. En consecuencia, la discusión regulatoria exige la participación no solo de ingenieros y empresas tecnológicas, sino también de filósofos, juristas, educadores, sociólogos, organizaciones civiles y ciudadanos.

Diversas publicaciones -en particular “Humanitas Activa”, la última Encíclica de El Vaticano y la primera de León XIV., además de otras publicaciones-, muestran con claridad que incluso los propios desarrolladores de inteligencia artificial han comenzado a reconocer la insuficiencia de una visión puramente técnica. Resulta especialmente significativo que líderes de laboratorios tecnológicos hayan advertido que las empresas operan bajo fuertes incentivos económicos, geopolíticos y comerciales que pueden entrar en conflicto con “hacer lo correcto”. Esta afirmación tiene una enorme relevancia filosófica y jurídica, porque implica reconocer que el mercado, por sí solo, no garantiza comportamientos éticamente aceptables. Allí aparece la necesidad de instituciones democráticas capaces de establecer límites, mecanismos de fiscalización y criterios de responsabilidad.

La cuestión moral adquiere aún mayor importancia cuando observamos los efectos concretos que la inteligencia artificial puede producir sobre la democracia. Hoy existen herramientas capaces de manipular información, crear contenidos falsos, generar campañas automatizadas de desinformación y alterar percepciones públicas mediante técnicas sofisticadas de segmentación psicológica. Los llamados deepfakes constituyen probablemente uno de los ejemplos más preocupantes de esta situación. La posibilidad de fabricar videos o audios falsos con apariencia de autenticidad amenaza directamente la confianza pública, la deliberación democrática y la propia noción de verdad compartida.

En una democracia constitucional como la chilena, este fenómeno no puede ser minimizado. Estas funcionan sobre la base de ciertos consensos mínimos respecto de los hechos y de la posibilidad de debatir racionalmente sobre ellos. Cuando la inteligencia artificial se utiliza para erosionar deliberadamente esa base común, el problema deja de ser tecnológico y se transforma en un problema político y moral de gran magnitud.

A ello se suma la cuestión de la privacidad y del tratamiento masivo de datos personales. La economía digital contemporánea funciona sobre la recopilación permanente de información acerca de hábitos, emociones, preferencias y comportamientos humanos. Los algoritmos aprenden de nosotros constantemente. En muchos casos, incluso son capaces de predecir conductas antes de que las personas tomen conciencia de ellas. Esto altera, profundamente, las categorías tradicionales del derecho y obliga a replantear la relación entre libertad individual y poder tecnológico.

Chile enfrenta aquí un desafío particularmente delicado. Durante décadas, el país construyó un modelo económico intensamente orientado al mercado y relativamente débil en materia de protección de datos y derechos digitales. La irrupción de la inteligencia artificial obliga a corregir parcialmente ese desequilibrio. Si no existen reglas claras sobre transparencia algorítmica, protección de datos, trazabilidad de decisiones automatizadas y responsabilidad institucional, el ciudadano queda en una situación de extrema vulnerabilidad frente a grandes corporaciones tecnológicas y estructuras estatales altamente informatizadas.

No se trata de rechazar la inteligencia artificial. Sería absurdo desconocer sus enormes potencialidades en salud, educación, productividad, transporte, investigación científica y acceso a la información. El problema aparece cuando el desarrollo tecnológico avanza sin reflexión ética suficiente y sin controles democráticos adecuados. La experiencia internacional demuestra que los riesgos no son hipotéticos. Ya existen casos documentados de algoritmos que discriminan por origen social, género o etnia; sistemas automatizados que afectan coberturas de salud; herramientas de vigilancia masiva incompatibles con derechos fundamentales; y plataformas digitales que priorizan contenidos extremos para maximizar interacción y rentabilidad (“sesgos”).

Por ello, considero que la regulación chilena debe orientarse sobre la base de ciertos principios fundamentales:

1. El primero es el principio de dignidad humana. Toda aplicación de inteligencia artificial debe reconocer que las personas no pueden ser reducidas a datos, perfiles o patrones estadísticos. El ser humano debe permanecer siempre como sujeto y nunca como simple objeto de procesamiento tecnológico.

• El segundo principio es el control humano significativo. Ningún sistema automatizado debería reemplazar completamente la deliberación humana en materias que involucren derechos fundamentales, libertades públicas o decisiones éticamente sensibles. La inteligencia artificial puede asistir procesos de decisión, pero no sustituir la responsabilidad moral y jurídica de las personas e instituciones.

• El tercer principio es la transparencia. Los ciudadanos tienen derecho a saber cuándo están interactuando con sistemas automatizados, qué datos se utilizan y bajo qué criterios se adoptan decisiones que pueden afectar sus vidas. La opacidad algorítmica resulta incompatible con una democracia madura y con un auténtico Estado de Derecho.

• El cuarto principio es la responsabilidad institucional. Las empresas y organismos públicos que implementen sistemas de inteligencia artificial deben responder jurídicamente por los daños que estos produzcan. La complejidad técnica no puede transformarse en una excusa para diluir responsabilidades.

• El quinto principio es la justicia social. La inteligencia artificial podría profundizar desigualdades ya existentes si sus beneficios quedan concentrados en determinados grupos económicos o territoriales. Chile debe evitar que la automatización aumente la exclusión laboral, la precarización o las brechas educativas. La discusión regulatoria debe incorporar necesariamente la pregunta sobre distribución equitativa de beneficios tecnológicos.

Sin embargo, ninguna regulación será suficiente si no existe una transformación cultural más profunda. La discusión moral sobre inteligencia artificial no puede quedar confinada a universidades, parlamentos o laboratorios tecnológicos. Debe transformarse en una conversación pública permanente. La ciudadanía necesita alfabetización digital crítica, comprensión ética de los sistemas tecnológicos y herramientas para participar informadamente en estas discusiones.

En este punto, la educación adquiere una importancia decisiva. Chile necesita formar profesionales técnicamente competentes, pero también moralmente responsables. Durante demasiado tiempo, la formación tecnológica estuvo separada de las humanidades y de la reflexión ética. Ese divorcio hoy resulta insostenible. Los ingenieros que diseñan algoritmos toman decisiones que afectan derechos fundamentales, relaciones laborales, dinámicas democráticas y formas de convivencia social. Por ello, la ética no puede ser un complemento opcional en la formación tecnológica; debe constituir parte central de ella.

Asimismo, considero que Chile debería avanzar hacia una institucionalidad especializada en inteligencia artificial y derechos digitales. Resulta insuficiente confiar únicamente en normas generales dispersas. El país necesita organismos con capacidad técnica y autonomía suficiente para fiscalizar sistemas algorítmicos, evaluar riesgos, emitir estándares y proteger efectivamente a los ciudadanos.

También resulta necesario observar las experiencias comparadas. Europa ha desarrollado una aproximación particularmente relevante al comprender que la inteligencia artificial debe ser regulada desde una lógica de protección de derechos fundamentales. Esa mirada resulta especialmente valiosa porque evita reducir el debate a criterios puramente comerciales o militares. Chile podría recoger varios de esos principios adaptándolos a su realidad institucional y cultural.

La discusión moral sobre inteligencia artificial es, en el fondo, una discusión sobre el tipo de humanidad que deseamos preservar. La tecnología modifica nuestras formas de trabajar, comunicarnos, informarnos y relacionarnos. Pero precisamente por ello, la sociedad debe decidir conscientemente qué aspectos de la experiencia humana considera irrenunciables. La empatía, la deliberación democrática, la responsabilidad moral, la privacidad, la autonomía personal y la dignidad no pueden quedar subordinadas únicamente a criterios de eficiencia técnica o rentabilidad económica.

La inteligencia artificial representa uno de los mayores desafíos regulatorios y filosóficos de nuestra época. Chile todavía se encuentra a tiempo para construir una regulación equilibrada, democrática y humanista. Pero ello exige abandonar la ingenuidad tecnológica y asumir que toda decisión sobre inteligencia artificial es, inevitablemente, una decisión moral. Allí reside la verdadera importancia de esta discusión: no estamos regulando únicamente máquinas sofisticadas; estamos definiendo los límites éticos de nuestra convivencia futura.

Javier Ignacio Tobar es Abogado. Académico. Ensayista.