Inteligencia artificial y dignidad humana
Por: Juan Bautista González Saborido
Los avances en inteligencia artificial, robótica y las llamadas tecnologías “autónomas” han originado una serie de desafíos morales, jurídicos y políticos cada vez más urgentes y complejos. Existen esfuerzos para orientar estas tecnologías hacia el bien común y para resolver los dilemas que generan, pero las diversas iniciativas son un mosaico de voluntades dispares.
Por eso, nos parece relevante presentar sintéticamente algunos puntos del pensamiento del Papa Francisco sobre la cuestión, expuestos en diversas alocuciones y mensajes, porque, para nosotros, el diálogo entre el discurso religioso y la razón científica siempre es provechoso para la humanidad.
Así pues, el primer aspecto que señala el Papa Francisco es que la denominada “galaxia digital”, y en particular la llamada “inteligencia artificial”, están en el corazón mismo del cambio de época que estamos atravesando y están dotadas de un gran potencial para mejorar la vida de las personas y de la sociedad.
El segundo aspecto, es que es una tecnología que está cada vez más presente en las actividades e incluso en las decisiones humanas, a tal punto que está cambiando nuestra forma de pensar y actuar. La mayor parte de las decisiones, incluso las más importantes, como las del ámbito médico, económico o social, son hoy fruto de la voluntad humana y de una serie de contribuciones algorítmicas.
La tercera es que, en el ámbito socioeconómico, los usuarios a menudo quedan reducidos a meros “consumidores”, sometidos a intereses privados concentrados en manos de las grandes empresas dueñas de las plataformas digitales. En dicho ámbito, a partir de los rastros digitales diseminados en la web, explica Francisco, los algoritmos extraen datos con los cuales se pueden controlar los hábitos mentales y relacionales de los usuarios para fines comerciales o políticos, a menudo sin que ellos mismos lo sepan. Se limita así, el ejercicio consciente de la libertad de elección.
La cuarta es que la confidencialidad, la posesión de datos y la propiedad intelectual son ámbitos en los que las tecnologías en cuestión plantean graves riesgos. A ello se agregan otras consecuencias negativas debido a su uso impropio, como la discriminación, la interferencia en los procesos electorales, la implantación de una sociedad que vigila y controla a las personas, la exclusión digital y la intensificación de un individualismo cada vez más desvinculado de la colectividad.
Por tanto, concluye Francisco, las nuevas tecnologías no son neutrales. Más bien, son instrumentos que modelan el mundo y comprometen las conciencias de las personas. Por ello, el Papa incita a que maduren motivaciones fuertes para perseverar en la búsqueda del bien común, frente a los intereses políticos, económicos y comerciales que atraviesan estas tecnologías.
Las propuestas frente a los desafíos.
Luego de realizar el diagnóstico y de señalar los riesgos de la IA, el Papa también formula una serie de propuestas. La primera, es la necesidad de una ética de los algoritmos o “algor-etica” que implica la responsabilidad de cada elemento del proceso de elaboración de estas máquinas. Al ser muchos los eslabones que intervienen en el proceso de creación de los aparatos tecnológicos (investigación, diseño, producción, distribución, uso individual y colectivo), cada una de ellos debe asumir una responsabilidad específica.
La segunda, es que, ante los desafíos éticos, no basta simplemente confiar en la sensibilidad moral de quienes investigan y proyectan dispositivos y algoritmos, sino que es necesario crear organismos sociales intermedios, multisectoriales, que garanticen la representación y tutela de los derechos de los usuarios y el aporte de las instituciones educativas.
La tercera es que los principios de la Doctrina Social de la Iglesia, dignidad de la persona, justicia, subsidiariedad y solidaridad, brindan una contribución decisiva. Estos principios expresan el compromiso de ponerse al servicio de cada persona en su totalidad y de todas las personas, sin discriminación ni exclusión.
La cuarta y última, es que la dignidad intrínseca de todo hombre y mujer es el criterio clave para evaluar las tecnologías emergentes. Las mismas revelan su positividad ética en la medida en que contribuyen a manifestar esa dignidad y a incrementar su expresión, en todos los niveles de la vida humana.
El concepto de dignidad humana, para Francisco, implica que el valor fundamental de una persona no puede medirse con un conjunto de datos. Por eso, en los procesos de toma de decisiones sociales y económicas, es un deber la cautela a la hora de confiar juicios a algoritmos que procesan datos recogidos, a menudo subrepticiamente, sobre las personas, sus características y los comportamientos pasados.
Conclusión
Existe una evidente asimetría entre los propietarios de las plataformas tecnológicas como Google, Amazon, Facebook,
Apple y Microsoft, los Estados Nacionales y los usuarios de las mismas. En este contexto, el aporte del magisterio del Papa Francisco es lucido, realista y valioso para diseñar una regulación robusta de los sistemas de IA tanto a nivel nacional como internacional.
Dicha regulación debe tutelar especialmente la dignidad y los derechos fundamentales de la persona humana, como por ejemplo: el derecho a la intimidad, a la privacidad, a la identidad, a la información, y debe promover la justicia y la búsqueda del bien común.
Todavía estamos a tiempo de controlar la IA y los algoritmos que aparentemente ya nos controlan. Para ello, lo más importante es que pongamos la razón moral por encima de la razón técnica. La tecnología siempre podrá ser un aliado del progreso, pero si se la incorpora en un marco ético y jurídico que jerarquice la dignidad humana.
Por eso es importante no centrarse solo en lo que puede hacer la IA, sino también en lo que pueden hacer las personas (creatividad, empatía, colaboración), lo que queremos que sigan haciendo, y buscar formas de qué humanos y máquinas puedan trabajar mejor juntos (complementariedad).
En definitiva, lo que necesitamos es humanizar la tecnología para poner a la persona y a sus derechos fundamentales en el centro de todos los avances tecnológicos.
* Profesor e investigador de la Facultad de Ciencias Jurídicas (USAL)
